Algorithme et discrimination
Le 18 novembre 2025, s’est tenue la journée nationale sur la discrimination algorithmique et la responsabilité politique organisée par la Commission fédérale en charge des questions féminines et par la Commission fédérale contre le racisme.
La Conseillère fédérale Elisabeth Baume-Schneider a relevé des cas d’usage d’algorithme qui ont un impact sur les droits des citoyens et citoyennes suisses. Il est essentiel de considérer les décisions dont personne n’assure la responsabilité. En effet, certains algorithmes sont devenus des co-décideurs sur des situations qui touchent au système de valeurs de notre société. Ils reflètent les données dont ils sont en possession, avec leurs biais.
Aujourd’hui l’interdiction de l’inégalité et de la discrimination sont couverts dans notre système juridique, néanmoins la discrimination algorithmique est un problème structurel. Ceci pourrait avoir pour effet que les efforts d’innovation ne puissent plus être valorisés.
La Suisse a signé la Convention du Conseil de l’Europe sur l’intelligence artificielle et donc s’est engagée au respect des valeurs fondamentales de la Suisse. Celle-ci est en cours de ratification et la Suisse a pris la décision de formaliser aujourd’hui les obligations par secteur ou par des codes de conduite volontaires.
Néanmoins, peu de mesures de sanctions adéquates existent actuellement. Il est difficile de connaître l’utilisation des algorithmes et les conséquences sur une discrimination potentielle.
La conseillère fédérale a terminé par la question : « Qui décide aujourd’hui ? Est-ce que ce sont les citoyen.n.es suisses ou les algorithmes qui n’ont pas de légitimité démocratique ? »
Proposition de réglementation
Les présidentes des commissions, Ursula Schüttel Schneider et Celsa Amarelle, revendiquent une règlementation suffisante pour contrer les discriminations raciales et de genre dans l’usage des algorithmes. La ratification en droit suisse de la Convention EU n’est pas suffisante pour protéger. Les deux commissions fédérales pour les questions féminines et contre le racisme suggèrent:
- une loi générale sur l’égalité de traitement avec mécanismes de recours en cas de violation des droits fondamentaux.
- Création des registres publics des systèmes
Ensuite, Susanne Kuster a expliqué la collaboration de la Suisse avec le Conseil de l’Europe. Le 12 février 2025, le Conseil fédéral avait annoncé la ratification de la Convention du Conseil de l’Europe sur l’intelligence artificielle. Les objectifs du Conseil fédéral sont les suivants :
- renforcer la Suisse en tant que lieu d’innovation,
- protéger les droits fondamentaux,
- augmenter la confiance de la population face à l’intelligence artificielle.
Diverses étapes sont prévues, y compris une réglementation transversale (mesures contraignantes (DJPD) et non-contraignantes (DETEC), alors que les secteurs et les thèmes spécifiques seront considérés de façon parallèle.
En sus de la Convention sur l’IA - qui couvre la gestion des risques, les notions d’égalité et de non-discrimination, la transparence et le contrôle, par exemple - un projet de recommandation du comité des ministres comprend une extension de mesures de protection et est actuellement en cours de rédaction.
Les intervenantes ont regretté que le processus démocratique soit si long, mais il est nécessaire de penser au contenu avec sérieux. La Suisse attend également l’input du Conseil de l’Europe.
Ensuite, Nadja Braun Binder et Florent Thouvenin ont présenté l’avis de droit commandé pour l’examen des dispositions juridiques couvrant le domaine des discriminations issues de l’usage des algorithmes.
Le paysage juridique suisse actuel pour contrer la discrimination ressemble à un puzzle et comprend notamment la Loi sur l’égalité, la Loi sur l’égalité pour les handicapés et la Loi sur la protection des données. Viennent aussi soutenir les droits fondamentaux des individus les clauses relatives à la protection de la personnalité (28 CC), illégalité (19-20 CO), violation de la bonne foi (2 CC) ou le droit du travail.
Dès lors, une loi générale sur l’égalité de traitement est proposée, avec pour alternative un nouveau principe de traitements des données dans la LPD et l’enregistrement des décisions individuelles essentiellement automatisées dans la LPD.
Les recommandations ont été présentées par Maya Dougoud et Blaise Mattey.
La Suisse s’engage en faveur d’une IA non-discriminatoire.
- Création d’une loi générale sur l’égalité de traitement
- Modifications ciblées de la LPD
- Création d’un centre de conseil
- D’autres éléments couvrent par exemple : un registre public, la volonté de renoncer aux décisions entièrement automatisées dans les domaines sensibles, une sensibilisation et formation indispensables ou des contrôles aléatoires standardisés.
Au niveau juridique, la proposition cible :
- Une qualification de la discrimination d’atteinte à la personnalité
- Un besoin important de recherche interdisciplinaire : le droit comme cadre et levier de mesures coercitives, ainsi qu’une responsabilité partagée (Etat, entreprises et société civile)
En fin de journée, la conseillère nationale Min Li Marti, le conseiller aux Etats Matthias Michel, Angela Müller, AlgorithmWatch, et Florent Thouvenin, professeur, ont échangé sur les défis de la Suisse.
Voici deux points de discussion :
- Est-ce qu’une loi interdisant la discrimination serait excessive, alors que (la plupart) des entreprises respectent le principe de non-discrimination per se ?
- Cette loi serait-elle utile, indépendamment de l’IA ? Le panel est d’avis que l’IA pose la question de façon plus accentuée actuellement et le besoin de légiférer est donc pertinent en ce moment.
Nous vous tiendrons au courant de la suite de ces développements.
Notez également que la consultation sur la loi sur les plateformes est ouverte et nous recherchons des membres intéressées à collaborer pour une prise de position.
Caroline Perriard