Discrimination algorithmique en Suisse : la droite s’oppose à une nouvelle loi et les appels à la transparence
Discrimination algorithmique en Suisse : la droite s’oppose à une nouvelle loi et des appels à la transparence
Des tests menés sur des intelligences artificielles montrent des biais apparents lorsque l’on sollicite certaines IA pour générer une image d’un candidat à la présidence, afin d’éviter tout biais de genre. Le résultat privilégie systématiquement des hommes blancs en costume-cravate.
Dans le domaine médical, des IA spécialisées orientent parfois des traitements différemment selon la couleur de peau du patient. En matière de ressources humaines, des algorithmes semblent privilégier des profils masculins pour les postes de cadres.
« Les systèmes sont basés sur des données historiques. Ils reproduisent les schémas de pensée et les stéréotypes qu’ils contiennent et les transposent dans l’avenir », rappelle Angela Müller, directrice générale d’Algorithm Watch Suisse, dans le Tages-Anzeiger.
Conscientes que les IA peuvent influencer directement la vie des gens, la Commission fédérale pour les questions féminines (CFQF) et la Commission fédérale contre le racisme (CFR) ont commandé à l’Université de Zurich un avis de droit sur la question. Il en ressort que les Suisses ne bénéficient pas d’une protection suffisante contre la discrimination algorithmique.
Vers une loi spécifique et plus de transparence
Selon cet avis, il n’existe pas de base légale adéquate pour se défendre contre ce type de discrimination et les commissions préconisent l’élaboration d’une loi dédiée, applicable tant au secteur public qu’au privé. Elles exigent également que l’administration fédérale rende publiques les informations relatives aux IA et aux algorithmes qu’elle utilise.
Ancien conseiller aux États, conseiller national et président de l’USS, Paul Rechsteiner (PS) salue ces démarches. En revanche, du côté des formations de droite, on privilégie le statu quo.
La conseillère nationale Nina Fehr Düsel (UDC/ZH) affirme: « En Suisse, nous avons déjà beaucoup progressé en matière d’égalité. Une nouvelle loi n’apporterait pas grand-chose. » Dominik Blunschy (C/SZ) partage ce point de vue et propose de « continuer de développer le droit existant ». Il souligne par ailleurs que la convention du Conseil de l’Europe sur l’IA, ratifiée par le Conseil fédéral en mars dernier, permet déjà de protéger les personnes.
Cadre international et exigences de transparence
Si les opinions restent partagées, les autorités estiment nécessaire de progresser vers un cadre clair et applicable, afin de limiter les discriminations liées à l’usage des IA et des algorithmes, aussi bien au niveau fédéral que privé.
