- Un chatbot IA suisse, pourtant conçu avec transparence, génère des CV où les salaires masculins sont en moyenne 20% supérieurs à ceux des femmes.
- Les biais persistent malgré des efforts de « débiaisation » et la publication ouverte de toutes les données de test par l’institut de recherche.
- L’expérience met en lumière les limites techniques actuelles pour créer une IA « neutre », un objectif clé de l’initiative nationale suisse pour une IA responsable.
- Les experts appellent à une régulation plus stricte, alors que 30% des entreprises suisses utilisent déjà des outils d’IA dans leurs RH.
Transparence ne rime pas avec neutralité
Un institut de recherche suisse a publié les résultats d’un test révélateur sur son propre chatbot à intelligence artificielle. Basé sur un modèle open-source et développé dans le cadre de l’initiative nationale pour une IA responsable, l’outil a été évalué sur des tâches de génération de CV et de recommandations professionnelles.
Les conclusions sont sans appel : malgré des efforts de « débiaisation » et une politique de transparence totale, le système reproduit des stéréotypes genrés marqués. « Nous avons tout publié pour permettre la reproductibilité et la vérification », explique un chercheur de l’institut.
Sur plus de 1 000 CV générés, les noms perçus comme masculins se sont vu attribuer des salaires systématiquement plus élevés et ont été plus souvent associés à des postes de direction. L’écart salarial moyen atteint 20% en défaveur des noms féminins. Dans les recommandations de carrière, les hommes étaient proposés pour des postes de direction dans 85% des cas, contre seulement 60% pour les femmes.
« Les biais genrés persistent malgré nos efforts de transparence », constate l’article du média SWI swissinfo.ch qui rapporte l’information. Cette persistance souligne un défi technique de fond : le fine-tuning et les méthodes actuelles de mitigation des biais ont des limites intrinsèques face aux données d’entraînement des grands modèles de langue.
Le cas suisse est emblématique d’une tension plus large dans le secteur de l’IA. D’un côté, une volonté affichée de développer une IA « éthique et neutre », souvent mise en avant comme un avantage compétitif local. De l’autre, la réalité algorithmique, qui reflète et amplifie les inégalités sociétales existantes.
Face à ces résultats, des experts, dont une experte en éthique IA citée, estiment que « l’IA suisse doit aller plus loin en matière d’équité ». Ils appellent à une régulation plus stricte, tant au niveau européen que suisse, pour encadrer ces technologies, notamment dans le domaine sensible des ressources humaines.
Cet appel résonne dans un contexte business précis : le marché de l’IA en Suisse croît d’environ 15% par an, avec un focus sur la finance et la pharma, et 30% des entreprises utilisent déjà des outils d’IA dans leurs processus RH. Les biais non corrigés risquent donc d’avoir un impact direct et automatisé sur l’embauche et la gestion de carrière.
Cette étude démontre que la transparence seule ne suffit pas à éliminer les biais discriminatoires dans l’IA. Pour les entreprises, notamment les 30% qui automatisent leurs RH, c’est un signal d’alarme sur la fiabilité éthique des outils utilisés. Pour le secteur de l’IA, cela expose les limites des approches techniques actuelles et accroît la pression réglementaire, poussant vers des standards de conformité plus stricts en Europe et en Suisse.
Le monde va à toute vitesse. Et si vous embauchiez une assistante personnelle IA ?
Découvrez Lisa, une assistante virtuelle intelligente qui gère vos emails, suit vos projets, se connecte à vos outils (agenda, documents, finances) et construit une mémoire persistante de ce qui compte pour vous. Chaque jour, elle transforme le flot d’informations en décisions claires, protège vos 6 dimensions d’équilibre de vie et automatise vos routines. Pour seulement 10 € par mois, vous pouvez l’embaucher dès maintenant.