Agathe Hell et Genane Youness
Photo d'illustration
DR
L'intelligence artificielle redéfinit en profondeur nos sociétés : elle façonne notre manière de travailler, d'apprendre et d'interagir avec le monde. Mais derrière cette révolution technologique se cache une réalité plus préoccupante : l'IA est loin d'être neutre. Elle reflète, et parfois amplifie, les biais sociaux et historiques, notamment en matière d'inégalités de genre. En cette Journée internationale des droits des femmes, il est essentiel de rappeler que les algorithmes, aussi avancés soient-ils, restent le produit de données façonnées par un passé marqué par des déséquilibres de genre. Loin d'être une simple question technique, l'équité algorithmique est un enjeu de justice sociale et d'innovation durable.
Selon l'UNESCO, dans le cadre du consensus de Beijing en 2019, les risques d'une IA développée majoritairement par des hommes et entraînée sur des bases de données biaisées étaient déjà soulignées. Un cas emblématique est celui de l'algorithme de recrutement d'Amazon, qui, en 2017, discriminait systématiquement les candidatures féminines en se basant sur des données historiques de l'entreprise favorisant majoritairement les profils masculins. Ce cas illustre bien les risques liés à une IA entraînée sur des bases de données biaisées, qui peut non seulement perpétuer ces inégalités, mais aussi les renforcer à grande échelle.
Mais ces biais ne se limitent pas au recrutement : les assistants vocaux adoptent souvent par défaut des voix féminines pour des tâches d'assistance, tandis que les modèles d'IA dans la finance ou la santé sont majoritairement masculins, renforçant les stéréotypes de genre, comme plus d'autorité, d'expertise et de crédibilité sur les sujets. Le problème n'est pas technologique, il est sociétal.
Face à ces défis, des initiatives émergent pour garantir une intelligence artificielle plus responsable et inclusive. Des chercheurs du monde entier, y compris au sein de CESI, travaillent activement sur l'équité algorithmique afin d'identifier et de corriger ces biais. Ces efforts reposent sur trois axes majeurs :
- Détecter les biais : les variables sensibles comme le genre, l'âge ou l'origine ne doivent pas influencer les décisions algorithmiques. Cela implique d'analyser en profondeur les modèles pour s'assurer qu'ils ne reproduisent pas de discriminations systémiques.
- Garantir la transparence et l'explicabilité des modèles : les systèmes d'IA doivent être audités pour comprendre leurs décisions et les corriger en cas de biais avérés.
- Garder l'humain au cœur du processus : la diversité dans la conception de l'IA est une condition importante pour assurer un développement technologique équilibré et juste. L'IA ne doit jamais être une boîte noire déconnectée des réalités sociales. L'intervention humaine est indispensable pour valider, ajuster et garantir une prise de décision éthique et responsable.
L’actualité qui compte pour vous, chaque jour dans votre boîte mail.
Les travaux menés dans le domaine de l'équité algorithmique démontrent qu'une IA responsable ne peut être conçue qu'en intégrant une diversité de points de vue. Il est donc impératif d'accroître la représentation des femmes dans la conception et le développement des technologies d'IA. Les recherches montrent, par exemple, que la diversité des équipes réduit les biais algorithmiques et améliore la représentativité des modèles.
L'IA transforme profondément le marché du travail, mais son impact est loin d'être neutre en matière de genre, notamment concernant les métiers occupés par des femmes. Selon une étude de McKinsey, les métiers les plus automatisables, comme les postes d'assistants administratifs ou de secrétaires, sont majoritairement occupés par des femmes. Ces professions, en première ligne face à l'automatisation et l'essor de l'IA, pourraient disparaître ou se transformer radicalement dans les années à venir.
En parallèle, les métiers d'avenir dans l'IA, la cybersécurité ou la data science restent encore massivement masculins : en 2023, seulement 22 % des professionnels de l'IA et de la Tech sont des femmes. Si cette tendance persiste, les bénéfices de l'intelligence artificielle seront répartis de manière inégale, avec un risque accru d'exclusion des femmes des secteurs technologiques stratégiques. Pourtant, favoriser leur accès à ces carrières pourrait permettre de rééquilibrer la balance et d'assurer que l'intelligence artificielle réponde aux besoins et aux attentes de l'ensemble de la société.
Face à ces constats, l'éducation et la formation jouent un rôle clé. CESI s'engage activement pour sensibiliser les futures générations d'ingénieurs et de chercheurs aux enjeux éthiques de l'IA, notamment à travers le projet CAIRE (Citizen-oriented Artificial Intelligence training for a Responsible Education) qui vise à former plus de 28 000 citoyens aux enjeux de l'IA. Ce programme met un accent particulier sur les questions éthiques et sur la nécessité d'une intelligence artificielle non discriminante.
D'autres efforts sont également menés pour inciter les jeunes filles à se tourner vers les carrières scientifiques et technologiques. « Si nous voulons que l'IA reflète fidèlement la diversité du monde, nous devons encourager davantage de femmes à s'impliquer dans son développement. Cela passe par des formations inclusives et accessibles à toutes, mais aussi par des modèles inspirants et des mentors qui accompagnent ces nouvelles vocations », explique Génane Youness, enseignante-chercheuse à CESI LINEACT.
L'IA doit être un outil de progrès et non un amplificateur d'inégalités. Pour y parvenir, nous devons collectivement œuvrer pour une intelligence artificielle plus responsable, inclusive et éthique. Former, sensibiliser et inclure : c'est ainsi que nous façonnerons une IA qui reflète réellement la diversité et les valeurs de notre société. Seule une approche réfléchie et inclusive, qui place l'humain au cœur du développement technologique, permettra de transformer les défis d'aujourd'hui en opportunités pour demain.
En cette Journée internationale des droits des femmes, engageons-nous à former, inclure et valoriser les talents féminins pour bâtir une intelligence artificielle de confiance.
Agathe Hell et Genane Youness
