OPINION. « Biais de genre en sciences : et si l’IA était une solution ? », par Patrice Caine, PDG de Thales

« Jouez-vous au go ? » Étrangement, cette question permet presque à coup sûr de déterminer le genre de la personne qui y répond. En effet, à l’instar de certaines professions et cursus académiques scientifiques, la communauté des joueurs de go est largement dominée par les hommes. Comme pour les sciences, ce déséquilibre homme-femme a des origines culturelles et sociales et n’a probablement pas été une constante dans la très longue histoire de ce jeu. Comme pour les sciences aussi, il y a fort à parier que la manière dont il est enseigné contribue fortement à la perpétuation de cette surprenante inégalité.

C’est ce qu’ont voulu déterminer deux chercheurs de l’université de Hong Kong dans des travaux publiés en 2022. Leur expérience a permis de confronter les résultats de deux modalités d’enseignement du jeu de go. Dans un groupe, l’apprentissage était guidé par des professeurs humains. Dans l’autre, une intelligence artificielle incarnée par un petit personnage virtuel aidait les élèves à améliorer leur technique de jeu.

Au bout de cinq mois, l’expérience a livré des résultats sans ambiguïté : les élèves ayant bénéficié d’un accompagnement par l’IA ont atteint un niveau supérieur aux autres et, surtout, sans aucune différence entre filles et garçons. À l’inverse, dans le groupe supervisé par les professeurs humains, le biais de genre, qui préexistait, s’est maintenu.

Comment expliquer cet écart ? Très probablement par la prégnance, souvent inconsciente, de stéréotypes dans l’esprit des enseignants. Des stéréotypes qui se reflètent dans une multitude de signaux involontaires (donner la parole à tel élève plutôt qu’à tel autre, féliciter ou encourager plus chaleureusement celui-ci que celle-là, etc.) que les étudiants captent et amplifient.

Sous la tutelle d’une intelligence artificielle dépourvue de ces idées préconçues (ce dont il faut absolument s’assurer au préalable), les apprenties joueuses, détachées aussi des interactions avec leurs camarades, n’ont pas été soumises à ces stimuli inconscients négatifs.

La transposition de cette expérience au milieu scolaire est évidemment tentante. Est-elle suffisamment probante pour valider sans réserve la pertinence de l’IA pour l’éducation ? Assurément non. Justifie-telle qu’on explore les atouts potentiels de l’IA pour résoudre les problèmes de biais dans l’enseignement scientifique ? J’en suis convaincu.

La valeur de cette technologie en contexte scolaire constitue une question très complexe, qui occupera certainement les sociologues et les experts en pédagogie pendant de longues années. Entre le refus total de son utilisation et l’hypothèse, aussi peu crédible que peu souhaitable, d’un remplacement complet des humains, les modalités d’une mise en pratique vertueuse de l’IA, qui permettrait d’offrir aux élèves un suivi personnalisé en complément du rôle de leurs professeurs, restent à déterminer.

Mais l’exemple du jeu de go et l’urgence dans laquelle nous nous trouvons incitent à lancer sans tarder des expérimentations. Rappelons que, d’après les chiffres de l’Unesco, les jeunes femmes ne représentent aujourd’hui que 35 % des étudiants en Stim [science, technologie, ingénierie et mathématiques] dans le monde (32 % en France). À une époque où nous devons faire face à des défis scientifiques et d’ingénierie gigantesques, le monde (et notre pays en particulier) continue de se priver des talents d’une proportion considérable de sa population.

Les acteurs industriels et technologiques ne peuvent rester spectateurs de ces débats. En concevant des systèmes d’IA appelés à s’insérer dans des environnements sensibles (éducation, formation, recrutement), ils portent une responsabilité particulière : celle de ne pas reproduire mécaniquement les déséquilibres existants, et d’explorer, avec méthode, les moyens de les réduire.

L’enjeu n’est pas de croire que l’IA résoudra seule des inégalités profondément ancrées. Il est de savoir si nous accepterons encore longtemps de ne rien tenter de nouveau face à des biais que nous connaissons, que nous mesurons, et dont nous savons qu’ils privent durablement la science de talents essentiels.