Marine Protais
Ce contenu est réservé aux abonnés La Tribune
A gauche, l'image d'une personne productive selon DALL-E, à droite, l'image d'une personne s'occupant d'enfants. Dans les deux cas, le genre de la personne n'a pas été précisé au modèle.
Image générée par IA avec DALL-E
En 2021, le nom de Margaret Mitchell fait la une de la presse. Après trois ans chez Google à la tête de l'équipe de recherche en éthique de l'intelligence artificielle, elle est remerciée par son employeur. Officiellement, elle n'aurait pas respecté son code de conduite. Officieusement, la raison est son soutien à Timnit Gebru, autre chercheuse éthicienne, licenciée quelques mois plus tôt, suite à la publication d'un article scientifique sur les biais des systèmes d'intelligence artificielle. Selon Google, cet article ne respectait pas « les critères de publication » de l'entreprise. Pour Margaret Mitchell, sa collègue a été traitée de manière discriminatoire. Au moment de son renvoi, cette dernière était en train de monter un dossier pour le prouver.
Ce limogeage n'a pas empêché l'informaticienne devenue spécialiste de l'éthique, de s'imposer comme l'une des voix critiques les plus écoutées du secteur. La chercheuse, désignée comme l'une des 100 personnalités les plus influentes de l'IA par Time Magazine, œuvre désormais en tant que Chief Ethicist chez l'entreprise franco-américaine Hugging Face. Son combat est le même : se battre pour plus de diversité dans les équipes qui travaillent sur ces technologies, la transparence des données et une meilleure appréhension des problématiques éthiques liées à leur développement. Pour La Tribune, elle revient sur ces questions cruciales alors que Google vient de s'empêtrer dans une gestion maladroite des biais de son IA Gemini.
LA TRIBUNE - Récemment Google a fait l'objet d'une polémique, car son IA Gemini est accusée de ne pas assez représenter les personnes blanches, et de générer des aberrations historiques (des nazis allemands noirs par exemple). Pourtant, leur intention semblait louable...
À lire également
MARGARET MITCHELL - Le problème, c'est qu'ils ont pensé Gemini comme un modèle « one size fits all » (une taille pour tous). Ils n'ont pas réfléchi aux différents usages possibles. Notamment au fait que des utilisateurs allaient vouloir des représentations historiques. Dans ce cas précis, pondérer la représentation des personnes blanches, n'est pas forcément une bonne idée. Pourtant, il est assez simple techniquement d'analyser les prompts (le court texte tapé pour générer une image) des utilisateurs, d'en déduire un usage, et de préparer des sous-modèles différents en fonction de ces usages.
Marine Protais
