Le corps des femmes, première cible des utilisateurs de l'IA générative

Marine Protais

Publié le 08 mars 2024 à 17:03 - Mis à jour le 08 mars 2024 à 17:32

Image de « femmes séduisantes » générée par l'intelligence artificielle via l'outil Adobe Firefly.

La démocratisation des outils d'intelligence artificielle générative, qui permettent de créer en quelques clics de fausses images à caractère sexuel, sert une industrie du deepfake pornographique, dégradant et stéréotypant à moindre frais l'image des femmes. A l'occasion du la Journée internationale des droits des femmes, ce vendredi, La Tribune revient sur ces pratiques, revers peu reluisant du progrès technologique.

Des influenceuses virtuelles hyper sexualisées en pagaille sur Instagram, des adolescentes de 13 ans déshabillées par leurs camarades de classe, des créatrices de contenus continuellement victimes de montages pornographiques... L'IA générative, capable notamment de créer des images à partir d'un simple texte, a industrialisé comme jamais l'objectification du corps des femmes.

À partir de quelques outils accessibles sans grande connaissance technique, gratuits ou peu chers, il est possible de créer et de diffuser des images dénigrantes. Cela donne l'occasion à une multitude d'individus et d'entreprises de faire de l'abaissement du corps des femmes un business lucratif.

A LIRE AUSSI

IA : les géants de la tech vont développer des outils pour débusquer les « deepfakes » à l'approche de plusieurs élections

« Déshabiller des femmes gratuitement », peut-on ainsi lire sur l'appli ClothOff, lancée par un frère et une sœur biélorusses, comme l'a récemment révélé The Guardian. Cette dernière a fait parler d'elle à l'automne dernier. À Almendralejo, dans le sud de l'Espagne, une dizaine de collégiennes de 14 ans se sont retrouvées « dénudées » par les garçons de leur classe utilisateurs de l'application.

Grâce à un algorithme, ClothOff crée un corps nu à partir d'une photo d'une femme ou d'une fille habillée. Ce corps n'est en rien le sien, mais l'illusion fonctionne. Une mère des jeunes filles tire la sonnette d'alarme sur les réseaux sociaux et crée un mouvement de panique chez les parents. Le même type de faits divers s'est produit dans des lycées américains.

Des centaines de milliers de deepfakes porn sur le web

L'épisode fait prendre conscience que la cyberviolence sexiste peut être utilisée à l'encontre de n'importe quelle femme. Si le phénomène touchait dès 2018 les actrices (Scarlett Johansson fut l'une des premières à s'en inquiéter, récemment c'est Taylor Swift qui a été victime de ce type de photomontage), il s'est désormais largement démocratisé.

Newsletter

Tech & IA

Chaque jour à 13h, l’essentiel de l’actualité tech.

Si bien qu'au Royaume-Uni, la loi définit désormais leur diffusion sans consentement comme un crime. Cette décision est intervenue après la publication de nombreux témoignages de jeunes femmes victimes de « deepfakes porn », des photos et vidéos d'elles à caractère sexuel, truquées grâce à des outils d'IA. Toutes relatent la même sensation de dégoût, de violation, de honte, de stupéfaction... En France, un amendement à loi SREN (projet de loi visant à sécuriser et réguler l'espace numérique) ajouté fin 2023 inscrit comme délit dans le code pénal « le fait de porter à la connaissance du public ou d'un tiers » un hypertrucage à caractère sexuel. Ils seront passibles de 3 ans d'emprisonnement et 75.000 euros d'amende.

A LIRE AUSSI

Les garde-fous des IA génératives ne servent pas à grand-chose

Selon une enquête du quotidien Le Monde, leur nombre aurait considérablement explosé. Le média reprend les chiffres de la statisticienne Geneviève O. La spécialiste du sujet recense 276.149 vidéos de deepfake porns accessibles sur le Web traditionnel au dernier trimestre 2023. Parmi les sites qui les hébergent, on trouve MrDeepfake, ou des sites pornographiques traditionnels, comme XVideos et XNXX. Le groupe Mind (Pornhub) affirme bannir ce type de vidéos. Ces images circulent aussi sur des forums Discord ou des conversations Telegram, parfois moyennant échanges d'argent, via des virements souvent réalisés en cryptomonnaie.

En France, plusieurs personnalités dont la journaliste Salomé Saqué, la youtubeuse Juju Fitcats et l'influenceuse Lena Situations ont alerté sur ce phénomène, dont elles ont, elles-mêmes, été victimes. « Merci les IA. Non seulement le harcèlement et les humiliations ne diminuent pas sur les réseaux, mais ça s'intensifie », écrivait Salomé Saqué sur X, il y a quelques mois.

Des femmes-objets virtuelles

Dans une longue enquête, le site américain 404 media détaille la « supply chain » de cette nouvelle industrie. Elle commence notamment sur CivitAI, un site où l'on peut télécharger des modèles d'IA. Certains sont paramétrés pour créer des contenus pornographiques et ainsi utilisés pour créer des images truquées à partir de personnes réelles. Même si le site ne le permet pas en principe. Ces algorithmes sont de plus entraînés sur des images de travailleuses du sexe qui, elles aussi, subissent une utilisation de leurs corps sans leur consentement.

« Les travailleuses du sexe et les femmes sont déjà déshumanisées, a-t-elle dit. Mettre en scène un archétype non humain de femme remplaçant des emplois et satisfaisant une représentation de ce que les femmes devraient être pour les hommes ? Cela ne fait qu'alimenter davantage l'argument selon lequel les femmes ne sont pas humaines », résume Fiona Mae, créatrice de contenus sur la plateforme OnlyFans.

Parallèlement à ce phénomène, un autre se manifeste, contribuant également à la réification du corps des femmes. Il s'agit de l'émergence sur les réseaux sociaux (majoritairement TikTok et Instagram) d'influenceuses virtuelles hyper sexualisées. Elles aussi sont créées via des outils d'IA. Très loin du « body positivism » que l'on croise ailleurs sur ces réseaux, ces femmes imaginaires reproduisent les mêmes stéréotypes à l'infini. Toutes ont d'énormes poitrines, la taille fine, la peau lisse et blanche la plupart du temps, des cheveux longs. Leurs publications se résument essentiellement à des photos suggestives, appelés thirst trap (photo pour attiser le désir) sur les réseaux sociaux.

De nouveaux standards de beauté inatteignables

Derrière ces profils, on trouve généralement des hommes. Leurs créations, qui ont comme principal cible d'autres hommes, sont un gagne-pain. Car en plus de profils accessibles gratuitement, ces comptes proposent souvent des contenus payants, accessibles notamment sur Fanvue, une plateforme similaire à OnlyFans, où sont hébergés des contenus pornographiques. Certaines influenceuses virtuelles proposent aussi des services de chat, façon minitel rose 3.0, alimenté de manière automatique par des grands modèles de langage.

Pour mettre au point ces profils, des entrepreneurs du web se donnent des conseils via YouTube et Discord. On trouve ainsi une multitude de vidéos tutorielles pour créer et monétiser son influenceuse IA. Pour obtenir des vidéos plus réalistes, certains font appel à des mannequins recrutés en freelance via des plateformes, ou se servent directement sur les comptes de véritables influenceuses. Ils utilisent cette vidéo de base et la mixe avec l'image de leur cyberpoupée.