UE, Espagne, Brésil… Le ton monte contre les deepfakes sexuels générés par l'IA
L'outil Grok permet aux utilisateurs de demander à dénuder des personnes réelles à partir de photos ou vidéos.
Reuters
L'outil Grok permet aux utilisateurs de demander à dénuder des personnes réelles à partir de photos ou vidéos.
Reuters
L'indignation internationale s'amplifie contre les deepfakes sexuels générés par l'IA. Ce mardi 17 février, l'autorité irlandaise de protection des données (DPC) a annoncé l'ouverture d'une enquête européenne contre le réseau social X sur la création et la publication de ces images à caractère sexuel générées sur la plateforme via son outil d'intelligence artificielle (IA) Grok.
L'objectif de cette investigation, menée au nom de l'UE, est de déterminer si X a respecté ses obligations en vertu du RGPD – le règlement européen de protection des données – lors du traitement de données personnelles lié à la création et à la publication de ces images, précise la DPC dans son communiqué. La DPC est compétente pour agir au nom de l'UE car le siège européen de X se trouve en Irlande, comme ceux d'autres géants de la Silicon Valley.
Selon Graham Doyle, commissaire adjoint à la DPC, l'organisme est en contact avec le réseau d'Elon Musk « depuis l'apparition, il y a plusieurs semaines, des premiers articles de presse concernant la capacité présumée des utilisateurs de X à inciter le compte @Grok sur X à générer des images sexualisées de personnes réelles, y compris d'enfants ».
La DPC précise avoir prévenu lundi le réseau social de l'ouverture de cette enquête. Contacté par l'AFP, X n'avait pas répondu lundi soir. La Commission européenne avait déjà annoncé fin janvier une enquête visant à vérifier si le réseau a enfreint les puissantes règles européennes sur le numérique, qui lui imposent de protéger les utilisateurs contre les contenus illégaux.
Bruxelles avait pris une première mesure début janvier, ordonnant à X de conserver tous ses documents et données internes relatifs à Grok jusqu'à la fin de l'année.
Ce mardi également, l'Espagne a ordonné aux procureurs d'enquêter sur les plateformes X, Meta et TikTok sur la diffusion de contenu pédopornographique généré par l'IA.
« Ces plateformes mettent en péril la santé mentale, la dignité et les droits de nos enfants », a écrit le Premier ministre Pedro Sanchez sur le réseau social X d'Elon Musk. « L’État ne peut tolérer cela. L’impunité de ces géants doit cesser », a-t-il ajouté.
Chaque jour à 13h, l’essentiel de l’actualité tech.
Le chef du gouvernement espagnol a déclaré que le ministère de la Justice demanderait aux procureurs d'« enquêter sur les crimes que X, Meta et TikTok pourraient commettre par la création et la diffusion de pornographie infantile à l'aide de leur IA ». Les trois sociétés citées par Pedro Sanchez n'ont pas immédiatement répondu aux sollicitations de Reuters.
En Espagne, Un jeune sur cinq affirme que de fausses images de lui nu ont été créées par une IA et partagées en ligne alors qu'il était mineur, a indiqué le bureau de Pedro Sanchez, citant l'organisation de défense des droits de l'enfant Save the Children.
La porte-parole du gouvernement, Elma Saiz, a déclaré aux journalistes que les autorités « ne peuvent pas permettre aux algorithmes d'amplifier ou de dissimuler » de tels crimes, ajoutant que la sécurité, la vie privée et la dignité des enfants étaient menacées.
Mercredi dernier, c'est la justice brésilienne et deux agences nationales du Brésil qui ont ordonné à X de « mettre en œuvre immédiatement les mesures appropriées pour empêcher la production, à l'aide de Grok, de contenus sexualisés ou érotisés mettant en scène des enfants et des adolescents, ainsi que des adultes qui n'ont pas donné leur consentement ».
Les agences ont donné cinq jours à la plateforme du milliardaire Elon Musk pour se conformer à cet ordre, sous peine de poursuites judiciaires et d'amendes.
Face au tollé soulevé par la prolifération de ces images, des procédures ont aussi été lancées par la France et le Royaume-Uni. L'accès à X a même été suspendu ou bloqué par plusieurs États d'Asie du Sud-Est (Malaisie, Indonésie et Philippines), avant d'être rétabli.
La plateforme avait annoncé bloquer mi-janvier la génération d'images dénudées de personnes réelles « au sein des juridictions où cela est illégal », après avoir restreint dans un premier temps cette possibilité aux utilisateurs payants.
Mais la mise en œuvre effective de ce blocage reste floue. Le mois dernier, X a affirmé avoir supprimé des milliers de publications et suspendu des centaines de comptes après que le Brésil a émis un avertissement, selon les autorités brésiliennes. Mais les utilisateurs de Grok sont toujours en mesure de générer des images à caractère sexuel, ont-elles ajouté, critiquant X pour « son manque de transparence dans sa réponse ».
Selon une étude du CCDH, une ONG qui dénonce fréquemment les pratiques du réseau X, Grok a généré quelque trois millions d'images sexualisées de femmes et d'enfants sur une période de onze jours seulement, soit 190 images par minute en moyenne.
(Avec agences)
Derrière l’IPO de SpaceX, un pari massif sur l’IA plus que sur le spatial
LDLC améliore ses résultats, dans l'attente de « la révolution de l'IA »
IA : OpenAI envisagerait de baisser « drastiquement » ses prix face à la concurrence d'Anthropic
En Chine, l’IA détruit déjà des emplois (mais Pékin traque les licenciements massifs)