latribune.fr
Grok aurait produit près de 190 images sexualisées par minute sur une période de 11 jours, déclenchant une offensive de la Commission européenne au titre du Digital Services Act.
Reuters
L’Europe durcit le ton face à la prolifération des contenus illégaux générés par l’intelligence artificielle. Ursula von der Leyen, présidente de la Commission, a annoncé que l’exécutif européen ne tolérera pas les « comportements insensés » des plateformes, citant explicitement les fausses images dénudées de femmes et d’enfants générées par Grok, l'IA de X/Twitter.
Cette offensive réglementaire marque une nouvelle étape dans le bras de fer entre Bruxelles et Elon Musk, alors que l’UE refuse de déléguer le consentement et la protection des citoyens à des géants de la tech accusés de privilégier le commerce au détriment de la sécurité.
Au cœur de l’investigation se trouve une fonctionnalité d’édition « en un clic » intégrée à Grok. Cet outil permet de transformer des photos réelles de mineurs ou de femmes en images sexualisées. L’ampleur du phénomène, documentée par des organismes indépendants, est vertigineuse. Selon le Center for Countering Digital Hate (CCDH), Grok a généré environ 3 millions d’images sexualisées en l’espace de seulement onze jours. Ce rythme industriel équivaut à 190 images produites chaque minute.
Les données publiées par l’organisation AI Forensics corroborent ce constat alarmant. Sur un échantillon de 20 000 images analysées, plus de la moitié représentaient des personnes en tenue minimale. Dans le détail, 81 % des sujets étaient des femmes et 2 % présentaient les traits de mineurs. Face à cette dérive, Bruxelles avait déjà ordonné début janvier à X de conserver l’intégralité de ses documents internes et données relatifs à Grok jusqu’à la fin de l’année 2026.
L’enquête lancée ce lundi s’inscrit dans le cadre du Digital Services Act (DSA). En tant que « très grande plateforme en ligne » (VLOP) revendiquant plus de 45 millions d’utilisateurs actifs dans l’UE, X est soumis aux obligations les plus strictes de la législation européenne. Le réseau doit non seulement mettre en place un système de signalement efficace, mais aussi réaliser des évaluations de risques systémiques concernant les violences sexistes et la protection des mineurs.
Chaque jour à 13h, l’essentiel de l’actualité tech.
La Commission européenne a parallèlement décidé d’étendre le périmètre d’une première enquête ouverte en décembre 2023. Cette procédure initiale avait déjà abouti à une amende de 120 millions d’euros infligée le mois dernier pour des manquements liés à la transparence publicitaire et à la manipulation d’informations. Avec cette nouvelle procédure, X s’expose à des sanctions financières bien plus lourdes, pouvant atteindre 6 % de son chiffre d’affaires annuel mondial en cas de violations substantielles.
Des réponses techniques jugées insuffisantes par les régulateurs
Sous la pression croissante de l’UE et d’autres États comme le Royaume-Uni ou la France, X a tenté d’éteindre l’incendie. La plateforme a annoncé mi-janvier un bridage de son outil d’IA dans les juridictions où la création de tels contenus est illégale, bloquant par exemple l’édition d’images de personnes réelles en bikini. Toutefois, des analyses récentes montrent que Grok continue de produire une proportion élevée d’images à caractère sexuel, remettant en cause l’efficacité de ces garde-fous auto-imposés.
Le régulateur européen dispose désormais de pouvoirs d’audit étendus. Il peut exiger l’accès aux logs techniques, aux décisions de modération et aux tests de sécurité de l’IA. Si X refuse de coopérer ou fournit des réponses trompeuses, des amendes de procédure s’élevant à 1 % du chiffre d’affaires mondial peuvent être déclenchées, complétées par des astreintes journalières pouvant atteindre 5 % des revenus quotidiens de l’entreprise.
L’affaire Grok dépasse le simple cadre de la sécurité en ligne pour devenir un point de friction diplomatique majeur entre Bruxelles et Washington. Le président américain Donald Trump accuse régulièrement l’Union européenne d’utiliser le DSA pour cibler les champions technologiques des États-Unis. En représailles, son administration a déjà sanctionné l’ancien commissaire Thierry Breton et quatre autres personnalités européennes engagées dans la lutte contre la désinformation.
Cette nouvelle procédure contre le réseau d’Elon Musk risque de ranimer les tensions transatlantiques, à peine apaisées après les frictions liées aux velléités américaines sur le Groenland. Pour l’Europe, l’enjeu est de créer un précédent : démontrer que les IA génératives intégrées aux réseaux sociaux ne peuvent s’affranchir des règles de dignité humaine. En dernier recours, si les manquements persistent, le DSA autorise la Commission à restreindre l’accès à la plateforme, voire à suspendre temporairement le service sur le territoire européen.
latribune.fr
