latribune.fr
La controverse porte sur des images obtenues en demandant à Grok de dénuder des personnes réelles à partir de photos ou de vidéos existantes.
Reuters
L’Inde a annoncé dimanche que X avait retiré massivement des contenus accessibles dans le pays, à la suite d’un scandale lié à la diffusion de fausses images de personnes dénudées générées par l’IA. « Environ 3 500 contenus ont été bloqués et plus de 600 comptes effacés », a indiqué à l’AFP une source gouvernementale indienne, sous couvert d’anonymat.
Selon cette même source, la plateforme aurait reconnu une faute. « X a admis son erreur et s’est engagé à opérer désormais dans le cadre des lois indiennes », assurant qu’à l’avenir, « X n’autorisera plus d’images obscènes ». Les autorités n’ont pas précisé si les comptes supprimés appartenaient à des utilisateurs indiens. Sollicitée, l’entreprise n’a pas répondu dans l’immédiat.
La controverse porte sur des images obtenues en demandant à Grok de dénuder des personnes réelles à partir de photos ou de vidéos existantes. Leur diffusion a provoqué une vague d’indignation internationale, alimentant les inquiétudes sur les dérives de l’intelligence artificielle générative et l’absence de garde-fous suffisants.
L’Indonésie est ainsi devenue samedi le premier pays à interdire totalement l’accès à Grok, invoquant la nécessité de « protéger les femmes, les enfants et le public des risques causés par les faux contenus à caractère pornographique générés par l’intelligence artificielle ». La Malaisie a aussi suspendu dimanche, l'accès à l'IA.
Face aux protestations, Grok a indiqué vendredi que la génération et l’édition d’images étaient « actuellement réservées aux abonnés payants », une restriction jugée largement insuffisante par plusieurs gouvernements.
Chaque jour à 13h, l’essentiel de l’actualité tech.
Cette réponse partielle a notamment suscité la colère du Royaume-Uni, l’un des critiques les plus virulents du propriétaire de X, Elon Musk.
À Bruxelles, la Commission européenne a indiqué avoir « pris note des dernières modifications » apportées par la plateforme, tout en les jugeant insuffisantes au regard des exigences européennes en matière de protection des utilisateurs et de lutte contre les contenus illicites.
La France, qui avait saisi la justice, a également réagi. « C’est un premier pas, mais la lutte contre les dérives de l’IA doit se poursuivre », a déclaré le ministre de l’Économie Roland Lescure.
À lire également
L’affaire illustre les difficultés persistantes des autorités à encadrer des outils d’IA capables de produire, à grande échelle, des contenus trompeurs ou attentatoires à la dignité des personnes. Alors que les réponses divergent d’un pays à l’autre, le scandale Grok pourrait accélérer la coordination internationale autour de règles plus strictes, à l’heure où l’IA générative s’impose comme un enjeu politique, juridique et sociétal majeur.
(Avec AFP)
latribune.fr
