Israël-Iran : l'intox générée par l'IA se déploie à grande échelle

Après des salves de missiles tirés par l'Iran, riposte aux bombardements israéliens, des vidéos générées par l'intelligence artificielle largement partagées sur les réseaux sociaux ont prétendu montrer des dégâts subis sur l'aéroport Ben Gourion de Tel Aviv.

Une image en réalité fabriquée, issue d'un compte TikTok qui produit du contenu généré par l'IA, selon le travail de vérification de l'AFP. Il y a une « vague de désinformation générée par l'IA en lien avec le conflit Israël-Iran en particulier », constate auprès de l'AFP Ken Jon Miyachi, fondateur de l'entreprise spécialisée BitMindAI, évoquant une « échelle et une sophistication sans précédent ».

Images réalistes générées par Veo 3

GetReal Security, une entreprise américaine spécialisée dans la détection de contenus truqués avec l'IA, pointe notamment les images hyperréalistes générées par l'outil de Google, Veo 3. Celui-ci a été lancé en mai dernier et s'est fait remarquer par la qualité de ces images contenant bien moins d'absurdités que celles produites par de précédents modèles générant de la vidéo.

GetReal a par exemple lié des vidéos convaincantes de scènes apocalyptiques de bombardements iraniens en Israël au générateur d'IA Veo 3, dont le logo est d'ailleurs visible au bas de l'une de ces vidéos publiée par le média Tehran Times, censée montrer « le moment où un missile iranien a frappé Tel Aviv ».

« Ce n'est pas une surprise qu'au fur et à mesure que les outils d'IA générative s'améliorent en termes de réalisme, ils soient détournés pour diffuser de la désinformation », estime son cofondateur Hany Farid, également professeur à l'Université de Californie à Berkeley.

Il glisse d'ailleurs que la durée des vidéos créées par Veo 3, huit secondes, donne « une bonne raison de prendre le temps de vérifier avant de la partager ». L'entreprise américaine NewsGuard, qui analyse la fiabilité des contenus en ligne, a par ailleurs identifié 51 sites internet ayant publié plus d'une douzaine d'infox, allant de photos générées par l'IA censées montrer des destructions massives à Tel Aviv à des éléments fabriqués de toutes pièces faisant état de pilotes israéliens capturés par l'Iran.

Parmi ceux qui ont diffusé ces faux contenus, on trouve des chaînes Telegram liées à l'armée iranienne et des sources affiliées aux médias d'État iraniens, selon NewsGuard.

Un « déferlement de désinformation » qui cible principalement les Iraniens

« Nous assistons à un déferlement de désinformation, et les Iraniens lambda semblent être le cœur de cible », explique McKenzie Sadeghi, chercheur à NewsGuard.

« Avec la télévision d'État qui pousse les Iraniens à supprimer WhatsApp, Internet fortement restreint, et un contrôle strict de la presse, les Iraniens sont pris au piège dans un environnement d'information clos, dominé par les médias d'État, qui se contredisent activement les uns les autres dans une tentative désordonnée de contrôler le récit », poursuit-il. Certains de ces faux contenus ont été relayés par des médias d'État russes et chinois, les exportant ainsi sur une scène plus vaste, ajoute-t-il.

Comme en Ukraine, des extraits de jeu vidéo présentés comme de vraies images

S'ajoutent à ce torrent de désinformation des séquences tirées de jeux vidéo indûment présentées comme de vraies scènes de guerre, comme précédemment pour l'Ukraine ou la Syrie. L'équipe de fact-checking de l'AFP a ainsi identifié sur X une vidéo qui prétendait montrer un avion israélien abattu par l'Iran, mais venue du jeu de simulation militaire Arma 3.

« Il y a un besoin urgent de meilleurs outils de détection, d'éducation aux médias, et de responsabilisation des plateformes, pour préserver l'intégrité du discours public », alerte l'entrepreneur Ken Jon Miyachi.

Cette vague de fausses images intervient alors que certaines plateformes ont revu à la baisse leurs règles de filtrage des contenus. Meta a mis fin il y a quelques semaines à son dispositif de fact-checking et assouplit sa politique de modération au nom de la liberté d'expression. La modération de X, où circulent massivement les images concernant Iran et Israël, a quant à elle largement été diminuée lors de la reprise du réseau social par Elon Musk en 2022.

(Avec AFP)