Le lancement de Sora 2, un TikTok de vidéos IA, par OpenAI, accélère l’avalanche de vidéos synthétiques très réalistes qui se déverse sur le Web. Face à cet afflux, les modérateurs se heurtent à des casse-tête techniques et juridiques sans précédents.Comment modérer le déluge de vidéos générées par IA ? La question se pose alors que, depuis une semaine, les plateformes sont envahies de séquences montrant Sam Altman en flagrant délit de vol dans un supermarché, Amy Winehouse café en main dans la rue, Michael Jackson au McDo ou encore Bob l’Éponge grimé en nazi. Ces contenus, parfois appelés « AI Slop » (que l’on pourrait traduire par « bouillie générée par IA »), sont issus de Sora 2, l’application d’OpenAI permettant de générer et publier des vidéos entièrement artificielles.
L’application n’est pour l’instant disponible qu’aux États-Unis et sur invitation. Mais ses créations ont déjà largement envahi TikTok, X ou Instagram. Plus performante que sa précédente version, Sora ne maîtrise pas encore parfaitement les lois de la physique, mais l’esthétique très photoréaliste des vidéos trompe facilement l’œil.
Surtout, OpenAI a ajouté une option permettant d’utiliser son propre visage - ou celui d’une autre personne, « avec son consentement », précise la plateforme - pour créer des caméos : des saynètes virtuelles plus vraies que nature. Sam Altman s’est d’ailleurs lui-même prêté au jeu, offrant aux utilisateurs la possibilité de générer des contenus à partir de son image.
Campagne de désinformation
S’il ne fait guère de doute que Michael Jackson n’a pas ressuscité pour prendre un job dans un fast-food, certaines situations sont plus ambiguës. Comme cette vidéo virale d’une femme demandant un parfait inconnu en mariage dans le métro, ou les multiples « caméos » du boxeur et influenceur américain Jake Paul, qui troublent les utilisateurs TikTok. Elles semblent pour l’instant inoffensives, publiées surtout pour gagner du like.
