Scarlett Johansson « choquée » par les pratiques d'OpenAI. L'actrice a accusé, lundi, OpenAI et son directeur général, Sam Altman, d'avoir volontairement copié sa voix.

« En septembre dernier, j'ai reçu une offre de Sam Altman, qui souhaitait m'embaucher pour être la voix de l'actuel système ChatGPT 4.0 », indique-t-elle dans un communiqué. « Il a dit qu'il pensait que ma voix réconforterait les gens », a-t-elle détaillé, soulignant avoir alors « décliné l'offre ».

« Quand j'ai entendu la démo publiée, j'ai été choquée, en colère et incrédule que M. Altman ait mis au point une voix qui ressemblait si étrangement à la mienne que mes amis les plus proches et les médias ne pouvaient pas faire la différence », raconte l'actrice.

Elle ajoute que « M. Altman a même insinué que la similitude était intentionnelle, en tweetant un seul mot, "elle" ».

La voix de ChatGPT inspirée du film « Her »

Pour rappel, l'entreprise a présenté lundi la nouvelle version de son produit-phare, avec GPT-4o, aux performances améliorées et au comportement qui se veut plus proche des humains, la rendant par ailleurs gratuite pour tous les utilisateurs. « A l'avenir, vous devez vous attendre à disposer d'encore plus d'options car nous comptons ajouter des voix à ChatGPT pour mieux répondre aux intérêts diverses et aux préférences des utilisateurs », a ajouté OpenAI sur son blog.

Lire aussiChatGPT se rapproche de l'idéal d'une IA capable de converser comme un humain

Dans un article posté sur son blog, l'entreprise a assuré que la voix de « Sky », qui interagit vocalement avec les internautes, avait été développée en se basant sur la voix de différentes actrices, pas spécifiquement celle de Scarlett Johansson. « Nous pensons que les voix des IA ne devraient pas volontairement imiter celle de célébrités. La voix de Sky n'est aucunement une imitation de celle de Scarlett Johansson », a assuré OpenAI dans son article.

L'entreprise a détaillé la manière dont elle a travaillé, avec des acteurs professionnels de la voix, afin de créer plusieurs voix numériques, qu'elle a appelé Breeze, Cove, Ember, Juniper et, donc, Sky. La ressemblance avec la voix de l'actrice américaine a fait d'autant plus réagir sur les réseaux sociaux que cette dernière était précisément celle donnant vie à l'intelligence artificielle (IA) du film « Her », dont les créateurs de ChatGPT n'ont pas caché s'inspirer.

Face à ce constat, l'actrice explique avoir alors « été obligée d'engager un conseiller juridique, qui a écrit deux lettres à M. Altman et OpenAI, (...). Par conséquent, OpenAI a accepté à contrecœur de supprimer la voix +Sky+ ». En réponse, OpenAI a annoncé lundi envisager de suspendre provisoirement Sky. « Nous avons entendu les interrogations sur la manière dont nous avons choisi les voix pour ChatGPT, en particulier pour Sky », a ajouté l'entreprise sur son compte X (ex-Twitter).

Les célébrités et les femmes, premières victimes des mauvaises pratiques de l'IA

« À une époque où nous sommes tous aux prises avec les "deepfakes" et la protection de notre propre image, notre propre travail, notre propre identité, je pense que ces questions méritent une clarté absolue », a encore déploré l'actrice, disant attendre « avec impatience (que soit adoptée) une législation appropriée pour contribuer à garantir la protection des droits individuels ».

L'IA générative, capable notamment de créer des images à partir d'un simple texte, a notamment industrialisé l'objectification du corps des femmes. À partir de quelques outils accessibles sans grande connaissance technique, gratuits ou peu chers, il est possible de créer et de diffuser des images dénigrantes. Cela donne l'occasion à une multitude d'individus et d'entreprises de faire de l'abaissement du corps des femmes un business lucratif. Si le phénomène touchait dès 2018 les actrices (Scarlett Johansson fut l'une des premières à s'en inquiéter, récemment c'est Taylor Swift qui a été victime de ce type de photomontage), il s'est désormais largement démocratisé.

Lire aussiLe corps des femmes, première cible des utilisateurs de l'IA générative

Selon une enquête du quotidien Le Monde, leur nombre aurait considérablement explosé. Le média reprend les chiffres de la statisticienne Geneviève O. La spécialiste du sujet recense 276.149 vidéos de deepfake porns accessibles sur le Web traditionnel au dernier trimestre 2023. Parmi les sites qui les hébergent, on trouve MrDeepfake, ou des sites pornographiques traditionnels, comme XVideos et XNXX. Le groupe Mind (Pornhub) affirme bannir ce type de vidéos. Ces images circulent aussi sur des forums Discord ou des conversations Telegram, parfois moyennant échanges d'argent, via des virements souvent réalisés en cryptomonnaie.

Pour tenter de contrer ce phénomène inquiétant, au Royaume-Uni, la loi définit désormais leur diffusion sans consentement comme un crime. Cette décision est intervenue après la publication de nombreux témoignages de jeunes femmes victimes de « deepfakes porn », des photos et vidéos d'elles à caractère sexuel, truquées grâce à des outils d'IA. Toutes relatent la même sensation de dégoût, de violation, de honte, de stupéfaction... En France, un amendement à loi SREN (projet de loi visant à sécuriser et réguler l'espace numérique) ajouté fin 2023 inscrit comme délit dans le code pénal « le fait de porter à la connaissance du public ou d'un tiers » un hypertrucage à caractère sexuel. Ils seront passibles de 3 ans d'emprisonnement et 75.000 euros d'amende.

(Avec AFP)