latribune.fr
« Quand j'ai entendu la démo publiée, j'ai été choquée, en colère et incrédule que M. Altman ait mis au point une voix qui ressemblait si étrangement à la mienne que mes amis les plus proches et les médias ne pouvaient pas faire la différence »,...
Reuters/Mario Anzuoni
Scarlett Johansson « choquée » par les pratiques d'OpenAI. L'actrice a accusé, lundi, OpenAI et son directeur général, Sam Altman, d'avoir volontairement copié sa voix.
« En septembre dernier, j'ai reçu une offre de Sam Altman, qui souhaitait m'embaucher pour être la voix de l'actuel système ChatGPT 4.0 », indique-t-elle dans un communiqué. « Il a dit qu'il pensait que ma voix réconforterait les gens », a-t-elle détaillé, soulignant avoir alors « décliné l'offre ».
Elle ajoute que « M. Altman a même insinué que la similitude était intentionnelle, en tweetant un seul mot, "elle" ».
Pour rappel, l'entreprise a présenté lundi la nouvelle version de son produit-phare, avec GPT-4o, aux performances améliorées et au comportement qui se veut plus proche des humains, la rendant par ailleurs gratuite pour tous les utilisateurs. « A l'avenir, vous devez vous attendre à disposer d'encore plus d'options car nous comptons ajouter des voix à ChatGPT pour mieux répondre aux intérêts diverses et aux préférences des utilisateurs », a ajouté OpenAI sur son blog.
Dans un article posté sur son blog, l'entreprise a assuré que la voix de « Sky », qui interagit vocalement avec les internautes, avait été développée en se basant sur la voix de différentes actrices, pas spécifiquement celle de Scarlett Johansson. « Nous pensons que les voix des IA ne devraient pas volontairement imiter celle de célébrités. La voix de Sky n'est aucunement une imitation de celle de Scarlett Johansson », a assuré OpenAI dans son article.
L'entreprise a détaillé la manière dont elle a travaillé, avec des acteurs professionnels de la voix, afin de créer plusieurs voix numériques, qu'elle a appelé Breeze, Cove, Ember, Juniper et, donc, Sky. La ressemblance avec la voix de l'actrice américaine a fait d'autant plus réagir sur les réseaux sociaux que cette dernière était précisément celle donnant vie à l'intelligence artificielle (IA) du film « Her », dont les créateurs de ChatGPT n'ont pas caché s'inspirer.
Face à ce constat, l'actrice explique avoir alors « été obligée d'engager un conseiller juridique, qui a écrit deux lettres à M. Altman et OpenAI, (...). Par conséquent, OpenAI a accepté à contrecœur de supprimer la voix +Sky+ ». En réponse, OpenAI a annoncé lundi envisager de suspendre provisoirement Sky. « Nous avons entendu les interrogations sur la manière dont nous avons choisi les voix pour ChatGPT, en particulier pour Sky », a ajouté l'entreprise sur son compte X (ex-Twitter).
Chaque jour à 13h, l’essentiel de l’actualité tech.
« À une époque où nous sommes tous aux prises avec les "deepfakes" et la protection de notre propre image, notre propre travail, notre propre identité, je pense que ces questions méritent une clarté absolue », a encore déploré l'actrice, disant attendre « avec impatience (que soit adoptée) une législation appropriée pour contribuer à garantir la protection des droits individuels ».
L'IA générative, capable notamment de créer des images à partir d'un simple texte, a notamment industrialisé l'objectification du corps des femmes. À partir de quelques outils accessibles sans grande connaissance technique, gratuits ou peu chers, il est possible de créer et de diffuser des images dénigrantes. Cela donne l'occasion à une multitude d'individus et d'entreprises de faire de l'abaissement du corps des femmes un business lucratif. Si le phénomène touchait dès 2018 les actrices (Scarlett Johansson fut l'une des premières à s'en inquiéter, récemment c'est Taylor Swift qui a été victime de ce type de photomontage), il s'est désormais largement démocratisé.
Selon une enquête du quotidien Le Monde, leur nombre aurait considérablement explosé. Le média reprend les chiffres de la statisticienne Geneviève O. La spécialiste du sujet recense 276.149 vidéos de deepfake porns accessibles sur le Web traditionnel au dernier trimestre 2023. Parmi les sites qui les hébergent, on trouve MrDeepfake, ou des sites pornographiques traditionnels, comme XVideos et XNXX. Le groupe Mind (Pornhub) affirme bannir ce type de vidéos. Ces images circulent aussi sur des forums Discord ou des conversations Telegram, parfois moyennant échanges d'argent, via des virements souvent réalisés en cryptomonnaie.
Pour tenter de contrer ce phénomène inquiétant, au Royaume-Uni, la loi définit désormais leur diffusion sans consentement comme un crime. Cette décision est intervenue après la publication de nombreux témoignages de jeunes femmes victimes de « deepfakes porn », des photos et vidéos d'elles à caractère sexuel, truquées grâce à des outils d'IA. Toutes relatent la même sensation de dégoût, de violation, de honte, de stupéfaction... En France, un amendement à loi SREN (projet de loi visant à sécuriser et réguler l'espace numérique) ajouté fin 2023 inscrit comme délit dans le code pénal « le fait de porter à la connaissance du public ou d'un tiers » un hypertrucage à caractère sexuel. Ils seront passibles de 3 ans d'emprisonnement et 75.000 euros d'amende.
À lire également
Le scandale autour de la voix de ChatGPT 4.0 intervient quelques jours après qu'OpenAI a annoncé dissoudre son équipe dont la mission était d'atténuer les éventuels dangers à long terme d'une IA trop intelligente. L'annonce avait été marquée par le départ d'un des cofondateurs de l'entreprise, Ilya Sutskever, ainsi que du responsable de l'équipe, Jan Leike.
« OpenAI doit devenir une entreprise qui place la sécurité de l'IA générale avant toute autre considération », avait écrit M. Leike vendredi sur X.
Le directeur général d'OpenAI, Sam Altman, a répondu au message de Jan Leike, exprimant son regret de le voir partir, ajoutant qu'il « a raison, nous devons faire plus, c'est notre objectif » et promettant des annonces sur le sujet dans les prochains jours.
(Avec AFP)
latribune.fr
