latribune.fr
« Nous voulons être certains que notre technologie ne sera pas utilisée de manière à porter atteinte » au processus démocratique, a déclaré cette semaine OpenAI à propos de la désinformation via les logiciels d'intelligence artificielle. .
DADO RUVIC
La désinformation fait partie des sujets d'éthique centraux posés par l'avènement de l'intelligence artificielle générative. Un enjeu tout particulièrement prégnant cette année, où la moitié de la population mondiale est appelée à voter pour différents scrutins législatifs ou présidentiels. Attendue au tournant par les citoyens et les gouvernements sur cet aspect, la société californienne OpenAI, créatrice de ChatGPT, a annoncé ce lundi le lancement d'outils pour combattre la désinformation.
Alors que des dizaines d'élections sont prévues cette année, en particulier aux Etats-Unis, en Inde ou en Grande-Bretagne, OpenAI a ainsi affirmé sa volonté de ne pas permettre l'utilisation de ses outils technologiques, dont son outil ChatGPT et le générateur d'images DALL-E 3, à des fins politiques.
« Nous voulons être certains que notre technologie ne sera pas utilisée de manière à porter atteinte » au processus démocratique, explique la jeune société sur un blog.
Dans cette démarche, la startup IA a indiqué qu'elle était en train de développer des outils permettant de déterminer de manière fiable la provenance d'un texte généré par ChatGPT et de donner aux utilisateurs la possibilité de détecter si une image a été créée en utilisant DALL-E 3. Grâce à cet outil, lorsque ChatGPT sera interrogé sur les élections américaines, le chatbot pourra par exemple orienter les électeurs vers des sites reconnus.
« Au début de cette année, nous allons mettre en œuvre la Coalition pour la provenance et l'authenticité des contenus (Coalition for Content Provenance and Authenticity's digital credentials) », a par ailleurs expliqué lundi la compagnie technologique. Cette coalition, dite « C2PA », réunira notamment les sociétés Microsoft, Sony, Adobe, Nikkon et Canon.
« Les leçons tirées de ce travail seront la base de notre approche pour d'autres pays et régions », souligne OpenAI, ajoutant que son logiciel d'image DALL-E 3 contient des « garde-fous » pour empêcher les utilisateurs de générer des images de personnes réelles, notamment de candidats. De leur côté, les géants de la tech américaine Google et Meta ont déjà annoncé l'an dernier des initiatives pour cadrer l'utilisation de l'IA dans les campagnes politiques.
Chaque jour à 13h, l’essentiel de l’actualité tech.
Les craintes de désinformation électorale remontent à plusieurs années, mais l'accès du grand public aux puissants générateurs de textes et d'images fondés sur l'IA renforce grandement la menace, selon les experts. Le sujet est d'ailleurs au cœur de nombreuses discussions du sommet économique de Davos, qui réunit chaque année les élites économiques mondiales. Cette année, l'événement se tient jusqu'au 19 janvier dans ce village de montagne situé en Suisse.
Publié à l'ouverture du sommet, un rapport alerte sur les dangers de la désinformation - défini comme une fausse information diffusée volontairement -, mais aussi de la mésinformation - une information fausse diffusée involontairement. Des fléaux, qui couplés à l'IA, pourraient « miner la légitimité des gouvernements nouvellement élus ». Selon le document, la manipulation de l'information représente la plus grande menace à court terme pour les dirigeants. Derrière, viennent les événements climatiques extrêmes et les fractures sociales.
Li Qiang a déclaré que l'IA était
« comme un couteau à double tranchant (...) Utilisée à bon escient, elle peut apporter (...) des progrès pour l'industrie, la science, mais, revers de la médaille, elle peut poser des problèmes en matière de sécurité et d'éthique ». Le dirigeant chinois a aussi plaidé parallèlement pour une « bonne gouvernance » pour la technologie de l'IA en plein essor.À lire également
Succédant sur scène à Li Qiang, la présidente de la Commission européenne a plaidé pour « un usage responsable de l'IA au service de la société ». Et de rappeler le vote de son «Artificial Intelligence Act», comme initiative pionnière dans le monde en matière de régulation des technologies d'intelligence artificielle.
(Avec AFP)
latribune.fr
