La désinformation fait partie des sujets d'éthique centraux posés par l'avènement de l'intelligence artificielle générative. Un enjeu tout particulièrement prégnant cette année, où la moitié de la population mondiale est appelée à voter pour différents scrutins législatifs ou présidentiels. Attendue au tournant par les citoyens et les gouvernements sur cet aspect, la société californienne OpenAI, créatrice de ChatGPT, a annoncé ce lundi le lancement d'outils pour combattre la désinformation.

Alors que des dizaines d'élections sont prévues cette année, en particulier aux Etats-Unis, en Inde ou en Grande-Bretagne, OpenAI a ainsi affirmé sa volonté de ne pas permettre l'utilisation de ses outils technologiques, dont son outil ChatGPT et le générateur d'images DALL-E 3, à des fins politiques.

Lire aussiIntelligence artificielle générative : comment Mistral AI et Amazon comptent conquérir le marché

« Nous voulons être certains que notre technologie ne sera pas utilisée de manière à porter atteinte » au processus démocratique, explique la jeune société sur un blog.

« Nous sommes toujours en train d'évaluer l'efficacité potentielle de nos outils pour de la persuasion individuelle. Jusqu'à ce que nous en sachions plus, nous ne permettrons pas aux gens de construire des applications pour des campagnes politiques ou militantes », ajoute OpenAI.

Un outil qui permet de vérifier la validité des informations

Dans cette démarche, la startup IA a indiqué qu'elle était en train de développer des outils permettant de déterminer de manière fiable la provenance d'un texte généré par ChatGPT et de donner aux utilisateurs la possibilité de détecter si une image a été créée en utilisant DALL-E 3. Grâce à cet outil, lorsque ChatGPT sera interrogé sur les élections américaines, le chatbot pourra par exemple orienter les électeurs vers des sites reconnus.

« Au début de cette année, nous allons mettre en œuvre la Coalition pour la provenance et l'authenticité des contenus (Coalition for Content Provenance and Authenticity's digital credentials) », a par ailleurs expliqué lundi la compagnie technologique. Cette coalition, dite « C2PA », réunira notamment les sociétés Microsoft, Sony, Adobe, Nikkon et Canon.

Lire aussiIA générative : Meta et IBM lancent l'AI Alliance, une riposte économique et éthique à Microsoft et Google

« Les leçons tirées de ce travail seront la base de notre approche pour d'autres pays et régions », souligne OpenAI, ajoutant que son logiciel d'image DALL-E 3 contient des « garde-fous » pour empêcher les utilisateurs de générer des images de personnes réelles, notamment de candidats. De leur côté, les géants de la tech américaine Google et Meta ont déjà annoncé l'an dernier des initiatives pour cadrer l'utilisation de l'IA dans les campagnes politiques.

Les craintes sur l'IA s'invitent au forum économique de Davos

Les craintes de désinformation électorale remontent à plusieurs années, mais l'accès du grand public aux puissants générateurs de textes et d'images fondés sur l'IA renforce grandement la menace, selon les experts. Le sujet est d'ailleurs au cœur de nombreuses discussions du sommet économique de Davos, qui réunit chaque année les élites économiques mondiales. Cette année, l'événement se tient jusqu'au 19 janvier dans ce village de montagne situé en Suisse.

Publié à l'ouverture du sommet, un rapport alerte sur les dangers de la désinformation - défini comme une fausse information diffusée volontairement -, mais aussi de la mésinformation - une information fausse diffusée involontairement. Des fléaux, qui couplés à l'IA, pourraient « miner la légitimité des gouvernements nouvellement élus ». Selon le document, la manipulation de l'information représente la plus grande menace à court terme pour les dirigeants. Derrière, viennent les événements climatiques extrêmes et les fractures sociales.

Lire aussiL'intelligence artificielle embarquée, la grande tendance du CES 2024

Lors de sa prise de parole au forum ce mardi, le premier ministre chinois Li Qiang a déclaré que l'IA était « comme un couteau à double tranchant  (...) Utilisée à bon escient, elle peut apporter (...) des progrès pour l'industrie, la science, mais, revers de la médaille, elle peut poser des problèmes en matière de sécurité et d'éthique ». Le dirigeant chinois a aussi plaidé parallèlement pour une « bonne gouvernance » pour la technologie de l'IA en plein essor.

Succédant sur scène à Li Qiang, la présidente de la Commission européenne a plaidé pour « un usage responsable de l'IA au service de la société ». Et de rappeler le vote de son «Artificial Intelligence Act», comme initiative pionnière dans le monde en matière de régulation des technologies d'intelligence artificielle.

(Avec AFP)