« Nous demandons à tous les laboratoires d'intelligence artificielle de mettre immédiatement en pause, pour au moins six mois, les entraînements des systèmes d'IA plus puissants que GPT-4. » Voilà l'appel de l'ONG Future of Life, dans une pétition signée par plus de 200 chercheurs et experts de la tech, parmi lesquels Elon Musk, le chercheur Yoshua Bengio, le co-fondateur d'Apple Steve Wozniak, ou encore l'homme politique américain Andrew Yang.
Le texte met en garde contre une course technologique qui serait « hors de contrôle », et cite « des risques profonds pour la société et l'humanité ». Pour les signataires, « personne ne peut comprendre, prévoir ou contrôler correctement » le déploiement des IA génératives comme ChatGPT ou Midjourney. C'est pourquoi ils appellent à la création d'instances de régulation indépendantes, pour s'assurer que l'encadrement des systèmes est suffisant avant de les déployer. Même Sam Altman, le CEO d'OpenAI, a reconnu avoir « un peu peur » des dérives de l'IA.
Craintes autour d'un monopole de l'intelligence artificielle
« Je ne crois pas une seconde que les entreprises feront une pause de l'entraînement des systèmes génératifs ou même qu'une telle pause aurait un intérêt », balaie d'emblée Régis Sabbadin, directeur de l'intelligence artificielle à l'Inrae-Université de Toulouse et signataire de la pétition, contacté par La Tribune. « En revanche la pétition véhicule un message important, puisqu'il existe un véritable risque que la capacité à créer des IA génératives reste l'apanage de quelques grosses entreprises et Etats, dont les finalités ne sont pas forcément compatibles avec le bien commun. »
Le chercheur fait le constat d'une transition d'ampleur dans son secteur, et met en garde à la fois sur les risques de monopole, et sur les précautions à prendre. « Ce sont des systèmes à boîtes noires, qui ne donnent pas de garanties sur les résultats sortis. Il faut en tenir compte dans leur utilisation », rappelle-t-il. Pour encadrer la technologie, les régulateurs pourraient mettre en place des systèmes de vérification, automatiques ou humains. Mais l'arrivée des IA génératives s'accompagne aussi d'autres risques dans la fiabilité des systèmes ou encore dans la lutte contre la désinformation. Et presque tout est à construire. « Tout se passait bien tant que la technologie se limitait au monde académique, car il n'y avait pas d'enjeux financiers. Avec l'arrivée sur le marché, il y a un risque que tout parte en vrille », alerte-t-il.
Elon Musk doublement impliqué dans la pétition
Malgré un accord sur le fond du propos, Régis Sabbadin explique avoir tout de même hésité à signer la pétition. En cause : Elon Musk n'est pas seulement un signataire de la pétition, c'est aussi un des principaux donateurs de l'ONG, et il siège à son conseil scientifique. Or, le milliardaire a un passif lourd avec OpenAI, l'entreprise à l'origine de ChatGPT qui mène la course à l'IA, puisqu'il a été un de ses co-fondateurs, en 2015.
L'entrepreneur a quitté le conseil de direction de l'organisation en 2018, officiellement pour éviter tout potentiel potentiel conflit d'intérêt avec ses activités chez Tesla. Sauf que d'après un récent article du site spécialisé Semafor, ce n'est pas la véritable raison de son départ. En réalité, Elon Musk aurait proposé, début 2018, de prendre le contrôle d'OpenAI, car il estimait que l'organisation concurrente, Deepmind (racheté par Google), prenait trop d'avance. Mais Sam Altman (co-fondateur et CEO d'OpenAI depuis sa création) et les autres actionnaires ont refusé, ce qui a entraîné le départ de l'entrepreneur, et l'annulation « d'importants dons ».
A cette époque, OpenAI n'était qu'une organisation à but non-lucratif, qui s'engageait à publier toutes ses recherches en open source. Mais en 2019, en même temps que le premier investissement de Microsoft, elle a ouvert une autre structure, cette fois à but lucratif. Et depuis la sortie de ChatGPT, elle est même devenue le fer de lance de l'arrivée des intelligences artificielles génératives dans l'industrie. Face à cette situation, Elon Musk se positionne comme un critique de son ancienne organisation. « ChatGPT est vraiment impressionnant. Nous ne sommes pas loin d'une IA dangereusement forte », a-t-il par exemple tweeté.
Plus récemment il a déclaré : « OpenAI est devenu une entreprise fermée, qui vise un profit maximal et qui est contrôlée dans les faits par Microsoft. Ce n'est pas ce que je souhaitais. » C'est pourquoi Régis Sabbadin garde des doutes sur les intentions derrière la pétition : « Elon Musk demande une pause à une organisation avec qui il est en conflit ». Ce qui n'empêche pas le texte de refléter les craintes de toute une partie du monde scientifique et de la société civile, à juste titre.
Réinstaurer l’ISF, le scénario qui monte pour financer la transition écologique (46)
Sujets les + commentés