Derrière cette proposition de régulation, Anthropic met en avant un risque majeur : celui d'une future "perte de contrôle".
/FW1FP/Nicholas ZIEMINSKI - REUTERS - REUTERS - Dado Ruvic
Alors que la course à l’intelligence artificielle s’accélère à coups de milliards de dollars et de records de valorisation, Anthropic prend le contre-pied du secteur. Le géant américain, l’un des acteurs les plus en vue de l’IA générative, propose la création d’un mécanisme mondial permettant de ralentir, voire de suspendre temporairement le développement des systèmes les plus avancés.
Une initiative qui intervient au moment où les géants technologiques rivalisent pour atteindre la prochaine frontière de l’IA, dans un contexte de compétition stratégique croissante entre les États-Unis et la Chine. Derrière cette proposition, Anthropic met en avant un risque majeur : celui d’une future « perte de contrôle » sur des systèmes devenus trop puissants.
Dans un document publié jeudi par son centre de réflexion, l’Anthropic Institute, l’entreprise affirme que « nous pensons qu’il serait bon pour le monde d’avoir la possibilité de ralentir ou de suspendre temporairement le développement de l’IA de pointe, afin de permettre aux structures sociétales et à la recherche sur l’alignement de suivre le rythme des progrès de la technologie ».
Le créateur des modèles Claude estime qu’un tel dispositif ne pourrait fonctionner qu’à travers une coordination internationale empêchant qu’un acteur ne profite d’un éventuel ralentissement collectif pour prendre un avantage décisif. Sans ce type de garde-fou, « les entreprises et les gouvernements devront prendre des décisions de sécurité difficiles, sous la pression de la concurrence et des enjeux géopolitiques », prévient le groupe.
Pour défendre son idée, Anthropic s’appuie sur des précédents historiques. L’entreprise cite notamment le traité sur les forces nucléaires à portée intermédiaire, tout en soulignant que les défis posés par l’IA pourraient être encore plus complexes, cette technologie étant « bien plus facile à dissimuler que des silos de missiles ».
Chaque jour à 13h, l’essentiel de l’actualité tech.
Jack Clark, cofondateur du laboratoire, compare quant à lui le développement de l’IA à l’essor de l’industrie pétrolière au début du XXe siècle. Selon lui, l’émergence de règles communes est indispensable pour instaurer « la confiance » du public et éviter de devoir « se préoccuper de la personnalité des dirigeants de ces entreprises ». Son constat est sans appel : « En ce moment, c’est comme si le secteur de l’IA avait une pédale d’accélérateur mais pas de pédale de frein ».
Cette prise de position survient dans un climat de forte euphorie financière. Anthropic a vu sa valorisation quasiment tripler en trois mois et a récemment engagé les premières démarches en vue d’une introduction en Bourse. Dans le même temps, SpaceX, qui abrite notamment le laboratoire xAI d’Elon Musk, prépare une opération boursière susceptible de devenir la plus importante de l’histoire.
La proposition d’Anthropic risque toutefois de rencontrer une forte opposition à Washington. Une partie de l’industrie technologique et de l’administration américaine considère qu’un ralentissement du développement de l’IA pourrait offrir à Pékin un avantage stratégique majeur. Donald Trump a certes évoqué une coopération avec la Chine sur les questions de sûreté de l’IA, tout en signant cette semaine un décret encadrant les modèles les plus avancés, mais sur une base exclusivement volontaire.
Fondé par d’anciens cadres d’OpenAI, Anthropic s’est bâti une réputation centrée sur la sécurité et l’éthique. Une posture qui lui vaut aussi des critiques. Certains responsables politiques et concurrents l’accusent d’exagérer les dangers de l’IA et de pratiquer un « marketing de la peur ».
Pour étayer ses inquiétudes, l’entreprise met en avant le risque d’« auto-amélioration récursive », un scénario dans lequel des systèmes d’IA deviendraient capables de concevoir et d’entraîner eux-mêmes leurs successeurs avec une intervention humaine minimale. « Rien ne garantit qu’une telle bascule soit à l’horizon », reconnaît Anthropic. Mais, ajoute le laboratoire, « si les tendances actuelles se poursuivent », cette perspective pourrait devenir « plausible ». Une évolution porteuse de promesses considérables pour la médecine, la technologie ou l’économie, mais également d’un risque inédit de « perte de contrôle ».
« Anticiper le coût du token sur cinq ans, c’est impossible » : les entreprises face à l'explosion de la facture de l'IA
IA : la douche froide Broadcom fait vaciller les stars européennes des semi-conducteurs
IA : les géants Soitec et STMicroelectronics prêts à réduire la consommation électrique des data centers
Les salariés français à la traîne dans l’adoption de l’IA
