Dans un communiqué publié ce mardi, le patron de l’entreprise américaine Anthropic, Dario Amodei, appelle à prendre des « mesures d’urgence » pour gérer les risques liés à l’intelligence artificielle.
En marge du Sommet de l'action pour l'IA à Paris, le patron de la start-up américaine Anthropic, Dario Amodei, s'est inquiété publiquement dans un communiqué ce mardi des risques liés à l'intelligence artificielle, une technologie qui se développe à un rythme ultrarapide. « Il est nécessaire (...) de prendre des mesures d'urgence sur plusieurs sujets », a exhorté le dirigeant.
Louant « les efforts déployés par le gouvernement français pour réunir les entreprises, les chercheurs et les décideurs politiques du monde entier dans le domaine de l'IA », Dario Amodei considère malgré tout que le grand raout parisien qui s'achève ce mardi est une « opportunité ratée » sur la prise en compte des menaces que fait peser l'intelligence artificielle.
Pour le patron d'Anthropic, il existe trois grandes priorités : la première est de « veiller à ce que les sociétés démocratiques » restent les chefs de file de l'IA et que les pays autoritaires n'utilisent pas cette technologie à des fins de domination militaire.
La seconde vise à pousser les « discussions internationales » à « aborder plus en détail les risques croissants liés à la sécurité de cette technologie ».
« Les recherches d'Anthropic ont également montré de manière significative que, s'ils ne sont pas entraînés très soigneusement, les modèles d'IA peuvent tromper leurs utilisateurs et poursuivre des objectifs de manière imprévue (...) », prévient le patron de la start-up.
Le dernier risque à traiter, selon Dario Amodei, est celui qui pèse sur la croissance économique dans le monde. Si l'intelligence artificielle peut être vue comme une source de profits futurs, « elle a aussi le potentiel d'être très perturbatrice », met en garde l'expert. « Un "pays de génies dans un centre de données" pourrait représenter le plus grand changement sur le marché du travail mondial de l'histoire de l'humanité », s'alarme-t-il.
J.D. Vance prône la dérégulation
Des inquiétudes à mille lieues des positions du vice-président américain J.D Vance qui s'est exprimé ce mardi depuis le Grand Palais à Paris. « Il ne faut pas avoir peur de prendre des risques », a-t-il déclaré, prônant un développement sans entrave de l'IA.
Newsletter
Tech & IA
Chaque jour à 13h, l’essentiel de l’actualité tech.
De son côté, le président de la République, Emmanuel Macron, a insisté sur le « besoin de règles » et d'un « cadre de confiance » pour accompagner le développement de l'intelligence artificielle.
