La Californie vote une loi qui divise pour encadrer l'IA
latribune.fr
Elon Musk, le patron de Tesla, X et de la start-up d'IA générative xAI, pense que les risques que l'IA fait courir au public justifient une réglementation.
Le Parlement de Californie a adopté mercredi une loi pour encadrer les puissants modèles d'intelligence artificielle (IA) générative, malgré l'opposition d'entreprises et d'élus qui craignent qu'une telle régulation n'étouffe la technologie naissante.
Si l'IA générative permet actuellement de produire des contenus de bonne facture (textes, images...) sur simple requête en langage courant, elle a aussi le potentiel, selon les ingénieurs impliqués, d'aller beaucoup plus loin et donc de résoudre des problèmes importants, mais aussi d'en causer.
C'est pourquoi le Parlement de Californie a adopté mercredi une loi pour l'encadrer. Baptisée « Loi pour une innovation sûre dans les modèles d'IA pionniers », elle vise à empêcher les grands modèles de provoquer des catastrophes majeures, entraînant la mort d'un grand nombre de personnes ou des incidents de cybersécurité conséquents.
«Je suis fier de la diversité de la coalition qui a soutenu ce projet de loi, une coalition qui croit profondément à l'innovation et à la sécurité», a déclaré sur X Scott Wiener, l'élu démocrate qui a parrainé le texte.
Scott Wiener a assoupli le texte d'origine : les développeurs de grands modèles d'IA devront tester leurs systèmes et simuler des cyberattaques, sous peine d'amendes, mais sans la menace de conséquences pénales.
Gavin Newsom, gouverneur de la Californie, a jusqu'au 30 septembre pour signer la loi ou lui opposer son veto. Sa décision fera forcément des heureux et des déçus : le texte divise les entreprises, les chercheurs et même les élus démocrates. D'un côté, les « doomers » (que l'on pourrait traduire par pessimistes dans ce cadre) : ceux qui pensent que l'intelligence artificielle peut surpasser l'humain et causer potentiellement sa perte. De l'autre côté du spectre, on trouve les « effective accelerationnists », les optimistes qui pensent, eux aussi, que l'IA peut devenir surpuissante, mais qu'il faut embrasser ce progrès technologique sans crainte, et surtout, sans régulation.
« Beaucoup d'entre nous au Congrès pensons que la loi SB 1047 est bien intentionnée mais mal informée »,a déclaré récemment Nancy Pelosi, élue de Californie à Washington et l'une des voix les plus influentes du parti.
« Nous voulons que la Californie soit à la pointe de l'IA d'une manière qui protège les consommateurs, les données, la propriété intellectuelle et bien plus encore. (...) SB 1047 nuit à cette fin plus qu'elle n'y contribue », a-t-elle ajouté.
Newsletter
Tech & IA
Chaque jour à 13h, l’essentiel de l’actualité tech.
OpenAi s'inquiète pour la Silicon Valley,
Plusieurs entreprises du secteur ont fait part de leur opposition, OpenAI en tête. Le créateur de ChatGPT craint une fuite des innovateurs de l'Etat américain et de sa fameuse Silicon Valley, et préférerait une législation nationale. Son concurrent Anthropic estime en revanche que les avantages de la nouvelle loi « l'emportent probablement sur ses coûts ».
Ce projet de loi « impose des réglementations lourdes et irréalistes sur le développement de l'IA » et constitue donc « une menace importante pour notre capacité à faire avancer la recherche », a déclaré sur X (ex-Twitter) Anima Anandkumar, professeure à CalTech. Elle estime qu'il est difficile, voire impossible, de prévoir toutes les utilisations néfastes possibles d'un modèle d'IA, en particulier les versions dites « open source », dont le code peut être modifié par les utilisateurs.
Musk soutient la loi
Plus surprenant, le texte a obtenu le soutien d'Elon Musk, souvent remonté contre les autorités de nombreux pays. Le patron de Tesla, X et de la start-up d'IA générative xAI, pense que les risques que l'IA fait courir au public justifient une réglementation. « Il s'agit d'une décision difficile qui va mécontenter certaines personnes », a-t-il déclaré lundi. « Les puissants systèmes d'IA sont incroyablement prometteurs, mais ils présentent des risques également très réels, qui doivent être pris très au sérieux », a de son côté souligné l'informaticien Geoffrey Hinton, considéré comme le « parrain de l'IA », dans une tribune du magazine Fortune. « La loi SB 1047 représente une approche très raisonnable pour équilibrer ces préoccupations », a-t-il continué, estimant que la Californie est l'endroit idéal pour commencer à réguler cette technologie.
La loi adoptée par la Californie rappelle un texte, adopté mi-mars, par le Parlement européen. Ce dernier encadre les modèles d'IA et instaure des contraintes en matière de transparence, de droits d'auteur ou de protection de la vie privée. Les développeurs de ces modèles devront fournir des informations détaillées sur les contenus qu'ils ont utilisés, textes ou images notamment, pour « entraîner » leurs systèmes. Ils devront respecter la législation européenne en matière de droits d'auteur. Les exigences seront plus strictes pour les modèles les plus puissants qui, selon l'UE, présentent un « risque systémique », comme ChatGPT ou Gemini de Google. Les entreprises qui proposent ces technologies devront en évaluer et atténuer les risques, suivre et signaler à la Commission les incidents graves, offrir des garanties en matière de cybersécurité et fournir des informations sur la consommation d'énergie de leurs modèles.
