Victoire pour la Silicon Valley. Le gouverneur de Californie a finalement opposé son veto à la loi SB1047. Pour rappel, cette dernière entendait protéger les citoyens des effets les plus catastrophiques de l'intelligence artificielle. Ce texte surnommé "AI bill" a été proposé par le sénateur démocrate Scott Wiener, en février dernier. Il demandait notamment aux entreprises développant des IA de recourir à des tests systématiques.
L'objectif ? Eviter que leurs systèmes ne causent des dommages considérables, comme des cyberattaques de grande ampleur, la création d'armes nucléaires, le blocage de réseaux électriques... La loi aurait également obligé les entreprises à mettre en place un "switch kill", un moyen de désactiver une IA, en cas de dérapage.
Cette loi avait été vivement critiquée par plusieurs acteurs de la tech dont Meta et OpenAI, mais aussi l'investisseur Marc Andreessen du fonds a16z. Et il semblerait que leur parole ait convaincu Gavin Newson de ne pas signer ce texte. Les réfractaires lui reprochaient de tuer l'innovation en se concentrant sur des risques de très grande ampleur et quelque peu futuriste, difficiles donc à mesurer.
La loi s'est aussi attiré les foudres d'acteurs de l'open source, comme Mozilla et Hugging Face, plutôt en faveur de la régulation en temps normal. Eux ne reprochent pas au texte de brider l'industrie de l'IA, mais de menacer l'écosystème open source. Notamment car la loi SB1047 fait porter la responsabilité sur les développeurs en cas d'usage malveillant. Or, pour un développeur open source, il est plus complexe que pour une entreprise d'avoir la main sur les applications potentielles du modèle qu'il développe.
