François Manens
Ce contenu est réservé aux abonnés La Tribune
Pour l'instant, l'approche de Sutskever, tout comme celles d'OpenAI, d'Anthropic et d'autres, se concentre uniquement sur les catastrophes (Photo d'illustration).
Aly Song
Le mot « safety », qu'on pourrait traduire en français par « sécurité » ou « sûreté », se trouve dans la bouche de tous les spécialistes de l'IA de la Silicon Valley. Au point que le concept se retrouve au centre de projets entrepreneuriaux et alimente la guerre des talents. Dernier exemple en date : fin juin, un des chercheurs les plus réputés du secteur de l'IA, Ilya Sutskever a présenté son nouveau projet : Safe Superintelligence, une structure qui, comme son nom l'indique, vise à développer une superintelligence sûre, c'est-à-dire sans danger pour l'humanité.
Un mois plus tôt, le scientifique, cofondateur d'OpenAI, avait quitté la startup, où il dirigeait l'équipe de « superalignement », chargée de développer des outils pour contrôler les IA du futur. Ilya Sutskever est une des figures les plus en avant d'une approche américaine (et donc dominante) des risques de l'IA, qui se concentre avant tout sur le risque existentiel.
En clair, elle vise à éviter les scénarios des films de science-fiction à la Terminator, où une intelligence artificielle surpuissante devient hors de contrôle et finit par cause du tort à l'humanité. Bien qu'ils insistent sur la prise en compte de ces risques dans leur discours, les géants de l'IA refusent toutefois, pour l'instant, tout autre approche que l'auto-régulation...
À lire également
« Cette entreprise est spéciale, car son premier produit sera la superintelligence sûre, et elle ne fera rien d'autre jusqu'à cet objectif. Elle sera entièrement à l'abri des pressions extérieures liées à la gestion d'un produit volumineux et complexe, et elle ne se retrouvera pas coincée dans une course effrénée à la performance », a promis l'ancien directeur scientifique d'OpenAI auprès de Bloomberg, après sa présentation. À demi-mot, le chercheur accuse ainsi ChatGPT de mener une course à la performance, accentuant la pression à créer des produits, et ainsi d'avoir détourné son ancienne entreprise de sa mission initiale : créer des IA bénéfiques à l'humanité.
François Manens
