Marine Protais
Ce contenu est réservé aux abonnés La Tribune
Le dernier modèle d'OpenAI, o1 surnommé Strawberry, présente un risque significativement plus élevé que ses prédécesseur d'aider à la création d'armes biologiques.
Image générée par IA avec DALL-E
Le nouveau modèle d'OpenAI, o1 (aussi surnommé Strawberry), sait répondre à des énigmes et des problèmes de maths... Et il se débrouille aussi plutôt bien pour aider à créer des armes biologiques. Pour la première fois, le créateur de ChatGPT a estimé que l'un de ses modèles présentait un risque « moyen » d'aider au développement d'armes biologiques, chimiques, radiologiques et nucléaires. Le dernier en date, GPT-4, avait été jugé « faible » sur ce sujet. Selon la firme américaine, qui a publié un long compte-rendu de l'évaluation de son modèle, ce risque aurait ainsi augmenté de « manière significative ».
o1 se distingue des précédents modèles d'OpenAI par sa capacité à mieux imiter le raisonnement humain, en divisant chaque instruction en sous-tâches, appelées « chaînes de pensées » dans le jargon. Déjà accessible en version "preview" (aperçu) et "mini" (une version allégée), ce modèle aux 11 millions d'utilisateurs payants est donc un premier pas vers l'autonomie des IA promise par l'industrie, même si cet objectif reste lointain.
À lire également
Sur un certain nombre d'aspects, et notamment en termes de sécurité, o1 fait mieux que ses prédécesseurs. OpenAI estime que son modèle produit moins souvent des contenus illicites et stéréotypés. Car ses capacités de "raisonnement" lui permettent de mieux prendre en compte les garde-fous établis par ses développeurs lorsqu'il répond à des requêtes (prompts dans le jargon) potentiellement dangereuses, explique l'entreprise. Le modèle serait aussi moins sujet aux hallucinations, cette propension des IA à affirmer avec détermination un fait faux.
Marine Protais
Bruxelles ordonne à Meta de rouvrir WhatsApp aux IA concurrentes
Korben for People ambitionne de devenir le « Microsoft de la robotique »
Nouvelle usine à Toulouse, levée de fonds, filiales à l'étranger… La pépite de défense Alta Ares change de dimension
« Il y a une part de surenchère »… Pourquoi les milliards de l’IA annoncés à Choose France défient toute logique
