La justice américaine déclare la guerre aux hallucinations de l’IA

L’intelligence artificielle s’est imposée en quelques mois dans les cabinets d’avocats comme un nouvel assistant de recherche, de rédaction et de synthèse. Mais à mesure que son usage se banalise, un phénomène inquiète de plus en plus les tribunaux : les « hallucinations » générées par les modèles d’IA, ces informations inventées de toutes pièces mais présentées avec une apparence de parfaite crédibilité.

Aux États-Unis, la justice commence désormais à répondre par des sanctions. Le dernier signal fort est venu de Floride. Depuis ce lundi, une nouvelle règle adoptée par la Cour suprême de l’État autorise les juridictions inférieures à sanctionner les auteurs de mémoires ou plaidoyers s’appuyant sur de faux précédents judiciaires générés par l’intelligence artificielle. Une mesure qui illustre l’ampleur prise par le phénomène dans les prétoires américains.

Les exemples se multiplient. En début d’année, un juge fédéral de Louisiane a découvert que sept décisions de justice citées dans un dossier de préjudice corporel étaient soit inexistantes, soit déformées. L’avocat concerné, pourtant expérimenté, a reconnu avoir utilisé Claude, le chatbot développé par Anthropic, pour rédiger puis corriger son mémoire. Convaincu que les références fournies étaient exactes, il n’avait pas procédé aux vérifications nécessaires avant le dépôt du document.

La sanction a été immédiate. « L’ignorance des risques liés à l’utilisation de l’IA n’est plus une excuse », a tranché le juge Jerry Edwards Jr. L’avocat a été condamné à une amende de 1.000 dollars et devra suivre une formation spécifique sur la pratique juridique assistée par l’intelligence artificielle.

Interdiction de plaider pendant deux ans

Quelques mois plus tard, une autre affaire est venue confirmer que le problème ne relève plus de l’incident isolé. Dans le Mississippi, le juge fédéral Sharion Aycock a sanctionné des avocats représentant les deux parties d’un même litige civil après avoir constaté la présence de précédents judiciaires inexistants dans leurs mémoires rédigés avec l’aide de l’IA. Quatre avocats ont écopé au total de 8.000 dollars d’amendes et deux d’entre eux se sont vu interdire de plaider devant ce tribunal pendant deux ans.

Ces dossiers ne constituent que la partie visible d’un phénomène devenu mondial. Selon une base de données constituée par Damien Charlotin, avocat français et chercheur associé à HEC Paris, environ 1.600 cas d’hallucinations détectées dans des documents judiciaires ont été recensés depuis avril 2023. Si les États-Unis concentrent l’essentiel des affaires, des incidents similaires ont déjà été identifiés dans 35 autres pays. Plus préoccupant encore, leur fréquence s’accélère. D’après les données compilées par le chercheur, le nombre de cas recensés au cours des douze derniers mois a été multiplié par huit par rapport à l’année précédente.

L’explication réside dans la nature même des grands modèles de langage. L’IA est « une technologie qui aime suivre les modèles », explique Damien Charlotin. Le raisonnement juridique repose précisément sur des structures hautement répétitives : citations de jurisprudence, références doctrinales, argumentaires standardisés. Les systèmes génératifs excellent à reproduire ces formes. Ils peuvent ainsi produire des textes qui semblent irréprochables sur le plan formel tout en contenant des références totalement fictives.

Chatbots grand public

Le danger est d’autant plus grand que ces erreurs passent souvent inaperçues à première lecture. Certaines affaires continuent même d’être gagnées malgré la présence d’hallucinations. « Il y a des affaires où les avocats gagnent quand même », malgré deux ou trois hallucinations, « parce qu’ils avaient raison sur le fond », observe Damien Charlotin.

Pour les magistrats, les conséquences dépassent toutefois la simple erreur de procédure. Dans une décision rendue en janvier, la juge Linda Kevins, de la Cour suprême de l’État de New York, soulignait que ces pratiques entraînent des pertes de temps et des coûts supplémentaires pour les parties comme pour les tribunaux. Elles peuvent également « porter potentiellement atteinte à la réputation des juges et des juridictions dont les noms sont faussement invoqués comme auteurs de décisions fictives ».

Les cas recensés montrent par ailleurs que les principaux responsables sont rarement les outils spécialisés utilisés dans les grands cabinets. Les erreurs proviennent le plus souvent de chatbots grand public, notamment ChatGPT d’OpenAI, employés comme moteurs de recherche juridique sans contrôle suffisant. Or, dans le droit, la confiance ne dispense jamais de la vérification. « Personne d’entre nous connaît toutes les affaires qui existent. La seule façon de savoir si [un précédent juridique cité par un chatbot] existe, c’est de le vérifier », rappelle Damien Charlotin.

Un principe élémentaire que certains praticiens semblent avoir oublié. Pour Scott Schlegel, membre du groupe de travail de l’American Bar Association consacré au droit et à l’intelligence artificielle, le problème est moins technologique que professionnel. « Qu’ils arrêtent. Qu’ils fassent simplement leur travail et lisent les décisions. Franchement ! », lance-t-il.