2 000 affaires judiciaires plus tard : ce que les hallucinations de l'IA en droit apprennent à toutes les professions

En juin 2023, un avocat new-yorkais se tenait devant un juge fédéral, tentant d'expliquer six décisions de justice qui n'existaient pas. Il avait demandé à ChatGPT des précédents soutenant la demande de son client contre la compagnie aérienne Avianca, et le modèle avait produit des citations assurées, avec des extraits fabriqués et des numéros d'affaires inventés. Le tribunal l'a condamné, avec son cabinet, à 5 000 dollars d'amende, et l'affaire est devenue l'exemple d'avertissement raconté dans toutes les formations IA de l'année.

L'avertissement n'a pas fonctionné. En septembre 2026, une base de données publique tenue par le chercheur en droit Damien Charlotin a identifié plus de 2 000 décisions de justice impliquant des citations ou des contenus fabriqués par l'IA, contre environ 200 un an plus tôt. Les sanctions sont passées des amendes aux condamnations aux frais, aux radiations et aux suspensions, la plus lourde sanction individuelle rapportée atteignant environ 109 700 dollars.

Le droit se trouve être la profession où cette défaillance est la plus visible, parce que les conclusions sont publiques et que les juges vérifient les citations. La même défaillance se produit silencieusement dans des rapports marketing, des analyses financières, des présentations de conseil et des copies d'étudiants. Le registre judiciaire n'est que la partie émergée de l'iceberg.

Pourquoi des professionnels intelligents continuent de s'y faire prendre

Les personnes sanctionnées dans ces affaires ne sont ni paresseuses ni stupides. Ce sont des professionnels expérimentés qui ont commis une erreur cognitive précise et prévisible : ils ont pris la fluidité pour une preuve d'exactitude.

Les grands modèles de langage produisent un texte grammaticalement parfait, formulé avec assurance et présenté exactement comme l'original. Tous les signaux de surface que les professionnels utilisent depuis toujours pour jauger la fiabilité — mise en forme précise, références spécifiques, ton assuré — sont présents dans une sortie hallucinée. Les signaux qui devraient trahir une fabrication sont précisément ceux que le modèle imite le mieux.

C'est pourquoi avertir les gens des hallucinations n'empêche pas l'échec. Tous les sanctionnés depuis 2023 avaient presque certainement entendu dire que l'IA peut inventer. Savoir que la défaillance existe et l'attraper sur le moment sont deux compétences différentes, et une seule des deux s'acquiert par un avertissement.

La compétence qui protège vraiment

Ce qui fonctionne, c'est une habitude de vérification qui se déclenche automatiquement, avant que la sortie ne soit utilisée, quelle que soit sa vraisemblance. Les professionnels qui ne finissent pas dans la base de données partagent un protocole simple : toute affirmation vérifiable est vérifiée à sa source avant de circuler.

Pour une citation, cela veut dire ouvrir la décision. Pour une statistique, retrouver le rapport. Pour un extrait, localiser l'original. Pour une affirmation produit, demander à l'équipe produit. La vérification est généralement rapide. Ce qui est difficile, c'est de la rendre inconditionnelle, parce que toute la force d'une sortie fluide est de donner l'impression qu'elle n'a pas besoin d'être vérifiée.

C'est une compétence entraînable, et l'entraîner exige de pratiquer sur des sorties conçues pour être plausibles et fausses. Lire des articles sur les hallucinations construit la conscience du problème. Les attraper à répétition — et parfois échouer, dans un cadre où l'échec ne coûte rien — construit le réflexe.

Ce que l'éducation doit retenir du registre judiciaire

Les affaires judiciaires offrent à l'éducation quelque chose de rare : des preuves documentées, publiques et datées de ce qui arrive quand des professionnels intelligents utilisent l'IA sans habitudes de vérification, sur trois ans et dans plusieurs juridictions.

Deux implications en découlent pour quiconque conçoit un programme IA. D'abord, la vérification mérite au moins autant de temps d'enseignement que le prompting. Le marché est saturé de formations au prompt ; la base des sanctions suggère que la compétence rare est le jugement sur les sorties. Ensuite, l'évaluation devrait inclure la détection de fabrications, pas seulement la production de contenu. Un étudiant qui a trouvé dix hallucinations cachées dans des documents réalistes n'a pas le même rapport aux sorties d'IA que celui qui a seulement lu qu'elles existent.

Les avocats de la base de données ont appris la leçon au prix d'amendes, de suspensions et d'humiliations publiques. Les étudiants peuvent l'apprendre au prix d'un exercice bien conçu. Cet échange résume à lui seul l'intérêt d'une éducation structurée à l'IA.