Le 22 juin 2023, à New York, le juge P. Kevin Castel a infligé une amende de 5 000 dollars à deux avocats et à leur cabinet pour un mémoire citant six décisions inexistantes. L'un d'entre eux, qui exerçait depuis plus de 30 ans, les avait obtenues via ChatGPT. Selon sa propre déclaration sous serment, lorsqu'il a demandé au système si ces affaires étaient réelles, la réponse a été affirmative, indiquant qu'elles pouvaient être trouvées dans les bases de données de jurisprudence.
À l'époque, cela semblait une anecdote. Aujourd'hui, cela a un nom et une base de données qui le documente.
Elle est tenue par le chercheur Damien Charlotin, qui enregistre les décisions judiciaires du monde entier ayant constaté des citations, des arrêts ou des données inventés par l'intelligence artificielle. En 2023, il y en avait 16 ; en 2025, 861, et depuis le début de 2026, 1 261. Au 16 octobre, le total s'élevait à 2 199 : plus de la moitié implique des personnes qui plaident sans avocat, 871 concernent des avocats et 32 des juges. Dix proviennent de l'Argentine.
Il ne s'agit pas de dire que l'IA s'est dégradée : nous l'utilisons beaucoup plus. Le risque augmente avec l'usage et, par conséquent, la vérification doit augmenter de la même manière.
Pourquoi une technologie qui fonctionne de mieux en mieux continue-t-elle de commettre une erreur aussi basique que l'invention d'informations ? Pour y répondre, il faut examiner ce qu'est réellement ce que nous appelons l'IA.
Qu'est-ce qu'un modèle de langage et pourquoi invente-t-il
Un modèle de langage, comme ceux qui se trouvent derrière ChatGPT, Claude ou Gemini, ne fait qu'une seule chose : il reçoit un texte et en renvoie un autre. S'il semble se souvenir ou nous connaître, c'est parce qu'à chaque fois que nous écrivons, la conversation entière de la session, plus quelque chose qu'il a stocké quelque part, plus la nouvelle question, lui sont à nouveau transmises, et le modèle prédit à nouveau la réponse comme s'il la voyait pour la première fois.
Tant que nous l'utilisons, rien ne change à l'intérieur : il n'apprend pas de nous (seule une couche externe conserve des fragments d'informations), il ne sait pas ce qui s'est passé après son entraînement et ne peut pas vérifier ce qu'il dit. Quand il ne sait pas quelque chose, les probabilités des mots possibles sont réparties, et le modèle en choisit un quand même. Si je lui demande de compléter mon dossier et qu'il ne sait pas quand est mon anniversaire, il mettra une date qui sonne bien.
Il prédit le probable, pas le vrai. En jargon technique, cela s'appelle halluciner : répondre quelque chose de faux avec la même assurance que quelque chose de vrai.
Que ajoute la couche externe et ce qu'elle ne peut pas corriger
Si le modèle ne produit que du texte, comment envoie-t-il un e-mail ou crée-t-il un tableur ? Il est utile d'imaginer un expert enfermé dans une pièce, qui ne peut communiquer qu'avec des notes qu'il passe sous la porte. De l'autre côté, quelqu'un lit chaque note, effectue la démarche, cherche le dossier ou envoie le message, et lui renvoie une autre note avec le résultat.
L'expert est le modèle ; c'est l'armature qui est à l'extérieur, le programme qui l'entoure et lui donne des outils pour exécuter, de la mémoire pour se souvenir, une recherche sur Internet pour les nouvelles informations, des tests pour vérifier et un ordinateur où agir. Lorsque cet aller-retour se répète jusqu'à la fin d'une tâche, le système est alors appelé agent.
L'armature donne des mains au modèle, mais ne change pas sa tête. Ce qui est à l'extérieur exécute ce que dit le papier, et le papier a été écrit par quelqu'un qui prédit ce qui est probable : s'il y a eu une erreur à l'intérieur, l'extérieur s'exécute avec la même rigueur qu'en cas de succès.
Dans une colonne précédente, j'ai proposé trois boîtes pour organiser la discussion sur une IA de niveau humain. Aujourd'hui, nous en sommes à la première, celle des tâches bien définies, avec nos yeux sur l'épaule ; pas encore dans la seconde, celle d'une IA à qui l'on pourrait laisser les clés du bureau.
Comment mesurer combien l'IA invente
En novembre 2025, Artificial Analysis, un cabinet indépendant qui évalue les modèles, a publié AA-Omniscience : 6 000 questions de connaissances professionnelles dans 42 domaines. Sa règle est celle qui importe : si le modèle a raison, il gagne un point ; s'il invente, il perd un point ; s'il dit « je ne sais pas », ni gain ni perte.
Le premier de ce classement, Claude Opus 4.1 d'Anthropic, avait raison sur 36 questions sur 100 et en inventait 31. Aujourd'hui, le premier est Claude Opus 5.5 de la même entreprise : il a raison sur 66, presque le double, et en invente 20.
Mais quand il n'a pas raison, dans 59 % des cas, il invente au lieu d'admettre qu'il ne sait pas, selon le tableau du 16 octobre ; pour Opus 4.1, cette proportion était de 48 %.
Savoir plus n'est pas la même chose que moins inventer. Celui qui a le plus de succès aujourd'hui, Claude Fable 5.1, avec 67 % de bonnes réponses, invente dans 73 % des cas où il n'a pas raison. Celui qui invente le moins parmi les plus avancés, Gemini 4 Argon de Google, le fait dans 15 % des cas car il dit « je ne sais pas » plus souvent ; en échange, il a raison sur 50 questions sur 100, et n'est pas encore ouvert au public.
Lui donner le document aide, mais ne suffit pas : selon le tableau mis à jour par Vectara le 22 septembre, lors de la synthèse d'un texte, les plus grands modèles ajoutent quelque chose qui n'était pas dans l'original dans environ 6 à 14 résumés sur 100.
Pourquoi les modèles devinent au lieu de dire « je ne sais pas »
Si un modèle peut dire « je ne sais pas », pourquoi ne le dit-il pas plus souvent ? Aucune conspiration n'est nécessaire : il suffit d'un incentive. En septembre 2025, des chercheurs d'OpenAI et de l'Institut de technologie de Géorgie, dirigés par Adam Tauman Kalai, l'ont expliqué dans le travail « Pourquoi les modèles de langage hallucinent » : les examens avec lesquels ces systèmes sont entraînés et mesurés récompensent la devinette.
C’est la logique d’un test à choix multiples : la question laissée en blanc vaut zéro point sûr et celle devinée rapporte parfois des points, donc, si se tromper ne pénalise pas, il convient de toujours risquer. Les auteurs proposent de punir davantage l’erreur dite avec assurance que le doute, ce qu’effectue AA-Omniscience.
Les modèles s’améliorent, mais pas en ligne droite : selon Artificial Analysis, GPT-5.6 Sol d’OpenAI inventait dans 92 % des cas où il ne trouvait pas la bonne réponse, et son successeur, GPT-6 Astra, dans 51 %. Avec un système qui prédit du texte, le zéro n’est pas garanti.
Mon interprétation, discutable, est que c’est la raison pour laquelle l’IA d’aujourd’hui ne peut toujours pas remplacer celui qui l’utilise : ce n’est pas qu’elle ne sait pas faire le travail, c’est qu’il y a trop de fois où elle ne se rend pas compte quand elle s’est trompée, et elle l’annonce avec la même assurance. Les humains aussi font des erreurs, mais nous pouvons dire « je ne sais pas » et, lorsque nous signons, nous répondons de ce que nous avons signé.
Quoi vérifier et combien, selon ce qui est en jeu
Avant de poser une question, il convient de lui donner la permission de douter, de lui transmettre le document avec l’instruction de répondre uniquement avec ce qu’il contient et de demander de marquer ce dont elle est le moins sûre. Avec la source sous les yeux, elle invente beaucoup moins ; la recherche sur internet et le découpage des grandes tâches en petites étapes aident aussi. Trois instructions servent à commencer :
Pour les données ou les faits : « Répondez seulement si vous en êtes sûr. Si ce n’est pas le cas, dites “Je ne sais pas” au lieu de deviner, et marquez clairement les parties dont vous avez des doutes ».
Pour vos propres documents, comme les contrats, les rapports ou les procès-verbaux : « Utilisez uniquement le document ci-dessous. Si la réponse n’y figure pas, dites-le-moi. Citez la phrase exacte que vous avez utilisée ».
Pour les analyses et les recommandations : « Expliquez comment vous êtes arrivé à cette réponse, listez vos sources et dites-moi de quelle partie vous êtes le moins sûr ».
Vient ensuite le contrôle : chaque donnée importante, avec deux sources ; chaque lien et chaque citation, vérifiés, et s’ils n’apparaissent pas, ils ne sont pas utilisés ; les nombres, recalculés, et le code, testé. Si en reformulant la question la réponse change, le modèle ne le savait pas. Lui demander de dire « je ne sais pas » a un coût, car il répond moins. Pour décider, il est préférable d’avoir un « je ne sais pas » qu’une donnée inventée.
Inutile de tout vérifier avec la même loupe, mais selon ce qui est en jeu, comme dans un feu de signalisation. En vert, les brouillons et les idées : usage libre, avec un coup d’œil rapide. En jaune, les données (chiffres, noms, citations, liens et code) : toujours confrontés à la source originale. En rouge, ce qui décide de quelque chose ou est publié, concernant des clients, l’argent, des sujets juridiques ou des personnes : source, une autre personne qui vérifie et quelqu’un qui signe.
Il convient de la traiter comme un stagiaire brillant, rapide et parfois trop sûr de lui. Et si un agent annonce qu’il a terminé, il faut le vérifier.
Délégez la tâche, pas la responsabilité. La première règle dit « avec les yeux par-dessus l’épaule ». Ces yeux sont les nôtres.