Trois numéros d’articles de loi, cités avec assurance dans un billet de blog destiné à vulgariser une question de succession, se sont révélés introuvables dans le code civil au moment de la vérification. L’office notarial qui avait publié ce texte, généré en grande partie par un LLM sans relecture juridique approfondie, l’a retiré du site dès que l’anomalie a été signalée par un lecteur.
Ce cas illustre un comportement bien documenté des modèles de langage : face à une demande de référence précise, un LLM ne dit presque jamais qu’il ne sait pas. Il produit une réponse plausible, dans la forme attendue, y compris quand aucune donnée réelle ne la fonde.
Ce qu’on observe dans ce type d’incident
Le texte généré présentait toutes les apparences du sérieux : un ton mesuré, une structure logique, des numéros d’articles cités au format attendu (« article 815-2 du Code civil »). Rien, à la simple lecture, ne permettait de suspecter que ces références n’existaient pas. C’est précisément ce qui rend ce type d’erreur dangereux : elle ne se signale pas par une maladresse de style, mais par une fausse précision.
L’office notarial avait utilisé le LLM pour vulgariser une notion juridique complexe à destination du grand public, sans lui fournir de source documentaire précise en entrée. Le modèle a donc reconstitué, à partir de ses régularités statistiques, des références qui ressemblaient à de vraies citations sans en être.
Pourquoi la vérification systématique est indispensable
Trois raisons rendent cette vérification non négociable pour tout contenu à portée juridique :
- Un modèle de langage n’a aucune conscience de ce qu’il sait réellement par rapport à ce qu’il reconstitue par analogie statistique.
- Un numéro d’article inventé est indiscernable, dans sa forme, d’un numéro d’article réel, ce qui rend la relecture superficielle inefficace.
- Un cabinet notarial engage sa crédibilité professionnelle sur ce type de contenu, bien au-delà du simple risque d’image d’un blog généraliste.
Cette dernière raison explique pourquoi l’incident, bien que limité à un seul article de blog, a été traité avec sérieux : la confiance dans l’expertise juridique du cabinet constitue son actif principal, et un contenu erroné publié sous son nom l’entame directement.
Quoi faire à la place
La méthode la plus fiable ne consiste pas à demander au modèle de citer des articles de loi de mémoire, mais à lui fournir le texte source exact (extrait du Légifrance ou d’un code annoté) et à lui demander uniquement de le reformuler ou de le vulgariser, sans jamais lui laisser la liberté d’ajouter une référence non fournie en entrée.
Voici le texte exact de l'article 815-2 du Code civil, tel que
publie sur Legifrance : [coller le texte source ici]
Reformule ce texte en langage accessible pour un lecteur non
juriste, sans ajouter aucune autre reference legale que celle
fournie ci-dessus.Cette contrainte réduit drastiquement le risque d’invention, sans l’éliminer totalement : une relecture par un professionnel du droit reste indispensable avant toute publication, précisément parce qu’aucune consigne de prompt ne garantit un résultat à cent pour cent fiable.
Un signal d’alerte à surveiller
Un texte généré qui cite plusieurs références légales précises sans qu’aucune n’ait été fournie en amont dans le prompt constitue, en soi, un signal d’alerte suffisant pour déclencher une vérification systématique, article par article, avant toute mise en ligne. L’absence de ce réflexe, plus que la technologie elle-même, explique la plupart des incidents de ce type observés sur des sites professionnels.
Un texte juridique fluide et bien structuré n’est jamais une preuve de son exactitude : c’est justement cette fluidité qui rend une hallucination difficile à repérer sans vérification externe.
Ce que cet incident ne règle pas
La question de la responsabilité éditoriale de l’office notarial en cas de préjudice causé par un contenu erroné, une fois publié et consulté par un client, relève d’une analyse juridique distincte qui dépasse le constat technique posé ici. Elle mérite un traitement séparé, propre au droit de la responsabilité professionnelle.
