Hallucination IA est le terme consacré pour désigner une réponse générée par un modèle de langage (LLM) qui est fluide, syntaxiquement correcte et crédible, mais factuellement fausse ou non vérifiable. Le modèle ne ment pas au sens humain : il prédit le mot le plus probable suivant, sans représentation interne de la vérité. Quand la donnée manque dans ses paramètres, il comble par ce qui sonne juste.
Selon le paper officiel d'OpenAI "Why Language Models Hallucinate" de 2024, les hallucinations naissent dès le pré-entraînement (le modèle apprend à produire des séquences plausibles) et persistent après les phases d'alignement RLHF. La définition de référence chez Lakera précise qu'on distingue deux grandes familles : hallucinations de factualité (la réponse contredit le savoir mondial réel) et hallucinations de fidélité (la réponse contredit le contexte fourni en entrée, par exemple un document à résumer).
Trois exemples concrets que vous rencontrerez
Exemple 1 : la fausse jurisprudence. En juin 2023, dans l'affaire Mata v. Avianca devant le tribunal du district sud de New York, deux avocats ont déposé un mémoire bâti sur 6 jurisprudences entièrement inventées par ChatGPT. Numéros de dossiers réalistes, noms de juges plausibles, citations textuelles convaincantes. Aucune n'existait. Le juge Castel les a sanctionnés à 5 000 USD le 22 juin 2023. C'est devenu le cas d'école mondial.
Exemple 2 : la statistique fabriquée. Demandez à ChatGPT « quel pourcentage de PME wallonnes utilise l'IA en 2024 ? » et selon le moment vous obtiendrez 18 %, 27 %, ou 41 %. Aucun de ces chiffres n'a forcément de source. Le modèle synthétise une valeur cohérente avec son corpus d'entraînement, mais ne vérifie rien.
Exemple 3 : la citation académique inexistante. Le modèle vous propose « selon une étude de l'Université de Liège publiée en 2023... » et la référence est inventée de toutes pièces. C'est particulièrement vicieux parce que l'auto-attribution à une institution crédible désarme l'esprit critique.
Pourquoi ça arrive (en une phrase technique)
Un LLM est entraîné à maximiser la probabilité du prochain token étant donné les tokens précédents. Il n'a pas de module "vérité". Quand on lui demande une réponse précise sur un sujet pointu, il génère ce qui ressemble statistiquement à une bonne réponse pour ce type de question. Si le savoir n'est pas dans ses paramètres ou si la question est mal formulée, il invente une réponse plausible plutôt que de dire "je ne sais pas".
Une étude de Stanford parue en 2024 dans le Journal of Legal Analysis a quantifié ce phénomène dans le contexte juridique américain : les principaux LLMs hallucinaient entre 58 % et 88 % du temps sur des questions de droit fédéral précises. Les chiffres ont baissé depuis avec les modèles 2025, mais l'ordre de grandeur du problème reste réel.
Les taux mesurés en 2025
Le leaderboard Vectara sur les hallucinations en summarization grounded (corpus de 7 700+ articles) donne en 2025 les ordres de grandeur suivants sur cette tâche :
- Gemini 2.0 Flash : ~0,7 %
- GPT-4o : ~1,5 %
- Claude Sonnet : ~4,4 %
- Claude Opus : ~10,1 %
À retenir : même les meilleurs modèles ne sont pas à zéro hallucination. Et ces chiffres concernent la tâche la plus contrôlée (résumer un texte fourni). Sur des questions ouvertes avec données récentes, les taux montent significativement. Une survey arxiv 2025 sur les hallucinations LLM confirme que le phénomène est intrinsèque à l'architecture actuelle, pas un bug à corriger.
Comment réduire les hallucinations en pratique
Trois techniques fonctionnent et se combinent :
-
RAG (Retrieval-Augmented Generation). Vous fournissez au modèle les documents pertinents en contexte (extraits PDF, base interne, FAQ), et vous lui demandez de répondre uniquement à partir de ces sources. Une revue MDPI 2025 sur RAG et mitigation d'hallucinations montre que les approches RAG bien construites réduisent significativement le taux (>40 % de réduction observée dans certains cas vertical santé). En PME, RAG s'implémente avec des outils comme une base vectorielle simple sur vos documents internes.
-
Prompt système strict. Vous donnez au modèle des consignes explicites : « Réponds uniquement à partir des sources fournies. Si l'information n'y est pas, dis "je ne sais pas". Ne génère jamais de chiffre, citation ou référence non présente dans les sources. » Ces consignes baissent fortement les hallucinations spontanées sur des modèles récents.
-
Validation humaine systématique sur tout livrable externe. Aucun email client, devis, contrat, post LinkedIn, contenu juridique ou comptable ne devrait sortir de votre PME sans qu'un humain ait relu chaque chiffre, chaque citation, chaque référence. C'est la couche de défense ultime, et elle est non-négociable en 2026.
Le piège RGPD à connaître
Quand vous utilisez un LLM pour prendre une décision concernant une personne (recrutement, scoring crédit, sélection candidat, refus client), l'article 22 du RGPD s'applique. Cet article donne à toute personne le droit de ne pas faire l'objet d'une décision exclusivement automatisée produisant des effets juridiques ou significativement similaires.
La CJUE l'a précisé dans l'arrêt CK v. Magistrat der Stadt Wien (C-203/22) du 27 février 2025 en exigeant que l'humain "contribue de manière effective" à la décision finale. Si le LLM hallucine un argument factuel (un faux antécédent, une fausse référence) et que la décision humaine s'appuie dessus sans vérification, la responsabilité juridique reste pleinement chez l'entreprise. La page officielle CNIL sur le RGPD rappelle ces obligations.
Pratique : si votre PME utilise un LLM dans un processus de décision sur personne, documentez l'intervention humaine, gardez la trace écrite, formez vos équipes à reconnaître les hallucinations.
Pour aller plus loin
Pour comparer concrètement les modèles principaux côté qualité et conformité, lire notre comparatif 3-way des suites IA pour PME. Pour la base de toute stratégie RGPD et IA en PME wallonne : RGPD et IA pour PME wallonne. Pour comprendre comment cadrer les vrais cas d'usage en PME : 10 cas concrets d'IA gratuite pour PME. Pour finir sur la mise en pratique conformité au quotidien : utiliser ChatGPT sans casser le RGPD.
