Hallucination IA : quand une réponse fausse a toutes les apparences d’une réponse vérifiée

L’IA répond en quelques secondes. Elle donne un nom, une date, trois sources. Tout semble cohérent : le ton, la structure, le vocabulaire. Puis nous ouvrons les sources. La personne n’existe pas. Les trois études non plus.

La réponse ne ressemblait pourtant pas à une erreur. Elle ressemblait à un travail documenté.

C’est ce qu’on appelle une hallucination IA : une information fausse, inventée, contradictoire ou insuffisamment étayée qu’un système d’intelligence artificielle présente comme une réponse fiable. Elle peut prendre la forme d’un fait incorrect, d’un chiffre fabriqué, d’une citation inexistante ou d’une réponse infidèle aux documents fournis. Le terme prête à confusion : certains chercheurs et le NIST (National Institute of Standards and Technology) lui préfèrent « confabulation ». Rien ne permet d’attribuer à un modèle de langage une intention de tromper ou une conscience de son erreur.

Ce guide explique pourquoi une hallucination de l’IA peut sembler parfaitement vérifiée, quelles formes elle prend, pourquoi les modèles en produisent, et comment la repérer avant qu’elle ne devienne une décision, un article ou un conseil.

Qu’est-ce qu’une hallucination IA, exactement ?

Une hallucination IA porte sur un élément vérifiable : une personne, une date, un chiffre, une source, une action prétendument effectuée. Trois traits sont particulièrement fréquents : une absence de soutien suffisant, une apparence plausible (ton naturel, structure cohérente, vocabulaire spécialisé) et une confiance apparente qui ne correspond pas nécessairement au niveau réel de certitude du système.

Le terme lui-même est une métaphore, empruntée à la perception humaine : un système ne perçoit rien et ne vit aucune expérience psychologique. Il s’est pourtant largement imposé. Nous le conservons ici en gardant à l’esprit ce qu’il décrit réellement : un résultat généré, pas une expérience vécue.

Le NIST, l’organisme fédéral américain de normalisation, emploie le terme confabulation pour désigner la production, présentée avec assurance, d’un contenu erroné ou faux, y compris lorsque la réponse contredit une source, une instruction ou une affirmation précédente. Le document précise que ce phénomène est aussi couramment appelé « hallucination » ou « fabrication ».

Source : le NIST définit la confabulation comme une production de contenu erroné présenté avec assurance, AI Risk Management Framework, Generative AI Profile (NIST AI 600-1), 26 juillet 2024.

Les chercheurs d’OpenAI comparent le modèle à un étudiant face à une question difficile : mieux vaut, pour la note, tenter une réponse plausible que reconnaître une incertitude.

Source : les chercheurs d’OpenAI expliquent pourquoi les modèles hallucinent, Kalai, Nachum, Vempala, Zhang, « Why Language Models Hallucinate », preprint arXiv, 4 septembre 2025.

Un point mérite d’être posé une fois pour toutes : un modèle qui hallucine ne possède ni intention de tromper, ni conscience de son erreur. Il produit une réponse fausse. Nous y revenons tout de suite, là où se loge la confusion la plus répandue.

Hallucination, erreur, mensonge, désinformation, biais : où est la frontière ?

Plusieurs mots se mélangent souvent dans la même phrase, sans désigner la même chose.

Dans ce guide, nous employons erreur comme catégorie générale (calcul incorrect, mauvaise compréhension de la consigne, source obsolète, problème technique) et hallucination pour désigner plus spécifiquement une sortie plausible mais fausse, insuffisamment étayée ou infidèle à la source. Cette frontière est une convention pratique, pas une définition académique universellement fixée : les travaux de recherche n’emploient pas tous exactement le même périmètre pour « hallucination ». Exemple : une IA consulte une base officielle contenant une ancienne adresse et la restitue telle quelle. C’est une donnée obsolète, pas une invention du modèle.

Un mensonge suppose une intention de tromper, que nous n’avons pas à attribuer à un modèle de langage. Il produit une suite de mots statistiquement plausible ; il ne décide pas de mentir.

La mésinformation désigne la diffusion d’une information fausse ou trompeuse sans qu’une intention de tromper soit nécessaire. La désinformation suppose au contraire une intention de tromper ou de manipuler. Dans les deux cas, il s’agit de la circulation du contenu, pas du mécanisme qui l’a produit : une hallucination intelligence artificielle peut devenir un élément de désinformation si une personne la diffuse ensuite intentionnellement comme vraie, ou de mésinformation si elle la relaie sans le savoir.

Un biais peut contribuer à une réponse incorrecte ou stéréotypée. Il n’est pas synonyme d’hallucination : un mécanisme et un sujet différents, non développés ici.

Formulation à retenir : une hallucination est une production non fiable, un mensonge implique une intention du modèle qu’on ne peut pas lui attribuer, la désinformation et la mésinformation décrivent une circulation, intentionnelle ou non. Ces notions se croisent parfois ; elles ne sont pas synonymes.

Notion	Ce qu’elle suppose	Exemple
Hallucination	Une affirmation fausse, insuffisamment étayée ou infidèle à la source, sans intention démontrée	Un nom, une date ou une citation inventés
Erreur	Une cause variée, parfois technique	Une adresse obsolète restituée telle quelle
Mensonge	Une intention de tromper	Une intention que l’on ne peut pas attribuer à un modèle de langage
Désinformation	Une intention de tromper, au moment de la diffusion	Une hallucination relayée intentionnellement comme vraie
Mésinformation	Une diffusion sans intention de tromper	Une hallucination relayée sans vérification
Biais	Une association apprise, pas une invention	Une réponse stéréotypée à partir de données déséquilibrées

Idée reçue

« L’IA ment volontairement » : c’est une idée reçue, entretenue par des titres qui empruntent le vocabulaire du mensonge pour attirer l’attention avant, souvent, de nuancer plus loin dans le texte. Une hallucination ne suppose pas d’intention consciente de tromper. La différence n’est pas cosmétique : elle change la manière de corriger le problème, qui porte d’abord sur la génération, les sources utilisées et les mécanismes de vérification.

Factualité et fidélité à la source

C’est la distinction la plus utile de ce guide, et la plus rarement posée.

Deux questions se cachent derrière « cette réponse est-elle vraie ? ». La factualité : l’affirmation correspond-elle à la réalité ? La fidélité : correspond-elle au document que le modèle devait résumer, traduire ou analyser ? Ces deux questions ne se recoupent pas toujours.

Les travaux de synthèse sur les hallucinations LLM en génération de langage distinguent deux catégories.

Une hallucination intrinsèque contredit directement la source fournie : le document indique « le contrat prend fin le 31 décembre », le résumé généré affirme « le 30 juin ».

Une hallucination extrinsèque ajoute une information non déductible de la source : le document indique que l’entreprise a publié ses résultats annuels, le résumé ajoute qu’elle prévoit 300 licenciements.

Source : la synthèse académique de référence sur les hallucinations en génération de langage, Ji, Lee, Frieske et al., « Survey of Hallucination in Natural Language Generation », ACM Computing Surveys, version arXiv révisée le 14 juillet 2024.

Point que la plupart des explications grand public passent sous silence : la factualité dans le monde réel et la fidélité au document ne sont pas toujours identiques. Une information peut être vraie tout en étant absente du document à résumer. Inversement, une réponse peut reproduire fidèlement une source qui contient elle-même une erreur.

Concrètement : une réponse peut être factuellement exacte tout en étant infidèle à la mission demandée. C’est le cas le plus difficile à repérer dans un usage professionnel, résumé de document ou RAG interne, parce que la réponse « sonne juste » sans avoir fait le travail demandé.

Quelles sont les principales formes d’hallucinations IA ?

La classification suivante reste pratique, pas académique.

• Fait inventé. Une personne, un événement ou une statistique créés de toutes pièces : une acquisition attribuée à une entreprise alors que l’opération n’a jamais existé.
• Information réelle mais déformée. Des éléments existent séparément, mais le modèle les combine mal : une personne réelle associée à la date d’une autre.
• Citation fabriquée. Un article, un auteur, un DOI ou une jurisprudence inventés : une forme documentée dans les contenus professionnels et juridiques, illustrée plus loin par une affaire judiciaire réelle.
• Mauvaise attribution. Une information réelle attribuée au mauvais auteur, à la mauvaise étude ou à la mauvaise entreprise.
• Hallucination temporelle. Le modèle invente ou reconstruit incorrectement une situation à une date donnée, par exemple en présentant une ancienne fonction comme actuelle sans source permettant de l’établir. Une donnée simplement obsolète, restituée telle quelle depuis une source ancienne, relève plutôt d’une erreur (voir plus haut).
• Réponse non fidèle à la source. Ajout d’une information absente, hypothèse transformée en certitude, conclusion inversée (voir plus haut).
• Contradiction interne. Deux affirmations incompatibles dans une même réponse, ou entre plusieurs réponses.
• Action prétendument effectuée. Le modèle affirme avoir consulté un site ou vérifié une information, alors que l’action n’a pas eu lieu.
• Production multimodale incorrecte. Une image, une transcription ou une description erronées ; catégorie secondaire ici.

Un exemple particulièrement documenté de citation fabriquée reste une affaire judiciaire américaine. En 2023, les avocats du dossier Mata v. Avianca ont cité devant un tribunal new-yorkais plusieurs décisions de justice inexistantes, produites avec l’aide de ChatGPT, et joint des copies de faux avis judiciaires. Le juge a constaté que ces références et documents étaient fictifs, puis a imposé une sanction de 5 000 dollars.

Source : l’affaire Mata v. Avianca, documentée par le dossier judiciaire, CourtListener / Free Law Project, S.D.N.Y., Opinion and Order on Sanctions du 22 juin 2023.

Une citation fabriquée ajoute, en quelque sorte, un costume universitaire à une information fausse : un nom d’auteur, une année, un titre qui sonne juste. Le costume ne la rend pas vraie ; il la rend seulement plus difficile à repérer sans vérification.

Pourquoi les IA hallucinent-elles ?

Il n’existe pas une cause unique. Plusieurs mécanismes se combinent, parfois dans la même réponse.

• La prédiction du prochain token. Lors de son préentraînement, un modèle de langage (LLM, large language model, la famille de modèles qui alimente les assistants conversationnels) apprend notamment à prédire le token suivant à partir du contexte précédent. Cette capacité favorise des textes plausibles et grammaticalement cohérents, mais ne constitue pas en elle-même une vérification indépendante des faits.
• Des connaissances rares ou incomplètes. Une personne peu connue, une entreprise locale ou un événement récent offrent moins de régularités fiables au modèle.
• Des données contradictoires. Les corpus d’entraînement peuvent contenir des données fausses ou contradictoires, que le modèle reproduit ou combine.
• Une fausse prémisse. Le modèle peut accepter une prémisse erronée dans la question et l’expliquer au lieu de la corriger.

Exemple concret

« Pourquoi Victor Hugo a-t-il reçu le prix Nobel de littérature ? » Victor Hugo n’a jamais reçu ce prix. Un modèle peut malgré tout accepter la prémisse et construire une explication plausible plutôt que de la corriger. Le modèle complète le blanc, un peu comme un élève qui ne veut pas rendre une copie inachevée.

• Une consigne ambiguë ou insuffisante. Le modèle doit deviner la période, le pays ou le niveau de précision attendu. Un prompt plus précis réduit certaines erreurs, sans modifier les connaissances du modèle.
• Une pression à répondre. Dans de nombreux benchmarks fondés sur l’exactitude, une abstention est comptée comme une réponse incorrecte : deviner peut donc améliorer le score attendu du modèle, même en cas d’incertitude.
• Une récupération défaillante. Le RAG peut réduire certaines confabulations en fournissant des informations externes au modèle. Il introduit aussi une dépendance à la qualité de la recherche : un mauvais document retrouvé, un passage incomplet ou un contexte insuffisant peuvent à leur tour produire une réponse erronée.
• Une mauvaise utilisation des sources. Le modèle peut disposer de la bonne source et mal l’interpréter : une source affichée n’assure pas la fidélité de la réponse.
• Les paramètres de génération. Une température plus élevée augmente la variété des réponses ; la réduire ne transforme pas le modèle en base factuelle.

Pourquoi une hallucination semble-t-elle si crédible ?

Reprenons l’exemple d’ouverture. Le nom était faux, la date aussi, et les sources n’existaient pas. Pourtant rien, dans la forme, ne trahissait l’erreur.

Le modèle maîtrise la forme d’une bonne réponse : syntaxe, structures éditoriales, vocabulaire, formats de citation, raisonnements courants. Il peut la reproduire sans toujours disposer du fait correct qui devrait la remplir.

La précision rassure. Un nom complet, une date, un pourcentage, une URL donnent une impression de fiabilité. Cette précision peut pourtant être entièrement fabriquée, une fausse pièce parfaitement imprimée : le problème n’apparaît qu’au moment où l’on vérifie sa valeur.

Les hallucinations les plus difficiles à détecter ne sont pas toujours entièrement inventées. Elles mélangent souvent trois faits exacts et une seule date incorrecte, ou une conclusion fausse construite sur des éléments par ailleurs corrects. Le danger d’une hallucination ne vient donc pas seulement de l’erreur elle-même : il vient de la facilité avec laquelle elle peut ressembler à une information vérifiée.

Les hallucinations peuvent-elles disparaître un jour ?

La réponse doit rester nuancée.

Il est difficile d’assurer qu’un modèle généraliste répondra toujours correctement à des questions ouvertes, ambiguës ou fondées sur une fausse prémisse. Cela ne signifie pas qu’il doive inventer une réponse : il peut exprimer une incertitude, demander une précision, ou signaler l’absence de source.

Les chercheurs d’OpenAI distinguent deux idées qu’on confond souvent : l’impossibilité d’une exactitude parfaite sur toutes les questions ouvertes n’équivaut pas à l’idée que chaque erreur serait inévitable. L’abstention peut éviter une partie des réponses fausses et confiantes.

Une étude publiée dans Nature en 2026 rappelle que des travaux antérieurs ont déjà montré l’efficacité de plusieurs techniques d’atténuation (récupération documentaire et usage d’outils, auto-vérification, apprentissage par retour humain), tout en soulignant que le problème persiste dans les modèles les plus récents. Son apport propre porte ailleurs : elle montre comment la prédiction du prochain mot et les méthodes d’évaluation fondées sur l’exactitude peuvent inciter un modèle à deviner plutôt qu’à s’abstenir.

Source : une étude publiée dans Nature en 2026, Kalai, Nachum, Vempala, Zhang, « Evaluating large language models for accuracy incentivizes hallucinations », Nature, 22 avril 2026.

Ce qu’il faut retenir : les hallucinations restent difficiles à éliminer complètement dans les usages ouverts. Leur fréquence et leur impact peuvent néanmoins être réduits, grâce au cadrage, aux sources, à l’évaluation, aux contrôles et à l’abstention.

Comment détecter une hallucination de l’IA, affirmation par affirmation ?

La plupart des conseils s’arrêtent à « vérifiez les sources ». Bon réflexe, insuffisant seul. Voici la méthode, étape par étape.

1. Isoler les affirmations vérifiables. Découper la réponse en noms, dates, chiffres, citations, relations de cause à effet.
2. Vérifier les sources sur le fond, pas seulement leur existence : la page existe-t-elle, l’auteur existe-t-il, le passage soutient-il l’affirmation, la source est-elle primaire ?
3. Recalculer les données. Reprendre les valeurs, vérifier l’unité, comparer le résultat obtenu.
4. Vérifier la temporalité. Une source peut être exacte et pourtant obsolète : date de publication, période étudiée, statut actuel de l’entité concernée.
5. Comparer plusieurs exécutions. Des réponses différentes à une même question signalent une instabilité. Mais une réponse répétée à l’identique ne prouve rien : plusieurs exécutions peuvent reproduire la même erreur.
6. Demander au système de signaler explicitement son incertitude : ce qui est certain, ce qui est supposé, ce qui manque. Sa propre estimation de confiance ne doit pas être considérée comme une mesure calibrée.
7. Faire examiner les résultats sensibles par un humain, à un niveau proportionné au risque.

Notre conseil d’expert

Nous nous méfions moins des réponses absurdes que des réponses trop bien présentées. Une absurdité déclenche immédiatement le doute. Une date précise, un chiffre et une citation peuvent au contraire désactiver la vigilance. La première protection ne consiste pas à demander à l’IA d’être plus sûre d’elle : elle consiste à vérifier ce qu’elle affirme, phrase par phrase, source par source.

Demander des sources, utiliser le RAG, écrire un prompt strict : pourquoi ces réflexes échouent à moitié ?

Plusieurs réflexes reviennent presque systématiquement dans les recommandations pour limiter les hallucinations. Aucun ne suffit seul.

Demander une source. Le modèle obéit, et peut simplement inventer des sources mieux présentées : une URL, une étude, un auteur. Il peut aussi citer une source réelle qui ne soutient pas la réponse qui l’accompagne.

Idée reçue

« Citer une source rend automatiquement la réponse fiable » : non. Une IA peut inventer une URL, une étude ou un auteur, ou citer une source réelle qui ne dit pas ce qu’on lui fait dire. Demander des sources améliore la vérifiabilité d’une réponse. Cela ne transforme pas automatiquement cette réponse en contenu vérifié.

Les fausses citations constituent une forme d’hallucination bien documentée dans les contenus professionnels et juridiques, comme le montre l’affaire évoquée plus haut.

Utiliser le RAG. Le bon document peut être retrouvé, et le modèle ajoute malgré tout une exception qui n’y figure pas : une bibliothèque à disposition n’empêche pas d’ouvrir le mauvais livre.

Écrire un prompt strict. Une consigne du type « n’invente rien » peut rendre la réponse plus prudente et favoriser l’abstention, sans éliminer le risque d’erreur. Une date peut malgré tout rester fausse : un prompt ne peut pas ajouter une information absente des connaissances du modèle, ni assurer que la source sera bien interprétée.

Répéter la question. Poser trois fois la même question et obtenir trois réponses identiques ne prouve rien : le modèle peut reproduire la même erreur à chaque exécution.

Imaginons que nous interrogions un assistant sur le dirigeant actuel d’une entreprise peu connue. Le nom correspond à une personne réelle, qui travaille dans le bon secteur. Elle n’a simplement jamais dirigé cette entreprise : une information rare, une association d’entités proches, une suite plausible produite sans vérification.

Ces échecs ne rendent pas la vigilance inutile. Ils justifient la méthode affirmation par affirmation vue plus haut : les réponses génératives et les mentions IA d’une marque se vérifient de la même façon, une affirmation à la fois.

Comment réduire les hallucinations IA en pratique ?

Le terme à privilégier est réduire ou atténuer. Aucune méthode ne supprime le phénomène.

• Clarifier la tâche : objectif, périmètre, date, pays, sources autorisées, format attendu.
• Autoriser l’abstention explicitement : indiquer que, faute d’information dans les sources fournies, le système doit répondre qu’il ne peut pas la vérifier.
• Fournir des sources contrôlées : documents internes, bases à jour, sources officielles.
• Imposer une réponse fondée sur les documents : distinguer les faits des inférences, citer le passage utilisé, signaler les contradictions.
• Utiliser des outils déterministes pour les tâches qui s’y prêtent : calculatrice, base de données, API, formulaire structuré. Le modèle rédige l’explication ; il n’est pas chargé de recalculer le fait.
• Valider automatiquement les formats : dates, montants, identifiants, liens.
• Tester le système avec des questions faciles, des informations absentes, de fausses prémisses, des sources contradictoires.
• Maintenir un contrôle humain proportionné au risque : santé, droit, finance, sécurité, communications publiques.

Trois idées reçues à corriger, brièvement. Un bon prompt réduit les occasions de deviner ; il ne transforme pas le modèle en arbitre de la vérité. Le RAG peut réduire certaines hallucinations en donnant accès à des sources plus fiables, sans assurer la bonne récupération ni la fidélité de la génération. Le fine-tuning (le réentraînement d’un modèle déjà entraîné, sur un jeu de données plus ciblé) peut adapter le comportement d’un modèle. Il ne constitue pas une méthode de mise à jour factuelle, ni une preuve de véracité.

Comment mesurer un taux d’hallucination sans se raconter d’histoires ?

Il n’existe pas de taux universel valable pour tous les usages. Un chiffre dépend du modèle, de sa version, de la tâche, des sources disponibles et de la date du test.

• Définir l’unité évaluée : réponse entière, phrase, affirmation ou citation. L’analyse par affirmation, vue plus haut, est généralement plus précise qu’un verdict global.
• Définir ce qui constitue une hallucination : erreurs factuelles, contradictions avec une source, citations inventées, erreurs de date.
• Construire un jeu de référence à partir de sources fiables et datées.
• Séparer plusieurs indicateurs : proportion de réponses avec au moins une hallucination, taux d’abstention, taux d’erreurs confiantes, gravité des erreurs.
• Intégrer le risque. Une erreur sur un détail décoratif et une erreur sur un dosage médical ne pèsent pas le même poids : fréquence et gravité restent deux axes distincts.

Un exemple de protocole publié illustre pourquoi un chiffre nu ne veut rien dire seul. Dans l’étude parue dans Nature en 2026, sur le benchmark SimpleQA (des questions factuelles courtes et vérifiables), le modèle o4-mini d’OpenAI commet une erreur sur 76,8 % des questions en ne s’abstenant que sur 2,6 % d’entre elles, contre 20,8 % d’erreurs et 63,2 % d’abstentions pour GPT-5-mini. Cette comparaison montre qu’un score d’exactitude ne renseigne pas uniquement sur la capacité d’un modèle à connaître la bonne réponse : il dépend aussi de sa propension à répondre ou à s’abstenir, sur ce benchmark précis et à cette date.

La synthèse académique de référence sur le sujet rappelle que les méthodes d’évaluation varient fortement selon les tâches et les définitions retenues, et que les métriques automatiques ne remplacent pas toujours l’examen humain.

Quels risques pour l’entreprise, et qui est responsable en cas d’hallucination ?

Une hallucination publiée sans contrôle peut avoir des conséquences concrètes.

• Mauvaise décision : une équipe agit à partir d’un chiffre inventé ou d’un résumé incorrect.
• Atteinte à la réputation : un assistant publié au nom de l’entreprise diffuse une information offensante ou trompeuse.
• Risque financier : un mauvais prix, une estimation erronée.
• Risque juridique : des contenus inventés concernant une jurisprudence ou une donnée personnelle.
• Perte de confiance : un utilisateur cesse de faire confiance au système après plusieurs erreurs.

Sur la responsabilité : l’IA ne la porte pas elle-même. Celle-ci dépend du rôle du fournisseur, du déployeur, de l’usage réel et du droit applicable.

En Europe, l’AI Act (le règlement européen encadrant l’intelligence artificielle) impose des obligations différenciées selon les systèmes et les niveaux de risque. Il ne contient pas de règle générale imposant de « notifier et corriger toute hallucination » : les obligations précises dépendent de la catégorie de système concerné.

Source : Commission européenne, le cadre réglementaire officiel de l’AI Act, « AI Act, Shaping Europe’s digital future », page consultée le 19 août 2026.

Cette partie reste volontairement courte : elle signale un risque, elle ne remplace pas un avis juridique.

Conclusion : reprendre la question du début

Reprenons la question du début. L’IA avait donné un nom, une date et trois sources en quelques secondes. Rien, dans la forme, ne permettait de deviner que tout était faux.

Une hallucination n’est pas seulement une erreur du modèle. Elle devient un risque au moment où quelqu’un la transforme en décision, en article ou en conseil sans l’avoir vérifiée. Fluide ne signifie pas vrai. Une source affichée n’est pas une preuve. Ces deux phrases résument l’essentiel de ce guide.

Notre conclusion n’est ni un rejet des outils génératifs, ni une recommandation universelle : le niveau de vérification dépend du risque réel de chaque usage.

SEO.fr n’est ni un laboratoire de sécurité des modèles, ni un créateur de LLM, ni un cabinet juridique. Notre étude GPT-REACH, menée sur plus de 300 000 requêtes ChatGPT, nous a montré une chose simple : une réponse générative peut citer une page, un site ou une marque sans que cette citation soit exacte ou méritée. C’est cette même vérification, affirmation par affirmation, que nous menons pour les entreprises qui nous confient l’analyse de leur présence dans les moteurs génératifs : la méthode est à découvrir au sein de notre agence GEO.