Aller au contenu
Cercle IA · Lexique Un site du réseau Cercle IA

Définition

Hallucination de l'IA : définition et exemples

Une hallucination est une réponse fausse ou non fidèle aux éléments fournis. Définition, exemple et méthode pour contrôler les affirmations au travail.

Mis à jour le

On parle d'hallucination quand une intelligence artificielle générative produit une information fausse ou sans rapport avec le contexte fourni, parfois avec assurance, parfois malgré des marques d’incertitude. La réponse a l'air juste, bien rédigée, parfois accompagnée de détails précis, mais elle est inventée.

La documentation d'Anthropic, éditeur du modèle Claude, la décrit ainsi : même les modèles les plus avancés peuvent générer un texte factuellement incorrect ou incohérent avec le contexte donné, un phénomène appelé « hallucination ».

Une image du quotidien

Imaginez un stagiaire brillant, pressé de bien faire, à qui l'on pose une question dont il ignore la réponse. Plutôt que d'avouer qu'il ne sait pas, il répond quelque chose de vraisemblable, sur un ton sûr. S'il tombe juste, tant mieux ; sinon, personne ne s'en aperçoit avant que le client ne réagisse. Un modèle de langage a ce même travers : sa génération repose sur des probabilités ; une formulation plausible ne constitue pas une vérification des faits.

Un exemple concret

Prenons un cabinet qui demande à un assistant : « Quelle est la référence du texte qui encadre telle obligation ? » L'outil répond avec un numéro d'article et une date. Le format est parfait, mais l'article n'existe pas, ou il traite d'autre chose. C'est typiquement là qu'une hallucination coûte cher : sur une référence, un chiffre, un nom, une citation.

Comment en limiter le risque

La documentation d'Anthropic propose plusieurs réflexes, valables quel que soit l'outil :

Réflexe En pratique
Autoriser le « je ne sais pas » Écrire dans la consigne : « si l'information manque, dites-le ».
S'appuyer sur un texte fourni Donner le document et demander de s'en tenir à lui.
Exiger des citations Demander, pour chaque affirmation, le passage exact qui la justifie.
Comparer plusieurs réponses Poser la même question plusieurs fois : des réponses différentes sont un signal d'alerte.

La documentation a été relue le 16/11/2026. Notre recommandation est de vérifier les informations importantes dans les originaux, même lorsque plusieurs réponses concordent. Pour savoir quelles consignes écrire dans votre demande, Promptum détaille les consignes qui font inventer moins à l'IA, avec des formulations à recopier.

Pour une discussion entre métiers, préparez une réponse fictive contenant une référence vérifiable, puis demandez à chacun comment il la contrôlerait. Comparez les chemins de vérification : document original, article cité, numéro de version. Un accompagnement des équipes sur les gestes de contrôle peut aider à travailler ces réflexes. Le cercle pourrait partager une méthode de correction sans faire circuler les documents confidentiels où l'erreur a été découverte.

Ce que ça change pour une entreprise

  • Relire reste le travail d'un humain, surtout pour ce qui part chez un client, dans un contrat ou dans une déclaration.
  • Donner ses propres documents à l'IA (c'est le principe du RAG, la génération augmentée par récupération) réduit le risque, sans l'annuler.
  • Former les équipes à reconnaître les zones à risque : chiffres, dates, références, noms propres.

Que faire quand une référence semble fausse ?

Mettez l’affirmation en attente et recherchez la référence dans la source d’origine. Vérifiez que le texte existe et qu’il soutient réellement la conclusion. Si vous ne le retrouvez pas, notez « non vérifié » ; demander au même assistant de confirmer sa réponse ne constitue pas une source indépendante.

Corrigez ensuite les supports où l’affirmation a été reprise. Gardez la question et la réponse erronée comme exemple pour les prochains contrôles, en retirant les données confidentielles inutiles. Cette démarche proposée évite qu’une erreur corrigée dans une conversation reste dans un document déjà partagé.

Termes voisins

  • LLM : le type de modèle concerné au premier chef.
  • Prompt : une consigne bien écrite limite les inventions.
  • Température : le réglage qui rend les réponses plus ou moins variées.
  • Biais algorithmique : une autre forme d'erreur, plus systématique.

Faire discuter la même affirmation

Pour un exercice entre pairs, écrivez une procédure fictive qui comporte une condition et une exception. Préparez ensuite un résumé qui reprend la règle générale mais attribue l'exception à la mauvaise situation. Demandez à chacun de montrer le passage qui permet d'accepter ou de refuser le résumé. L'exercice proposé porte sur la fidélité au document, sans nécessiter de dossier professionnel réel.

Une personne peut repérer l'erreur tout en jugeant le texte utilisable après correction ; une autre peut refuser de le diffuser en l'état. Séparez ces deux questions : le constat sur l'affirmation et la décision sur le document. Conservez la correction avec sa justification, afin que le prochain lecteur sache ce qui a changé.

Le protocole d'essai d'un outil aide à fixer les critères avant de comparer plusieurs réponses. Un essai réussi ne garantit pas l'absence d'autres erreurs. Pour proposer un échange sur une réponse douteuse, recréez la difficulté avec un exemple fictif et indiquez ce qui reste non vérifié.

Questions fréquentes

Peut-on supprimer complètement les hallucinations ?

Non. La documentation d’Anthropic décrit des techniques pour les réduire. Cette fiche ne présente aucune de ces techniques comme une garantie d’exactitude.

Pourquoi une IA invente-t-elle des réponses ?

Un modèle de langage génère du texte à partir de probabilités et de réglages de génération. Quand il ne dispose pas de l'information, il peut produire une réponse plausible mais fausse, au lieu de dire qu'il ne sait pas.

Sources

Pages consultées pour écrire cet article :

  1. https://iarche.fr/services/accompagnement
  2. https://platform.claude.com/docs/en/test-and-evaluate/strengthen-guardrails/reduce-hallucinations
  3. https://platform.claude.com/docs/en/about-claude/glossary

À lire aussi