Hallucinations des IA génératives : pourquoi elles arrivent et comment les limiter

Une hallucination IA, c'est une réponse fausse énoncée avec la même assurance qu'une réponse juste. Le mot est mal choisi, il suggère un dysfonctionnement passager alors qu'il s'agit d'une propriété du fonctionnement normal de ces systèmes. Un modèle de langage produit du texte plausible ; la vérité n'est pas une contrainte de sa mécanique, seulement une corrélation fréquente.

Là où l'affaire se complique, c'est qu'on range sous ce mot unique au moins trois phénomènes distincts, qui n'ont ni les mêmes causes ni les mêmes remèdes. Confondre les trois conduit à appliquer la mauvaise parade, à constater qu'elle ne marche pas, et à conclure un peu vite que le sujet est insoluble.

Cet article sépare ces trois causes, donne pour chacune le remède qui fonctionne, et dit clairement lequel ne fonctionne pas. Il se termine par le seul dispositif qui tienne dans la durée : la vérification en aval.

Ce qu'est vraiment une hallucination IA

Reprenons la mécanique. Le modèle choisit à chaque étape une suite probable au texte déjà produit. Il n'a pas de base de faits qu'il consulterait, pas de registre de ce qu'il sait et de ce qu'il ignore, pas de signal interne exploitable qui dirait « attention, terrain inconnu ». Il a des régularités statistiques apprises sur du texte. Si vous n'êtes pas familier de ce mécanisme, notre article sur le fonctionnement d'un modèle de langage le détaille sans mathématiques.

La littérature de recherche documente le phénomène depuis des années, avec une distinction utile entre la contradiction de la source fournie et la contradiction des faits du monde. Cette distinction est exactement celle qui vous intéresse en entreprise, parce que les deux se traitent différemment.

Cause 1 : le trou de connaissance

Le modèle n'a jamais vu l'information demandée. Vos tarifs internes, votre procédure de retour, une norme sectorielle confidentielle, un événement postérieur à son entraînement. Plutôt que de s'arrêter, il produit la suite la plus vraisemblable, c'est-à-dire une invention cohérente avec le contexte.

C'est la cause la plus fréquente et la plus facile à traiter. Le remède : fournir l'information. Collez l'extrait pertinent dans la demande, ou branchez une recherche documentaire qui va chercher les bons passages avant de répondre. C'est le principe de la génération augmentée par la recherche, décrite dans les travaux de recherche depuis 2020 et déployée massivement depuis. Nous en détaillons le fonctionnement dans notre article sur le RAG appliqué à vos propres documents.

Ce qui ne marche pas : écrire dans la consigne « ne réponds que si tu es sûr ». Le modèle n'a pas accès à une mesure fiable de sa propre certitude. L'instruction change le ton, pas le taux d'erreur.

Cause 2 : la reformulation abusive

Ici, l'information est bien présente dans le contexte fourni, mais la synthèse la déforme : un chiffre déplacé d'une ligne à l'autre, une condition perdue en route, deux cas fusionnés en un seul, une nuance supprimée parce qu'elle alourdissait la phrase.

C'est la cause la plus insidieuse, parce qu'elle survient précisément dans les usages que l'on croit sûrs, ceux où l'on a fourni les documents. La réponse est fondée, elle cite les bons documents, et elle est fausse sur un détail qui change tout.

Les remèdes qui fonctionnent :

• Exiger la citation littérale du passage sur lequel la réponse s'appuie, et l'afficher à côté de la synthèse. Le lecteur repère l'écart en trois secondes.
• Découper la tâche. Une extraction, puis une synthèse à partir des seuls éléments extraits. Deux passes valent mieux qu'une demande massive.
• Réduire le contexte. Contre-intuitif : plus vous envoyez de matière, plus la déformation augmente. Envoyez les cinq extraits utiles, pas les cinquante pages.

Ce qui ne marche pas : augmenter la taille du document fourni en espérant que le modèle trouve tout seul. La qualité de l'attention ne suit pas mécaniquement la quantité fournie.

Cause 3 : la complaisance du modèle

Vous contestez une réponse correcte, le modèle s'excuse et vous donne raison. Vous formulez une question qui présuppose un fait faux, il enchaîne sur cette prémisse. Vous demandez cinq exemples alors qu'il n'en existe que trois, il en invente deux.

Cette cause est un effet secondaire de la phase d'alignement, pendant laquelle le modèle apprend à produire des réponses que des évaluateurs humains préfèrent. Être d'accord et être serviable sont des comportements bien notés. Contredire l'utilisateur l'est moins.

Les remèdes : poser des questions ouvertes plutôt que des questions à prémisse (« que dit le contrat sur la résiliation ? » plutôt que « confirme que le contrat permet la résiliation à tout moment »), autoriser explicitement la réponse « l'information ne figure pas dans les documents fournis », et ne jamais interpréter un accord obtenu après insistance comme une confirmation.

Le tableau de correspondance

Mesurer votre propre taux d'erreur

Aucun chiffre publié ne vous dira ce qu'il en est chez vous : le taux dépend de vos documents, de vos questions et de votre domaine. Le protocole minimal tient en une demi-journée.

1. Constituez trente questions représentatives de ce que vos utilisateurs demandent réellement, avec pour chacune la bonne réponse établie par quelqu'un qui sait.
2. Faites tourner ces trente questions à chaque changement de prompt, de modèle ou de base documentaire.
3. Classez chaque écart selon les trois causes ci-dessus. La répartition vous dira où porter l'effort, et elle est rarement celle qu'on imagine.
4. Suivez le chiffre dans le temps. Un taux de 8 % d'erreurs stable et connu est gérable ; un taux inconnu ne l'est pas.

Ce jeu de questions coûte une demi-journée à construire et vous servira pendant des années. C'est le seul investissement du domaine dont nous n'ayons jamais vu quelqu'un regretter le coût.

La vérification en aval, seul filet qui tienne

Aucune des parades ci-dessus ne ramène le taux d'erreur à zéro. Une organisation sérieuse construit donc un contrôle après la génération, proportionné à l'enjeu.

1. Vérification déterministe quand elle est possible. Un identifiant existe-t-il en base ? Un total est-il égal à la somme des lignes ? Une date est-elle cohérente ? Ces contrôles ne coûtent presque rien et rattrapent une bonne part des erreurs de reformulation.
2. Affichage de la source à côté de la réponse. Le contrôle par l'utilisateur ne fonctionne que s'il est réalisable en quelques secondes.
3. Échantillonnage humain régulier. Vingt réponses tirées au hasard chaque semaine, relues par quelqu'un qui connaît le sujet. C'est fastidieux, c'est le seul moyen de savoir si la qualité dérive.
4. Seuil d'escalade. Sur les sujets à enjeu (juridique, médical, financier), la sortie par défaut doit être le renvoi vers un humain, pas la réponse.

Retenez la hiérarchie : d'abord réduire l'occasion d'halluciner en fournissant le contexte, ensuite contraindre la forme de la réponse, enfin vérifier. Une hallucination IA n'est pas un bogue à corriger, c'est un risque à gérer, comme on gère une erreur de saisie ou un défaut de fabrication. Les organisations qui s'en sortent bien sont celles qui l'ont admis tôt, et qui ont réservé l'IA générative aux tâches où une erreur détectable coûte moins cher que le temps gagné. C'est aussi ce qui distingue un usage sérieux d'une démonstration, comme le montrent les retours sur l'IA générative appliquée aux tâches répétitives.