Comment vérifier une information produite par une IA

Une réponse produite par un modèle de langage a une propriété désagréable : elle est aussi bien écrite quand elle est fausse que quand elle est juste. Aucun signal de surface ne distingue les deux. C'est pour cette raison que vérifier une information IA demande un geste volontaire, alors qu'un texte humain douteux se trahit souvent par son ton, sa syntaxe ou sa source.

Le problème n'est pas nouveau, mais il a changé d'échelle. Les assistants citent désormais des sources, affichent des liens, renvoient à des documents. Cela rassure, et cela devrait inquiéter : la citation d'une source ne garantit pas que la source dise ce qu'on lui fait dire. Nous voyons régulièrement des réponses parfaitement sourcées dont l'affirmation centrale ne figure nulle part dans le document cité.

Cet article propose un protocole en quatre gestes, applicable en moins de deux minutes, et la liste des signaux textuels qui doivent le déclencher. L'objectif n'est pas de tout vérifier, ce qui annulerait le gain de temps, mais de vérifier ce qui doit l'être, au bon moment.

Pourquoi la fiabilité des réponses IA se juge mal à l'œil

Un modèle de langage produit le texte le plus plausible compte tenu de sa question. La plausibilité et la véracité coïncident souvent, parce que les énoncés vrais sont plus fréquents dans les données d'entraînement. Elles divergent dès que la question porte sur un détail rare : un numéro d'article de loi, un chiffre précis, une date d'application, le nom d'un dirigeant, l'existence d'une fonctionnalité dans une version donnée d'un logiciel.

Trois biais aggravent la situation du côté du lecteur.

• La fluidité passe pour de la compétence. Un texte sans hésitation ni faute est perçu comme plus fiable, indépendamment de son contenu.
• La confirmation coûte moins cher que l'infirmation. Quand la réponse va dans le sens attendu, on ne vérifie pas.
• La citation fait autorité. Un lien affiché suffit à clore la question pour la majorité des lecteurs, qui ne l'ouvrent pas.

Ces mécanismes sont les mêmes que ceux qui rendent les hallucinations coûteuses en entreprise, un sujet que nous avons traité sous l'angle de la prévention dans notre article sur limiter les hallucinations de l'IA générative. Ici, nous prenons le problème en aval : la réponse est là, il faut décider si on peut s'en servir.

Les signaux qui doivent déclencher une vérification

Tout n'a pas besoin d'être vérifié. Certains éléments, en revanche, doivent systématiquement déclencher le protocole.

• Un nombre précis. Un pourcentage, un montant, un effectif, une part de marché. Les chiffres ronds sont suspects, les chiffres précis le sont davantage : ils inspirent confiance sans en donner de raison.
• Une date ou une échéance. Les calendriers réglementaires, les dates de sortie et les fins de support sont un terrain classique d'erreur.
• Une référence nommée. Article de loi, norme, étude, ouvrage, arrêt de justice. Le format de la référence est facile à imiter, son contenu ne l'est pas.
• Une attribution. « Selon telle organisation », « d'après telle étude ». C'est le cas le plus fréquent d'invention partielle : l'organisation existe, la publication existe, mais l'affirmation n'y est pas.
• Une négation forte. « Il n'existe pas de », « aucune obligation ne ». Prouver une absence est difficile pour un humain, impossible pour un modèle qui n'a pas accès à l'exhaustivité.
• Un détail qui vous surprend. Votre étonnement est un bon détecteur. Ne le rationalisez pas, vérifiez-le.

Vérifier une information IA : le protocole en quatre gestes

Voici la séquence. Elle prend moins de deux minutes sur une affirmation isolée.

1. Ouvrir la source citée. Pas la survoler : l'ouvrir. Si le lien ne fonctionne pas, si le titre ne correspond pas, si la page existe mais sur un autre sujet, la vérification s'arrête là et la réponse est rejetée.
2. Chercher l'affirmation dans le document. Une recherche sur un mot rare de la phrase suffit : le chiffre, le nom propre, le terme technique. Si le mot n'apparaît pas, l'affirmation n'est pas dans la source, quel que soit le sérieux de celle-ci.
3. Remonter à la source primaire. Un article de presse qui cite un rapport n'est pas le rapport. Un billet de blog qui cite un règlement n'est pas le règlement. Pour le droit, le texte officiel prime ; pour un outil, la documentation de l'éditeur prime ; pour une statistique, la publication de l'organisme producteur prime.
4. Chercher une contradiction, pas une confirmation. Reformulez la requête pour tenter d'invalider l'affirmation. Si rien ne la contredit après une recherche honnête, elle est probablement solide. Si vous trouvez un démenti, vous venez d'économiser une erreur publique.

Ce protocole s'applique aussi bien à une réponse d'assistant qu'à un résultat de moteur de recherche conversationnel, dont nous avons détaillé les différences de comportement dans notre comparatif des moteurs de recherche IA. Le mode de fabrication de la réponse change, la nécessité de la vérifier ne change pas.

Le cas des sources qui existent mais ne disent pas ça

C'est le mode d'échec le plus difficile à repérer, et le plus fréquent depuis que les assistants s'appuient sur des documents récupérés en ligne. Trois variantes reviennent.

Le glissement de portée

La source dit « dans les entreprises de plus de 250 salariés », la réponse dit « dans les entreprises ». La source dit « dans certains cas », la réponse dit « systématiquement ». L'affirmation reste vraie dans un périmètre, et devient fausse en dehors.

L'agrégation trompeuse

Deux documents disent chacun quelque chose de vrai. La réponse les combine en une phrase que ni l'un ni l'autre ne soutient. Chaque lien vérifie une moitié de la phrase, et l'ensemble est faux.

La péremption

La source est authentique, mais dépassée : un tarif révisé, une norme remplacée, une échéance repoussée. Le réflexe est de regarder la date de publication et la date de dernière mise à jour du document, pas seulement son contenu.

Ces trois variantes ont un antidote commun : lire la phrase source dans son paragraphe, et non isolément. Trente secondes de lecture contextuelle éliminent la quasi-totalité des cas.

Adapter l'effort de vérification au risque

Tout vérifier au même niveau est intenable. Une échelle simple à trois niveaux permet de tenir la discipline dans la durée.

Une règle complète utilement ce tableau : ce qui n'a pas été vérifié ne sort pas de la machine sans mention explicite. Écrire « à vérifier » à côté d'un chiffre dans une note interne coûte deux secondes et évite qu'il migre, six mois plus tard, dans une présentation client où plus personne ne connaît son origine. La méthode de tri des sources que nous décrivons pour organiser sa veille IA repose sur le même principe : la traçabilité se pose au moment de la collecte, jamais après.

Sourcer une réponse IA, un réflexe à installer collectivement

Un protocole individuel ne tient pas longtemps s'il n'est pas partagé. Trois mesures simples suffisent à l'ancrer dans une équipe : inscrire les six signaux déclencheurs dans la charte d'usage des outils, exiger que toute donnée chiffrée reprise dans un document interne porte son lien de source, et faire de la vérification un point explicite de relecture, au même titre que l'orthographe. Ces éléments trouvent naturellement leur place dans une charte d'usage de l'IA en entreprise.

Retenez la séquence : ouvrir la source, y chercher l'affirmation, remonter au document primaire, tenter de la contredire. Quatre gestes, moins de deux minutes, et l'essentiel des erreurs disparaît. Vérifier une information IA ne consiste pas à se méfier de la machine en permanence : c'est décider, une fois pour toutes, à quels endroits précis on refuse de lui faire confiance sur parole.