Une hallucination IA, c’est une réponse fausse qu’un outil comme ChatGPT, Claude ou Gemini présente avec la même assurance qu’une réponse juste : un chiffre, une source, une citation ou une référence qui n’existent pas. Elle ne se repère pas au ton, puisque le ton est toujours sûr. Elle se repère à une routine simple : savoir ce qui doit toujours être vérifié, demander la source puis l’ouvrir, et décider en équipe qui relit avant que ça parte.

Prenons une scène type, pas l’histoire d’une entreprise en particulier.

Une responsable formation prépare une note pour son comité. Elle demande à l’IA trois chiffres sur l’efficacité des formations en présentiel, avec leurs sources. La réponse arrive en dix secondes, propre, sourcée, avec le nom d’une étude, une année et un organisme. Elle colle le tout dans sa note. Le lendemain, un collègue cherche l’étude pour la lire en entier. Il ne la trouve pas. L’organisme existe, l’année est plausible, le titre sonne juste. L’étude, elle, n’a jamais été publiée.

Personne n’a menti. L’outil a fait ce qu’il fait : produire la suite de mots la plus vraisemblable. Et la vraisemblance n’est pas la vérité.

Hallucination IA : ce que c’est, et pourquoi elle sonne juste {#definition}

La page Wikipédia consacrée à l’hallucination en intelligence artificielle) la définit comme « une réponse fausse ou trompeuse qui est présentée comme un fait certain ». La même page rappelle pourquoi elle trompe si bien : ces systèmes sont « conçus pour être persuasifs, pas véridiques ».

C’est le cœur du problème, et la raison pour laquelle une hallucination IA passe si facilement. Un outil d’IA générative ne cherche pas une information dans une base, comme un moteur de recherche. Il fabrique une réponse mot après mot. Quand il connaît bien le sujet, la réponse est souvent juste. Quand il ne sait pas, il ne s’arrête pas pour autant : il produit ce qui ressemble le plus à une bonne réponse. Une hallucination IA a donc exactement la forme d’une réponse juste. Même structure, même précision apparente, même aplomb.

Wikipédia cite un cas devenu célèbre : en mai 2023, lors d’un procès à New York, un cabinet d’avocats a remis au juge un mémoire contenant des précédents judiciaires générés par ChatGPT, dont plusieurs renvoyaient à de fausses décisions de justice. Des professionnels du droit, habitués à vérifier, se sont fait prendre. Ce n’est pas une question d’intelligence. C’est une question de routine.

Le lexique de l’IA générative de l’Académie définit le mot. Cet article, lui, apprend le geste.

Ce qui doit toujours être vérifié {#verifier}

Tout ne demande pas le même niveau de contrôle face au risque d’hallucination IA. Une reformulation, un plan de réunion, une liste d’idées : si c’est faux, vous le verrez en le lisant. Le risque d’une hallucination IA est ailleurs, dans ce que vous ne pouvez pas juger à la lecture.

Quatre familles sont à vérifier à chaque fois, sans exception :

  • Les chiffres. Pourcentages, montants, dates, statistiques. Un chiffre précis inspire confiance, c’est précisément pour ça qu’il est dangereux.
  • Les noms. Personnes, entreprises, organismes, lois, normes. L’IA peut attribuer une phrase à quelqu’un qui ne l’a jamais dite, ou inventer un organisme au nom crédible.
  • Les citations. Toute phrase entre guillemets attribuée à un auteur. Si vous ne pouvez pas la retrouver, elle n’existe pas.
  • Les références. Études, livres, articles, liens. C’est la famille la plus touchée : l’outil sait à quoi ressemble une référence, il sait donc en fabriquer une.

Retenez une règle simple : plus une information est précise et plus elle vous arrange, plus elle mérite d’être vérifiée.

Contre une hallucination IA, quatre gestes : repérer, demander la source, l'ouvrir, faire relire
Contre une hallucination IA, quatre gestes : repérer, demander la source, l’ouvrir, faire relire

Demander la source, puis l’ouvrir {#source}

Le premier réflexe est de demander à l’outil d’où vient l’information. C’est utile, mais ce n’est que la moitié du geste. Une source donnée par l’IA peut elle-même être une hallucination IA : un lien qui ne mène nulle part, un article qui existe mais ne dit pas ce qu’on lui fait dire, un livre réel cité à une mauvaise page.

Le geste complet tient en trois temps :

  1. Demandez la source précise. Pas « d’où ça vient ? », mais « donne-moi le titre exact, l’auteur, l’année et le lien de la source de ce chiffre ».
  2. Ouvrez-la vous-même. Cliquez sur le lien, cherchez le titre dans un moteur de recherche, trouvez le document original. Si vous ne le trouvez pas en deux minutes, considérez l’information comme fausse.
  3. Lisez le passage. Vérifiez que la source dit bien ce que l’IA lui fait dire, avec le même chiffre et dans le même contexte. C’est l’étape qu’on saute le plus souvent, et celle qui attrape le plus d’erreurs.

Quand l’information est importante, croisez avec une deuxième source indépendante. Si deux sources sérieuses disent la même chose, vous pouvez avancer.

Un dernier réflexe utile : demandez à l’outil s’il est sûr, et ce qui pourrait être faux dans sa réponse. Cela ne remplace pas la vérification, mais il arrive qu’il signale lui-même un point fragile.

Vérifier en équipe : qui relit quoi avant que ça parte {#equipe}

Dans une équipe, le risque change de nature : une hallucination IA ne reste pas sur l’écran de celui qui l’a reçue. Le document fait avec l’IA passe de main en main, et chacun suppose que quelqu’un d’autre a vérifié. Le manager qui reçoit une note ne sait pas quelles parties viennent de l’outil. Le collègue qui reprend une présentation ne sait pas quels chiffres ont été contrôlés.

Trois règles suffisent pour la plupart des équipes :

  • Celui qui utilise l’IA vérifie. La responsabilité ne se délègue pas à l’outil, ni au relecteur. Celui qui colle le contenu dans le document répond de son exactitude.
  • On signale ce qui vient de l’IA. Pas besoin d’un tampon officiel : une mention dans le mail ou un commentaire dans le document suffit pour que le relecteur sache où regarder.
  • Rien ne sort sans une deuxième lecture quand le document part chez un client, un financeur ou la direction, ou quand il contient des chiffres.
La relecture se travaille ensemble : une règle courte, connue de tous, vaut mieux qu'une vigilance que chacun suppose chez l'autre (visages floutés)
La relecture se travaille ensemble : une règle courte, connue de tous, vaut mieux qu’une vigilance que chacun suppose chez l’autre (visages floutés)

Ces règles ont leur place dans une charte d’utilisation de l’IA, construite avec l’équipe plutôt qu’imposée. Une règle de relecture que l’équipe a écrite elle-même est une règle qu’elle applique.

Réduire le risque en amont {#amont}

Vérifier après coup reste indispensable. Mais vous pouvez aussi réduire le nombre d’hallucinations avant même qu’elles se produisent.

  • Donnez vos documents. Une IA qui travaille à partir d’un texte que vous lui fournissez (un rapport, un compte rendu, une procédure) invente beaucoup moins qu’une IA qui répond de mémoire. C’est tout l’intérêt de créer un assistant IA pour son équipe, nourri de vos propres sources.
  • Autorisez-la à ne pas savoir. Écrivez dans votre demande : « si tu ne sais pas, dis-le, n’invente pas de source ». Cela ne supprime pas le risque, mais cela le réduit.
  • Demandez de citer le passage. « Appuie chaque affirmation sur une phrase du document fourni » oblige l’outil à rester collé au texte, et vous permet de vérifier vite.
  • Choisissez la bonne tâche. L’IA est bien plus fiable pour reformuler, structurer ou résumer ce que vous lui donnez que pour vous apprendre un fait que vous ne connaissez pas.

Ce qu’on ne délègue jamais à l’IA {#jamais}

Certaines choses restent hors du périmètre de l’outil, même bien vérifié. Le jugement final sur une décision, d’abord : l’IA peut aider à préparer un choix, comme le montre l’article sur l’IA et l’aide à la décision, mais c’est vous qui tranchez. Les informations sur des personnes ensuite, qu’il s’agisse d’un collaborateur, d’un candidat ou d’un client : une erreur à leur sujet peut faire des dégâts que rien ne rattrape. Et enfin tout ce que vous signez : un contrat, un engagement, une réponse officielle.

L’article sur la manière d’utiliser Claude au travail détaille ce qu’on peut lui confier et ce qu’on garde pour soi.

S’entraîner à repérer une hallucination IA {#entrainer}

La vérification devient un réflexe à force de pratique. Voici un exercice de vingt minutes à faire en équipe, en réunion ou en formation.

  1. Cinq minutes. Chacun pose à l’IA une question sur son métier dont il connaît déjà bien la réponse, en demandant des chiffres et des sources.
  2. Dix minutes. Chacun vérifie la réponse avec la routine : repérer chiffres, noms, citations et références, demander la source, l’ouvrir, lire le passage.
  3. Cinq minutes. Tour de table : qu’avez-vous trouvé de faux, et qu’auriez-vous laissé passer sans vérifier ?

L’exercice marche parce qu’il part d’un sujet que chacun maîtrise. On voit l’hallucination IA là où on est expert, et on comprend qu’elle existe aussi là où on ne l’est pas.

Apprendre l'IA générative, c'est aussi apprendre à relire ce qu'elle produit
Apprendre l’IA générative, c’est aussi apprendre à relire ce qu’elle produit

Apprendre à travailler avec l’IA {#apprendre}

Repérer une hallucination IA ne demande pas de compétence technique. Cela demande une routine, et une équipe qui s’est mise d’accord sur qui vérifie quoi. Ces gestes se travaillent dans la formation IA générative de l’Académie : une journée en intra-entreprise, de six à douze personnes, pour apprendre à écrire des demandes structurées, travailler sur les cas d’usage de votre métier et construire votre plan d’action. Le détail du programme est présenté dans l’article sur la formation IA générative avec Claude et Gemini.

Pour aller plus loin : découvrir la formation IA générative

Si vous ne deviez retenir qu’une chose : une réponse de l’IA qui contient un chiffre, un nom, une citation ou une référence n’est pas une réponse. C’est une piste, tant que vous n’avez pas ouvert la source.