Vous posez une question de santé à votre assistant. Il répond avec assurance, et ajoute : « Selon une étude d'une grande université américaine publiée en 2023, ce phénomène touche 30 % des adultes. »
La phrase a tout pour inspirer confiance : une université prestigieuse, une date, un chiffre précis. Il reste une seule question : cette étude existe-t-elle vraiment ?
Pourquoi une IA invente des sources
Une IA ne fouille pas une bibliothèque. Elle produit le texte le plus vraisemblable pour répondre à votre question. Or une référence à une étude est un motif très courant dans les textes sérieux qu'elle a lus. Elle peut donc fabriquer une référence parfaitement crédible, qui n'a jamais existé. Nous expliquions ce mécanisme dans notre article sur les hallucinations.
Même quand l'assistant cherche sur internet, il peut citer une vraie page en lui faisant dire plus, ou autre chose, que ce qu'elle dit.
Cinq vérifications, du plus rapide au plus sûr
1. Cliquez sur le lien. S'il y en a un, ouvrez-le. Une page introuvable est le premier signal d'alerte.
2. Cherchez le titre exact. Copiez le titre de l'étude ou de l'article dans un moteur de recherche. Pour les travaux scientifiques, il existe des moteurs spécialisés, comme Google Scholar. Si rien ne correspond, méfiance.
3. Vérifiez qu'elle dit bien ça. C'est l'étape qu'on saute le plus souvent, et la plus importante. Bien souvent, la source existe, mais elle parle d'autre chose, avec des chiffres différents ou une conclusion plus prudente. Cherchez dans la page le passage qui correspond.
4. Remontez à l'original. Un article de presse qui parle d'une étude n'est pas l'étude. Un résumé d'un résumé déforme toujours un peu. Plus vous êtes proche de la source d'origine, mieux c'est.
5. Regardez qui et quand. Qui a écrit ce texte, et quand ? Une étude de 2012 ne dit peut-être plus grand-chose sur un sujet qui a changé depuis. Et une source qui existe n'est pas forcément une bonne source : la recherche elle-même est aujourd'hui débordée par les textes écrits à la chaîne.
En 2023, à New York, deux avocats ont déposé devant un tribunal un document rédigé avec l'aide de ChatGPT, qui citait plusieurs décisions de justice. Problème : certaines n'avaient jamais existé. L'assistant les avait inventées, avec des noms et des références parfaitement crédibles. Le juge a infligé une amende aux avocats. L'affaire a fait le tour du monde et sert depuis d'avertissement dans les cabinets.
Le bon réflexe
Vous pouvez aussi demander directement à l'assistant : « Donne-moi le lien exact vers cette étude » ou « Cite-moi le passage précis ». S'il hésite, se contredit ou change de référence, vous avez votre réponse.
Et pour tout ce qui compte vraiment, votre santé, votre argent, une décision importante, ne vous arrêtez pas à la réponse de l'IA. Servez-vous-en comme d'un point de départ, puis allez voir la source vous-même.
Ce qu'on retient
Une IA qui cite une source n'a pas forcément vérifié cette source. Ce travail-là reste le vôtre.
La bonne nouvelle, c'est qu'il prend rarement plus de deux minutes. Et ces deux minutes font toute la différence entre être informé et être convaincu.