Une IA qui invente une information le fait avec exactement le même ton assuré que lorsqu'elle dit vrai. Il n'y a aucun signal, aucune hésitation, aucun changement de style. C'est précisément ce qui rend l'erreur dangereuse : elle ne ressemble pas à une erreur. Voici comment développer les bons réflexes, sans devenir paranoïaque ni tout vérifier en permanence.
Nous avons expliqué ailleurs pourquoi les IA hallucinent, c'est-à-dire pourquoi elles produisent parfois des affirmations fausses en toute confiance. Le mécanisme est connu : ces systèmes cherchent le texte le plus plausible, pas le plus vrai. Reste la question pratique, celle qui vous concerne au quotidien : comment faire, concrètement ? Voici une méthode.
Réflexe 1 : repérer les zones à risque
Tout ne mérite pas d'être vérifié. Vérifier chaque phrase reviendrait à ne plus utiliser l'outil. L'essentiel est de savoir où le risque se concentre. Quatre catégories doivent systématiquement déclencher votre vigilance.
Les chiffres précis : statistiques, montants, pourcentages, dates exactes. C'est le terrain de prédilection de l'erreur, parce qu'un chiffre plausible ressemble beaucoup à un chiffre exact. Les citations et attributions : qui a dit quoi, qui a écrit quel livre. Une IA peut attribuer une phrase réelle à la mauvaise personne, ou inventer une citation crédible. Les références : titres d'articles, noms d'études, numéros de loi, arrêts de justice. C'est historiquement la faiblesse la plus documentée. Et enfin l'actualité récente, qui peut être postérieure aux connaissances du modèle.
Réflexe 2 : demander les sources, et les ouvrir
Demandez systématiquement sur quoi repose une affirmation importante. Mais attention au piège, et il est de taille : une IA peut produire une référence qui ressemble parfaitement à une source réelle sans en être une. Auteur crédible, revue existante, titre plausible, année cohérente, et pourtant l'article n'existe pas.
La règle est donc simple et sans exception : une source non ouverte ne compte pas. Si vous ne cliquez pas, vous n'avez rien vérifié, vous avez seulement obtenu une deuxième affirmation de la même IA. Les outils capables de chercher sur le web en direct et de citer des liens réduisent beaucoup ce risque, mais ne le suppriment pas : il arrive qu'une source réelle soit citée pour dire autre chose que ce qu'elle dit.
Voici une astuce simple et redoutablement efficace. Reposez la même question autrement, dans une nouvelle conversation, sans mentionner la première réponse. Si l'information est solide, elle reviendra identique. Si elle a été inventée, elle a de bonnes chances de changer, parce qu'elle était le produit d'un calcul de plausibilité et non d'une connaissance stable. Une variante encore plus fiable consiste à poser la question à une IA d'un autre fournisseur : deux modèles entraînés différemment se trompent rarement de la même façon.
Réflexe 4 : se méfier de sa propre satisfaction
Celui-ci est le plus difficile, parce qu'il porte sur nous et non sur la machine. Nous vérifions spontanément beaucoup moins ce qui nous arrange. Quand une IA confirme exactement ce que vous pensiez, ou vous fournit le chiffre parfait pour votre argument, votre vigilance chute au moment précis où elle devrait monter.
Ce biais est amplifié par un défaut connu de ces systèmes, la tendance à aller dans votre sens plutôt qu'à vous contredire. Si vous formulez une question qui présuppose une réponse, vous augmentez la probabilité d'obtenir cette réponse. Une bonne habitude consiste à poser la question dans l'autre sens, ou à demander explicitement les arguments contraires.
Réflexe 5 : ajuster l'exigence à l'enjeu
Le dernier réflexe consiste à calibrer votre effort. Trois niveaux suffisent.
Pour une curiosité personnelle, une erreur sans conséquence, vous pouvez accepter le risque sans vérifier. Pour un usage professionnel, un contenu publié, une décision qui engage, vérifiez systématiquement les chiffres, les citations et les références auprès d'une source primaire. Pour tout ce qui touche à la santé, au droit ou à l'argent, considérez l'IA comme un point de départ pour comprendre le vocabulaire et poser les bonnes questions, jamais comme une réponse. Ces domaines demandent un professionnel, non parce que l'IA y serait particulièrement mauvaise, mais parce que le coût d'une erreur y est disproportionné.
Ce qu'il faut retenir
Utiliser une IA sans esprit critique, c'est se priver de la moitié de sa valeur. Ce n'est pas un oracle, c'est un collaborateur extrêmement rapide et parfois brillant, qui a le défaut de ne jamais dire je ne suis pas sûr avec la nuance qu'il faudrait. Votre rôle n'est pas de tout contrôler, mais de savoir où porter votre attention.
La bonne nouvelle, c'est que ces réflexes deviennent automatiques assez vite. Au bout de quelques semaines, vous repérez instinctivement le chiffre trop précis, la citation trop parfaite, la référence trop commode. Cette compétence, savoir douter au bon endroit sans douter de tout, est probablement la plus utile à cultiver à l'ère de l'IA. Et elle a un avantage secondaire appréciable : elle marche aussi très bien avec les humains.