Ce que l'IA ne sait pas faire (et les hallucinations)

C'est la leçon la plus importante de ce cours. Une IA qui écrit parfaitement peut se tromper complètement, et elle se trompera avec le même aplomb que lorsqu'elle a raison.

Les hallucinations

Quand un LLM ne sait pas, il ne dit presque jamais « je ne sais pas » : il invente une réponse plausible. Une référence de livre qui n'existe pas, une date fausse, un article de loi imaginaire, formulés impeccablement. Ce n'est pas un bug mais une conséquence directe de son fonctionnement : il prédit le texte le plus vraisemblable, pas le plus vrai. Si le vrai est absent de ses connaissances, le vraisemblable prend la place.

Les autres limites à connaître

• La date de coupure. Un modèle est figé à la fin de son entraînement. Sans accès à la recherche web, il ignore tout ce qui s'est passé après.
• Le calcul. Prédire des mots n'est pas calculer : sur l'arithmétique complexe, vérifiez toujours (ou demandez-lui d'utiliser un outil de calcul).
• Les sources. Un LLM ne « cite » pas ses sources comme un journaliste : demandées naïvement, elles sont souvent inventées.
• La flatterie. Entraînés pour plaire, les modèles ont tendance à vous donner raison. Demandez explicitement la contradiction : « quels sont les points faibles de mon idée ? »

Le réflexe d'or

Plus l'enjeu est important, plus vous vérifiez. Une recette de cuisine ? Vous pouvez faire confiance. Une question médicale, juridique ou financière ? L'IA sert à comprendre et préparer vos questions, la décision se prend avec un professionnel et des sources vérifiées.