Grand débutantLeçon 1 sur 56 min de lecture
Pourquoi elle invente, et pourquoi elle a l'air si sûre
Un cours de l'Académie : Douter, vérifier, recouper
Aller au quiz ↓Il faut comprendre une chose, et elle explique tout le reste : une IA ne cherche pas la vérité, elle cherche la suite la plus vraisemblable.
Ce qu'elle fait vraiment
Elle a lu des quantités énormes de textes et elle a appris à prolonger une phrase de façon plausible. Quand vous demandez « qui a écrit tel livre », elle ne consulte pas un catalogue : elle produit le nom qui a le plus de chances de suivre votre question.
Le plus souvent c'est le bon, parce que le vraisemblable et le vrai coïncident. Parfois non, et rien dans sa réponse ne le signale.
L'aplomb, c'est le vrai piège
Un humain qui ne sait pas hésite : il dit « je crois », il change de ton. Elle non. Elle se trompe exactement du même ton que lorsqu'elle a raison. Il n'y a aucun signal à repérer dans la formulation, et c'est ce qui rend l'erreur dangereuse.
On appelle ça une « hallucination ». Le mot est mal choisi : elle ne délire pas, elle comble un trou avec ce qui ressemble le plus à une réponse.
Ce qu'il faut en retenir
Ce n'est pas une panne qu'on va réparer, c'est la conséquence directe de son fonctionnement. Elle s'améliore, elle ne disparaîtra pas. La parade n'est donc pas d'attendre une meilleure version, c'est de savoir quoi vérifier.
Les notions clés
- Hallucination
- erreur
- confiance
- fonctionnement
Validez la leçon
Un quiz de 4 questions : 3 bonnes réponses suffisent, et un exercice pour pratiquer. Il s'ouvre dans l'Académie, sur cette même leçon.
Faire le quiz et valider la leçon Gratuit. Avec un compte, votre progression est enregistrée et mène à l'attestation du cours.Le cours : Douter, vérifier, recouper
- Pourquoi elle invente, et pourquoi elle a l'air si sûre6 min
- Les trois terrains où il faut toujours vérifier6 min
- Vérifier en deux minutes, sans être expert6 min
- Reconnaître une image ou une voix fabriquée6 min
- Ce qu'on ne lui confie jamais5 min