SociétéGlossaire de l'IA
Empoisonnement de données (data poisoning)
Insérer volontairement dans des données d'entraînement des éléments conçus pour perturber le modèle qui s'en nourrira : lui faire associer un mot déclencheur à un comportement caché, ou dégrader ses résultats. Des travaux ont montré que quelques centaines de documents piégés peuvent suffire, même dans un corpus gigantesque. Des artistes s'en servent aussi pour protéger leurs œuvres de la collecte.
Autrement dit
Glisser quelques fausses pages dans le manuel d'un élève : il les apprend avec le reste, et l'erreur ressort le jour de l'examen.
Nos articles qui en parlent
- La semaine où l'IA a cherché sa matière première
Récapitulatif de la semaine du 3 au 9 août 2026 : la question de la donnée devient centrale, les prix continuent de s'effondrer, et l'opacité gagne du terrain côté régulateur. On relie les événements entre eux.
- C'est quoi l'empoisonnement de données ? Quand quelques centaines de textes suffisent à piéger un modèle
L'empoisonnement de données consiste à insérer dans un corpus des éléments conçus pour perturber un modèle qui s'entraînerait dessus. On explique le mécanisme, pourquoi il fonctionne avec de très petites quantités, et le débat qu'il soulève.
- Les laboratoires d'IA achètent des livres par palettes, et les détruisent pour les scanner
Des laboratoires d'IA achètent en gros des livres physiques publiés avant 2022, présentés comme la dernière source de texte garanti humain. Le scan industriel détruit les ouvrages. On explique pourquoi cette ruée a lieu, ce qu'elle dit de l'état des données, et ce qu'elle menace.
Voir aussi
Dans la même famille : Société
Retrouver ce terme dans le glossaire complet →Tous les termes