Aller au contenu

SociétéGlossaire de l'IA

Injection de prompt

Attaque qui consiste à cacher des instructions malveillantes dans des contenus qu'une IA va lire (page web, email, document) : l'IA les prend pour des ordres légitimes et les exécute. Contrairement au jailbreak, l'attaquant ne parle pas directement au modèle mais piège les données, et c'est devenu la faille de sécurité numéro un des agents IA.

Autrement dit

Glisser une fausse consigne signée « le patron » dans la pile de courrier d'un assistant très obéissant, qui l'exécute sans se poser de questions.

Nos articles qui en parlent

Pour aller plus loin à l'Académie

Voir aussi

Dans la même famille : Société

Retrouver ce terme dans le glossaire complet →Tous les termes