SociétéGlossaire de l'IA
Red teaming
Attaquer délibérément son propre système pour trouver ses failles avant que d'autres ne le fassent : documents piégés, demandes limites, scénarios d'exfiltration. On corrige, et on recommence.
Autrement dit
Payer quelqu'un pour cambrioler sa propre maison, pendant qu'on peut encore changer la serrure.
Nos articles qui en parlent
- C'est quoi le "red teaming" ? Attaquer son propre modèle avant que d'autres ne le fassent
Le red teaming consiste à attaquer délibérément son propre système pour en découvrir les failles avant leur exploitation. On explique comment ça s'applique à l'IA, ce que ça trouve, et pourquoi ça ne suffit pas.
Dans la même famille : Société
Retrouver ce terme dans le glossaire complet →Tous les termes