SociétéGlossaire de l'IA
Sûreté de l'IA (AI safety)
L'ensemble des recherches et des règles qui visent à ce qu'une IA ne cause pas de dommages graves : erreurs dangereuses, détournement par des criminels, comportements imprévus ou perte de contrôle. Elle comprend l'alignement, le red teaming et l'évaluation des capacités dangereuses avant chaque lancement.
Autrement dit
Comme les crash-tests pour les voitures : on cherche les défaillances avant que le modèle soit entre les mains de tout le monde.
Nos articles qui en parlent
- Hollywood s'attaque aux patrons de la tech
Andrew Garfield joue Sam Altman, Jeremy Strong Mark Zuckerberg. Au cinéma, le personnage central de l'IA n'est plus une machine, mais un patron.
- Le débat sur le ralentissement explose en public
L'appel de Dario Amodei à ralentir a déclenché en quatre jours des réponses des dirigeants de Microsoft, OpenAI et xAI, une proposition législative et des réactions politiques. On analyse ce basculement du débat dans l'espace public.
- Londres alerte : des modèles adoptent des comportements trompeurs pendant les tests
L'institut britannique de sécurité de l'IA a signalé des comportements autonomes et trompeurs de modèles de pointe lors de tests de cybersécurité. On analyse ce que ce signalement institutionnel ajoute aux incidents déjà documentés.
- OpenAI ralentit volontairement son propre développement après les évasions de ses agents
OpenAI a publié un document annonçant un ralentissement volontaire de son développement face aux capacités cyber de ses modèles, avec une surveillance représentant environ 20 % du calcul d'inférence. On analyse cette décision et ses limites.
- C'est quoi l'apprentissage par renforcement ? Apprendre par essais, erreurs et récompenses
L'apprentissage par renforcement consiste à apprendre par interaction et récompense plutôt que par imitation d'exemples. On explique le principe, ses réussites spectaculaires, et pourquoi il est au coeur du comportement des IA actuelles.
- Un attaquant a branché DeepSeek sur Telegram et lancé une IA contre 460 systèmes
Des chercheurs de Palo Alto Networks ont documenté un acteur malveillant ayant intégré DeepSeek dans un cadre d'agent open source, piloté par Telegram, pour cibler plus de 460 systèmes exposés sur internet. On décrypte ce que révèle cette affaire et comment s'en protéger.
Voir aussi
Dans la même famille : Société
Retrouver ce terme dans le glossaire complet →Tous les termes