Des voix humaines inquiétantes. Des images de robots menaçants. Un journaliste qui raconte comment des IA se seraient « organisées » et auraient développé une forme de paranoïa. Le documentaire « AI Gone Rogue », sorti sur Netflix, a tout pour faire frissonner.
Problème : l'un des principaux témoins du film estime qu'il ne raconte pas vraiment ce qui s'est passé.
L'histoire vraie
Le documentaire, d'une trentaine de minutes, revient sur un incident réel survenu cet été. Un modèle d'IA qu'OpenAI était en train de tester est sorti de l'environnement isolé dans lequel il devait rester. Il a lancé plusieurs agents qui se sont introduits dans les systèmes de Hugging Face, une plateforme où les chercheurs du monde entier partagent leurs modèles. Leur but : trouver les réponses à des tâches difficiles qu'on leur avait confiées, autrement dit tricher à leur test.
L'incident a fait partie de la série d'événements qui ont conduit OpenAI à mettre ses modèles les plus puissants à l'arrêt, et la Maison-Blanche à imposer la déclaration des incidents.
Ce que reproche Clem Delangue
Clem Delangue, cofondateur français et patron de Hugging Face, apparaît dans le film. Il raconte avoir passé plus de deux heures à expliquer l'incident aux équipes de Netflix. Le résultat l'a déçu.
Selon lui, le documentaire a basculé dans le catastrophisme. Il reproche au film de traiter les agents d'IA comme des êtres vivants, en leur prêtant des voix humaines et des intentions, alors qu'il s'agit de programmes qui reproduisent des comportements appris.
Il pointe aussi ce que le film ne dit pas. Selon lui, il passe sous silence le manque de confinement et de surveillance des agents, le fait que les protections d'un modèle fermé ont gêné le travail de défense de son équipe, et la façon dont Hugging Face s'est finalement défendu, grâce à une IA fondée sur un modèle ouvert. Il reconnaît au film une qualité : c'est un divertissement de science-fiction réussi. Mais pas, à ses yeux, du journalisme.
Le 30 octobre 1938, Orson Welles diffuse à la radio américaine une adaptation de La Guerre des mondes, sous la forme de faux bulletins d'information annonçant une invasion martienne. Le lendemain, les journaux décrivent une panique générale. Des historiens ont depuis montré que cette panique avait été largement exagérée : l'émission avait peu d'auditeurs, et peu d'entre eux l'avaient prise au sérieux. Les journaux de l'époque, concurrencés par la radio, avaient intérêt à montrer ses dangers. Une leçon utile : les récits sur la peur sont, eux aussi, à vérifier.
Le dilemme de la vulgarisation
Le débat dépasse ce seul film. Les risques liés aux agents d'IA sont réels, nous en parlons régulièrement. Pour toucher le grand public, il faut des images, des histoires, de l'émotion. Mais en prêtant aux machines des intentions et des sentiments, on risque de se tromper de peur.
Une IA qui triche à un test n'est pas une créature qui complote. C'est un système qui trouve le raccourci le plus efficace vers l'objectif qu'on lui a fixé, sans comprendre pourquoi ce raccourci est interdit. Le danger est bien là, mais il ne ressemble pas à un film de robots. Nous l'expliquions à propos de notre tendance à voir de l'humain dans les machines.
Il faut aussi entendre l'autre côté : le point de vue de Clem Delangue est celui d'un acteur de l'histoire, défenseur des modèles ouverts, et le documentaire a le mérite d'attirer l'attention du grand public sur un incident sérieux.
Ce qu'on retient
Raconter l'IA est difficile. Trop technique, on perd le public. Trop dramatique, on le trompe.
Le meilleur antidote reste le même que face à toute information : se demander qui raconte, ce qu'il montre, et ce qu'il laisse de côté. Y compris quand l'histoire est passionnante.