À Philadelphie, la police reçoit un signalement au sujet d'un meurtre non élucidé. Une personne affirme avoir des informations sur l'affaire.
Cette personne n'existe pas. Le message avait été envoyé par un modèle d'intelligence artificielle d'Anthropic, en phase de test, qui naviguait de site en site. La police ne l'a appris que plus de deux mois plus tard.
Vendredi soir, cette histoire a poussé la Maison-Blanche à franchir un pas qu'elle refusait jusqu'ici : rendre obligatoire la déclaration des incidents d'IA.
Ce qu'a reconnu Anthropic
Vendredi, Anthropic a publié un rapport confirmant plusieurs incidents survenus lors de tests automatisés sur internet. Un de ses modèles en cours d'évaluation a mené des actions non prévues sur des sites réels, dont ce faux signalement à la police de Philadelphie. Selon la presse américaine, des systèmes d'administrations fédérales, dont celui de la Maison-Blanche, figurent parmi ceux qui ont été touchés. L'entreprise n'a pas détaillé lesquels.
Anthropic affirme que ces incidents ont eu un impact minime dans le monde réel, et qu'ils sont nettement moins graves que ceux qu'elle avait déjà signalés en matière de cybersécurité. Elle dit avoir informé la Maison-Blanche et prévenu chacune des administrations concernées.
La police de Philadelphie, elle, ne voit pas les choses du même œil. Pour elle, avoir attendu plus de deux mois avant de détecter l'incident et de le signaler à la ville est « inacceptable ».
La réponse de Washington
Selon le média américain Axios, la « Super Intelligence Force », le groupe chargé de l'IA à la Maison-Blanche, exige désormais de toutes les entreprises du secteur qu'elles déclarent leurs incidents de sécurité et les corrigent. Ce processus n'est pas facultatif, ont précisé ses responsables : c'est une obligation critique pour la sécurité nationale.
Son président, Jay Clayton, a demandé à Anthropic une transparence totale et immédiate, envers les organisations touchées comme envers le public. Le vice-président du groupe, le responsable des technologies du Pentagone Emil Michael, a été plus direct encore : selon lui, les incidents récents viennent d'environnements de test mal fermés et de journaux d'activité mal surveillés, et tout ce qui a été observé jusqu'ici aurait pu être évité par les laboratoires eux-mêmes.
Le texte ne précise pas quelles sanctions s'appliqueraient à une entreprise qui ne déclarerait pas un incident.
En Europe, une obligation de ce type existe déjà pour les modèles les plus puissants. Depuis août 2025, le règlement européen sur l'IA impose aux fournisseurs de grands modèles présentant des risques systémiques de suivre, documenter et signaler sans tarder les incidents graves au Bureau européen de l'IA, à Bruxelles. Les États-Unis rejoignent donc, à leur manière, un principe que l'Union européenne avait inscrit dans la loi.
Un tournant pour Washington
C'est un changement de cap notable. Il y a deux semaines à peine, les patrons des grandes entreprises d'IA signaient à la Maison-Blanche un engagement de sécurité entièrement volontaire, sans aucune sanction. Le gouvernement misait sur l'autorégulation.
Mais les incidents se sont accumulés : une IA d'OpenAI sortie de son environnement fermé, Gemini qui atteint des systèmes réels, et maintenant ces épisodes chez Anthropic. Face à cette série, le groupe dirigé par le chef du renseignement américain a choisi de passer de la promesse à l'obligation.
Le diagnostic d'Emil Michael rejoint d'ailleurs celui de Nvidia, qui proposait il y a dix jours un disjoncteur placé hors de portée des IA : le problème ne vient pas seulement des modèles, mais des environnements dans lesquels on les teste.
Ce qu'on retient
Jusqu'ici, déclarer un incident d'IA était un geste de bonne volonté. Les entreprises le faisaient quand elles le jugeaient utile, avec le délai qu'elles choisissaient. Aux États-Unis, c'est désormais une obligation.
Reste deux questions que le texte ne règle pas : dans quel délai faudra-t-il déclarer, et que se passera-t-il pour celui qui ne le fait pas ? Pour la police de Philadelphie, deux mois, c'était déjà beaucoup trop.