Dario Amodei a publié il y a quelques jours un essai demandant à tous les laboratoires de pointe de ralentir. En quatre jours, les dirigeants de Microsoft, OpenAI et xAI ont chacun répondu publiquement, un sénateur américain a proposé d'interdire purement et simplement la superintelligence, le président américain a commenté sur les réseaux, et la presse d'État chinoise a attaqué l'auteur. C'est la première fois que cette question se discute publiquement entre ceux qui peuvent réellement en décider.
Nous rapportions hier que Microsoft rejoignait cette position, en notant qu'une convergence entre concurrents signale une norme en formation. La séquence complète est plus intéressante encore.
Ce qui rend ce moment inhabituel
Les débats sur la sécurité de l'IA se tenaient jusqu'ici dans trois espaces séparés : des articles de recherche, des communications d'entreprise soigneusement calibrées, et des auditions parlementaires où personne ne dit grand-chose.
Ici, quatre dirigeants qui contrôlent effectivement le rythme du développement se répondent publiquement, en quelques jours, sur un sujet qu'ils avaient tout intérêt à traiter en privé.
Ce n'est pas anodin. Nous écrivions à propos du ralentissement annoncé en août que la prudence individuelle est punie tant qu'elle n'est pas collective. Un débat public est précisément ce qui permet de sortir de ce blocage : il rend les engagements comparables et coûteux à trahir.
Le contenu du désaccord
Les positions exprimées ne sont pas identiques, et la nuance compte.
Certains défendent un rythme délibéré — prendre le temps nécessaire pour que l'alignement suive les capacités. C'est ce que recouvre le code de conduite publié par Microsoft, avec des principes de contrôle humain, de priorité à la sécurité sur l'accomplissement de la tâche, et d'absence d'objectifs autonomes.
D'autres contestent que ralentir soit possible ou souhaitable, en avançant l'argument que nous avons souvent rapporté : un ralentissement occidental ne ralentit pas le monde. Nous avons documenté cette semaine un cluster chinois de 100 000 accélérateurs nationaux et un plan quinquennal à 532 milliards. Cet argument n'est pas une posture.
Quand un président commente sur un réseau social et qu'une presse d'État étrangère attaque un dirigeant d'entreprise, la discussion a changé de nature. Elle n'est plus une controverse entre spécialistes sur des seuils de capacité : elle est devenue un objet politique, avec ce que cela implique de simplification, d'alignement partisan et de commentaire. Ce basculement était inévitable, et il a un coût : les arguments techniques deviennent des positions à défendre plutôt que des hypothèses à examiner.
La proposition d'interdiction
L'élément le plus concret de la séquence est une proposition législative visant à interdire la superintelligence.
Elle pose immédiatement le problème que nous avons rencontré à propos du mot AGI : il n'existe aucune définition partagée de ce qui serait interdit. Une loi qui vise un objet sans définition juridique produit soit une inapplicabilité complète, soit un pouvoir discrétionnaire considérable pour celui qui l'interprète.
Cela n'enlève rien à l'intention. Cela signale simplement que la traduction d'une inquiétude légitime en texte applicable reste entièrement à faire — et c'est exactement ce que nous réclamons depuis des mois : des seuils de capacité définis, mesurables et publics.
Ce qui manque toujours
Ce débat public est une bonne nouvelle, et il ne change rien à ce que nous répétons.
Un engagement de ralentissement n'a de valeur que s'il est vérifiable par quelqu'un d'autre. Personne à l'extérieur ne peut aujourd'hui constater qu'un laboratoire a effectivement ralenti, ni mesurer de combien.
Et un signalement d'incident n'a de valeur que s'il est protégé. Nous l'écrivions à propos du recensement demandé par le Congrès : si déclarer expose, personne ne déclare.
Un élément rapporté cette semaine illustre bien cette limite : une partie de la communauté de la cybersécurité estime avoir été tenue à l'écart de la préparation des alertes que ces mêmes laboratoires ont publiées. Discuter du rythme entre dirigeants n'est pas la même chose que construire un dispositif avec ceux qui devront l'appliquer.
Ce qu'il faut retenir
Il faut saluer que cette question se discute enfin à découvert, et se méfier de ce que le format public fait aux arguments.
Un débat mené entre quatre personnes qui dirigent les laboratoires concernés, commenté par des responsables politiques et repris dans une rivalité entre États, produit de l'attention et rarement des critères.
Ce qui permettrait de trancher n'a pas changé depuis que nous l'écrivons : des seuils de capacité définis publiquement, des évaluations par des tiers dotés de moyens, et une obligation de signalement qui protège celui qui déclare. Aucun de ces trois éléments n'a progressé cette semaine, et c'est à cela qu'il faudra mesurer la portée réelle de cet épisode.