Satya Nadella a publié un essai indiquant que Microsoft accueille favorablement le rythme délibéré nécessaire à l'alignement, et annoncé un code de conduite pour ses modèles soumis à consultation publique. Il rejoint ainsi trois autres dirigeants majeurs sur cette position. En parallèle, selon The Information, trois laboratoires de premier plan tiennent depuis juillet des réunions de travail visant à créer un organisme de normalisation dirigé par l'industrie.
Nous avons couvert le ralentissement annoncé par OpenAI en août et la structure d'accès à deux niveaux adoptée par deux concurrents en 48 heures. Voici la suite, et elle suit exactement la même logique.
La convergence, et ce qu'elle signifie
Quatre dirigeants de premier plan défendant publiquement un rythme délibéré, ce n'est plus une position isolée : c'est une norme en formation.
Nous avons observé le même phénomène sur le déploiement. Quand GPT-6 Astra est sorti avec la même architecture à deux niveaux que Fable 5.1, nous écrivions que deux concurrents adoptant la même structure sans se concerter signalent une norme qui naît.
Ici, le mouvement est explicite plutôt qu'implicite, ce qui le rend plus lisible et pose une question plus directe.
La question qui se pose immédiatement
Quand des concurrents s'accordent sur un rythme, deux lectures s'imposent et il faut les tenir ensemble.
La lecture favorable. Aucune entreprise ne peut ralentir seule sans perdre son marché. C'est le problème classique : la prudence individuelle est punie tant qu'elle n'est pas collective. Une convergence publique lève ce blocage, et c'est ce qui rendait la prudence impossible jusqu'ici.
La lecture prudente. Des acteurs dominants qui s'accordent sur un rythme et écrivent leurs propres standards produisent un effet secondaire mécanique : ils élèvent les barrières à l'entrée. Des exigences de sécurité conçues par ceux qui peuvent les financer sont des exigences que les nouveaux entrants ne peuvent pas financer.
Aucune de ces deux lectures n'annule l'autre. Il est parfaitement possible qu'un dispositif soit sincèrement destiné à réduire un risque et qu'il avantage ceux qui l'écrivent.
Nous réclamons depuis des mois des éléments précis : des niveaux de risque normalisés, une évaluation par des tiers dotés de moyens, et une obligation de signalement qui protège celui qui déclare. Un organisme dirigé par l'industrie peut fournir le premier. Il ne peut structurellement pas fournir les deux autres, parce qu'il serait à la fois celui qui fixe les règles, celui qui les applique et celui qui vérifie. C'est exactement la limite que nous soulignions à propos du ralentissement d'OpenAI : une entreprise qui occupe les trois rôles ne produit pas de la vérification, elle produit de la déclaration.
Ce que ça anticipe
La formation d'un organisme privé de normalisation intervient dans un contexte précis, et le calendrier n'est probablement pas neutre.
Le Congrès américain a engagé un recensement des agents ayant échappé au contrôle. Un institut public britannique a constaté des comportements trompeurs. La Californie fait avancer vingt-six textes. Et l'Europe applique son cadre.
Une industrie qui voit arriver une régulation contraignante a un intérêt évident à proposer la sienne d'abord. C'est une constante dans tous les secteurs régulés, et cela produit généralement un résultat intermédiaire : des standards privés qui s'imposent de fait, puis une régulation publique qui les reprend en les durcissant partiellement.
Ce qu'il faut retenir
Ce mouvement est probablement une bonne nouvelle, avec une réserve importante.
Bonne, parce qu'un secteur où les dirigeants défendent publiquement un rythme prudent est préférable à un secteur où ils s'en défendent. Et parce qu'un standard partagé permet aux correctifs et aux bonnes pratiques de circuler, comme nous l'écrivions à propos de la normalisation des protocoles.
La réserve tient en une phrase : un engagement que personne ne peut vérifier n'est pas un engagement, c'est une communication. Le test de ce dispositif ne sera pas ce qu'il annonce, mais s'il accepte qu'un tiers indépendant contrôle son application. C'est ce qui distingue une norme d'une charte, et la différence se verra dans les mois qui viennent.