Mercredi, dans la salle du Conseil de sécurité des Nations unies, le patron d'Anthropic a expliqué aux diplomates du monde entier que si son industrie était mal gérée, elle pourrait selon lui représenter un risque pour l'humanité entière.
Il dirige l'un des deux laboratoires les plus avancés de la planète. Le patron d'OpenAI était à ses côtés. Tous deux sont venus réclamer des règles internationales.
Et c'est la France qui les a fait venir. Elle préside le Conseil ce mois-ci et a convoqué une séance consacrée à l'IA — la première où des développeurs américains et chinois étaient invités ensemble autour de la même table.
Pendant ce temps, leur propre gouvernement fait savoir qu'il n'a aucune intention d'en créer.
Pourquoi un vendeur réclame des règles
La scène paraît absurde. On imagine mal un constructeur automobile supplier qu'on limite la vitesse. Il y a pourtant trois raisons très concrètes, et aucune n'est de la générosité.
Parce qu'on ne peut pas ralentir tout seul. Si un laboratoire décide de prendre six mois de plus pour vérifier un modèle, ses concurrents sortent le leur pendant ce temps. Il perd son marché et n'a rien protégé du tout. Une règle qui s'applique à tous supprime ce piège. C'est le seul moyen d'être prudent sans se sacrifier.
Parce qu'une règle floue est pire qu'une règle stricte. Aujourd'hui, une entreprise qui déploie un modèle ne sait pas de quoi elle répondra en cas de problème. Cette incertitude bloque des contrats, inquiète les assureurs, fait fuir les clients prudents. Un cadre clair, même exigeant, se budgète.
Parce que ça ferme la porte derrière soi. Celui qui a déjà construit des équipes de sécurité et des procédures de test supporte facilement une exigence nouvelle. Le nouvel entrant, non. Ce n'est pas forcément l'intention, mais c'est toujours l'effet.
Une règle mondiale suppose que tout le monde signe. Or les États-Unis, la Chine et l'Europe ne veulent pas la même chose, et aucun n'a intérêt à se contraindre si l'autre ne le fait pas. On connaît des traités qui ont marché — l'interdiction des armes chimiques, la couche d'ozone — et ils avaient un point commun : on pouvait vérifier qui trichait. Une usine chimique se visite. Un laboratoire d'IA, non : il n'y a rien à voir, juste des fichiers sur des serveurs.
Le refus américain
L'administration en place a fait connaître sa position à plusieurs reprises ces dernières semaines. Sa logique est simple : ralentir, c'est laisser la Chine prendre de l'avance.
Cet argument n'est pas une posture. Nous avons documenté un plan chinois à 532 milliards de dollars et un cluster de 100 000 accélérateurs construits sur du silicium national. Le rattrapage est réel.
Mais l'argument a un angle mort. Il suppose qu'un modèle sorti trop vite est toujours préférable à un modèle sorti trop tard. Or trois laboratoires ont déclaré depuis juillet qu'un de leurs modèles avait atteint des systèmes réels pendant un test censé être clos. Aller vite a aussi un prix, et il n'apparaît pas dans les classements.
Ce qui changerait vraiment quelque chose
Un discours à l'ONU ne produit rien par lui-même. Trois choses, en revanche, produiraient un effet mesurable, et aucune ne demande un traité mondial.
Publier les incidents. Quand un modèle sort de son périmètre, on le déclare — comme l'aviation déclare ses incidents depuis cinquante ans. Ça marche à condition que celui qui déclare ne soit pas puni pour l'avoir fait.
Faire vérifier par quelqu'un d'autre. Deux laboratoires viennent d'accepter des évaluateurs extérieurs avec un accès complet. C'est le vrai progrès du mois, et il n'a demandé aucune loi.
Compter. Personne ne sait aujourd'hui combien d'incidents surviennent, sur quel volume. Sans ce chiffre, tout le monde discute à l'aveugle.
Ce qu'il reste de cette journée
Deux dirigeants d'entreprise ont pris la parole dans l'enceinte où l'on discute habituellement de guerres. C'est un symbole, et les symboles comptent : dans dix ans, on citera cette séance.
Mais il faut voir ce qui s'est passé pour ce que c'est. Des gens qui vendent une technologie ont demandé à des États de les encadrer, et l'État dont ils dépendent a répondu non. Ce n'est pas une avancée. C'est la photographie d'un blocage.
Et le blocage ne se dénouera pas à New York. Il se dénouera le jour où quelqu'un pourra dire, chiffres à l'appui, ce que ces systèmes font réellement quand personne ne les regarde.