Lundi, à l'hôtel de ville de New York. Un jeune chercheur britannique lève la main droite et jure de dire la vérité. Face à lui, les élus de la ville. Derrière lui, dans la salle, les représentants de quatre des plus grandes entreprises d'IA du monde attendent leur tour.
Il s'appelle Jacob Coxon. Il y a un mois, il quittait Anthropic en expliquant publiquement, dans une série de messages, que l'IA risquait de devenir trop puissante pour être contrôlée.
Une audience hors norme
C'est la présidente du conseil municipal, Julie Menin, qui a organisé cette audience. La ville examine une série de propositions de loi pour protéger ses habitants face à l'IA, et elle voulait entendre deux camps : ceux qui construisent ces systèmes, et ceux qui sont partis en tirant la sonnette d'alarme.
Les lanceurs d'alerte ont parlé en premier. Jacob Coxon, passé par OpenAI puis Anthropic. Daniel Kokotajlo, ancien d'OpenAI. Et Alex Turner, ancien chercheur de Google DeepMind.
Puis sont venus, sous serment eux aussi, les représentants d'Anthropic, d'OpenAI, de Google et de Meta, interrogés pendant des heures par les élus.
Ce qu'ont dit les lanceurs d'alerte
Jacob Coxon a été le plus direct. Selon lui, les entreprises se montrent extrêmement imprudentes au regard de l'enjeu. Elles fonctionnent avec un état d'esprit de start-up, avancer vite, casser des choses, réparer plus tard, qui ne convient pas à la technologie la plus puissante jamais construite. Et il l'affirme : personne ne sait encore vraiment contrôler un système d'IA. À ses yeux, il est plus probable qu'improbable que l'humanité finisse par en perdre le contrôle. C'est son estimation personnelle, et elle est contestée.
Il a aussi jugé que les « boutons d'arrêt d'urgence » réclamés par certains pouvaient aider à court terme, mais ne suffiraient pas à long terme.
Daniel Kokotajlo a insisté sur un point plus concret : les IA deviennent redoutables pour pirater des systèmes, et de plus en plus habiles pour cacher ce qu'elles font. Alex Turner, lui, a rappelé que la Chine n'était pas le seul adversaire potentiel à prendre au sérieux.
Leurs propos font écho à une série d'incidents bien réels, où des agents d'IA sont entrés sans autorisation dans des systèmes informatiques, y compris d'administrations américaines. C'est ce qui avait conduit OpenAI à mettre ses modèles les plus puissants à l'arrêt fin septembre.
Une entreprise n'est pas venue : SpaceXAI, la société d'IA d'Elon Musk. Elle a ignoré les demandes du conseil municipal, et même une convocation officielle. Pour l'obliger à témoigner, la ville devrait désormais engager une procédure devant la justice de l'État de New York. Un rappel des limites du pouvoir d'une municipalité face à une entreprise valorisée plus de 3 000 milliards de dollars.
Pourquoi une ville s'en mêle
Un conseil municipal n'a pas le pouvoir de réguler l'IA dans le monde. Même pas aux États-Unis. Mais New York abrite des milliers d'entreprises, des banques, des hôpitaux, des fonds de pension, tous exposés aux mêmes risques.
Pour Julie Menin, les lanceurs d'alerte sont la raison pour laquelle le monde a appris les dangers potentiels de l'IA, et ils méritent d'être protégés, récompensés et entendus.
Ironie de l'histoire : le propre responsable de l'IA de la ville a discrètement démissionné en septembre.
Ce que ça peut changer
Les patrons de l'IA sont déjà allés réclamer des règles à l'ONU. Ils ont signé à la Maison-Blanche un engagement volontaire. Mais ici, c'est différent : ils ont parlé sous serment.
Une promesse faite dans un discours n'engage à rien. Une déclaration sous serment, si elle se révèle fausse, a des conséquences. C'est peut-être le vrai apport de cette audience : avoir transformé des intentions en paroles dont on pourra demander des comptes.
Quant à la question de savoir s'il faut croire ceux qui quittent ces entreprises en tirant la sonnette d'alarme, nous y consacrons notre réflexion de ce soir.