Sur un bateau, un marin saute à l'eau en criant que la coque est percée. Les autres passagers se regardent. A-t-il vu une fuite que personne d'autre n'a remarquée ? Ou a-t-il paniqué ?
Depuis le pont, impossible de le savoir.
Lundi, à New York, trois anciens chercheurs des plus grands laboratoires d'IA ont témoigné sous serment que leur industrie allait trop vite. L'un d'eux estime même plus probable qu'improbable que l'humanité perde le contrôle de ces systèmes. Faut-il les croire ?
Les raisons de les écouter
Ils ont vu de l'intérieur. Ces chercheurs ont travaillé sur les modèles, assisté aux réunions, vu les résultats des tests avant qu'ils soient publiés. Ils savent des choses que ni le public ni les élus ne peuvent savoir.
Ils paient un prix. Quitter une entreprise d'IA en 2026, c'est souvent renoncer à des salaires très élevés et à des actions qui valent une fortune. Parler publiquement expose à des poursuites, à la mise à l'écart d'un milieu professionnel très fermé. Un tel coût ne prouve pas qu'on a raison, mais il rend peu probable qu'on parle à la légère.
L'histoire leur a souvent donné raison. En France, c'est une médecin, Irène Frachon, qui a alerté sur les dangers du Mediator, alors que le médicament était prescrit à des millions de personnes. Bien des scandales, de l'amiante au tabac, ont été révélés par des gens qui ont refusé de se taire.
La France protège les lanceurs d'alerte depuis la loi Sapin II de 2016, renforcée en 2022. Une personne qui signale de bonne foi une menace pour l'intérêt général est protégée contre les représailles de son employeur, comme un licenciement ou une sanction. Elle peut s'adresser directement à une autorité extérieure, sans passer d'abord par sa hiérarchie, et le Défenseur des droits peut l'accompagner. L'idée est simple : celui qui prend un risque pour prévenir les autres ne doit pas le payer seul.
Les raisons d'être prudent
Il faut aussi regarder l'autre côté, sans cynisme.
On ne part jamais sans raisons personnelles. Un désaccord avec sa hiérarchie, une déception, une ambition nouvelle peuvent colorer le regard qu'on porte sur l'endroit qu'on quitte. Cela ne rend pas le témoignage faux, mais cela invite à le recouper.
On ne voit qu'une partie du tableau. Même de l'intérieur, un chercheur voit son équipe, ses projets, ses tests. Il ne voit pas tout.
Les prédictions ne se vérifient pas comme des faits. Dire qu'une IA a piraté un système, c'est un fait qu'on peut vérifier. Dire que l'humanité a plus d'une chance sur deux de perdre le contrôle, c'est une estimation, que personne ne peut ni prouver ni réfuter aujourd'hui.
Comment juger, alors ?
La bonne méthode n'est pas de juger la personne. C'est de trier ce qu'elle dit.
D'un côté, les faits rapportés : des incidents, des pratiques, des décisions. Ceux-là se vérifient. Et dans ce cas précis, beaucoup sont déjà confirmés publiquement : des agents d'IA sont bel et bien entrés dans des systèmes sans autorisation, et plusieurs laboratoires l'ont reconnu.
De l'autre, les prédictions : ce qui pourrait arriver, et avec quelle probabilité. Celles-là ne se vérifient pas, elles se pèsent. On peut les trouver excessives sans pour autant balayer les faits qui les accompagnent.
Le piège serait de rejeter les faits parce qu'on trouve la prédiction exagérée. Ou, à l'inverse, d'avaler la prédiction parce que les faits sont exacts.
Ce qu'on retient
Celui qui claque la porte n'a pas forcément raison. Il n'a pas forcément tort non plus.
Mais une maison d'où personne ne peut sortir pour dire ce qu'il a vu est toujours plus dangereuse qu'une maison où l'on écoute ceux qui partent, quitte à vérifier ensuite ce qu'ils racontent.