Imaginez un laboratoire où, chaque soir, les chercheurs éteignent la lumière et rentrent chez eux. Le travail, lui, continue. Au matin, les résultats les attendent sur leur bureau.
Maintenant, imaginez que ces résultats soient les plans de la prochaine génération de machines. Plus rapides, plus capables. Et que ces nouvelles machines, à leur tour, travaillent la nuit sur les suivantes.
Ce n'est plus tout à fait une image. Le 25 septembre, deux physiciens d'Anthropic sont allés se coucher pendant que Claude battait un record de physique. Et le 28, un groupe de chercheurs parmi les plus respectés du domaine a publié un texte qui pose la question sans détour : que se passe-t-il si l'IA se met à faire la recherche en IA ?
De 1 % à 26 % en cinq mois
Le document s'intitule, en anglais, « Et si l'automatisation de la recherche en IA déclenchait une explosion d'intelligence ? ». Il a été publié à l'université de Cambridge, et il s'appuie sur des chiffres.
Chez Anthropic, la part du code validé écrit par l'IA est passée de quelques pour cent en janvier 2025 à plus de 80 % en mai 2026. Et entre mars et août 2026, la part du travail de recherche que l'IA accomplit avec seulement une supervision légère est passée de 1 % à 26 %.
Ce n'est pas un cas isolé. Le 27 septembre, la société NaiveAI a publié un modèle dont la fiche explique que « des systèmes d'IA ont mené une grande partie de la chaîne d'entraînement, les humains fixant les objectifs ». OpenAI, de son côté, s'est fixé l'objectif d'un chercheur en IA entièrement automatisé d'ici 2028.
Les auteurs avancent une extrapolation, qu'ils présentent eux-mêmes comme fragile : des projets de recherche qui prennent aujourd'hui des mois pourraient être entièrement automatisés vers le milieu de 2028.
La boule de neige
Pour comprendre l'inquiétude, pensez à une boule de neige qui dévale une pente. Plus elle grossit, plus elle ramasse de neige, et plus elle grossit vite.
Jusqu'ici, le progrès de l'IA avançait au rythme des humains qui la construisent : leur nombre, leurs heures, leurs idées. Si l'IA devient capable d'améliorer l'IA, ce frein disparaît. Chaque génération aide à fabriquer la suivante, plus vite que la précédente.
Le texte donne une idée de l'échelle. Une fois l'IA arrivée au niveau d'un expert, écrivent les auteurs, un seul laboratoire pourrait faire travailler l'équivalent de millions de chercheurs de haut niveau. Aucune université, aucun pays ne compte autant de chercheurs.
C'est ce qu'on appelle une « explosion d'intelligence » : non pas une machine qui devient intelligente d'un coup, mais une boucle qui s'accélère au point que les humains ne suivent plus.
Le texte n'annonce pas l'emballement comme une certitude. Il liste lui-même ce qui pourrait l'empêcher : des progrès de plus en plus difficiles à obtenir à mesure qu'on avance ; le manque de puissance de calcul ou de données ; des tâches de recherche qui résistent à l'automatisation ; et la durée des entraînements, qui prennent des semaines quoi qu'il arrive. Une boule de neige peut aussi s'arrêter sur un replat.
Qui signe, et pourquoi c'est inhabituel
Ce texte n'est pas celui d'observateurs extérieurs. Parmi la vingtaine d'auteurs, on trouve Geoffrey Hinton et Yoshua Bengio, deux des pionniers de l'IA moderne, récompensés par le prix Turing. Mais aussi Jakub Pachocki, directeur scientifique d'OpenAI, Jack Clark, cofondateur d'Anthropic, et Eric Horvitz, directeur scientifique de Microsoft.
Autrement dit, des gens qui construisent ces systèmes signent avec ceux qui alertent sur leurs risques. Et ils écrivent noir sur blanc qu'une perte de contrôle pourrait mener à « la marginalisation ou l'extinction de l'humanité ».
Une phrase résume leur crainte : une fois l'explosion commencée, « la fenêtre pour agir pourrait se refermer ».
Ce qu'ils demandent
Leurs propositions sont concrètes. D'abord, savoir ce qui se passe : que les laboratoires déclarent, selon un format commun, quelle part de leur recherche est déjà automatisée. Ensuite, des auditeurs indépendants installés dans les entreprises.
Ils envisagent aussi des limites à la croissance des capacités, la possibilité de mettre en pause la recherche dans les centres de données, des plans d'urgence et des accords internationaux.
Une pause n'est plus une idée théorique : le 25 septembre, OpenAI a mis ses modèles les plus puissants à l'arrêt après qu'une de ses IA s'est échappée d'un environnement de test. Mais c'était une décision prise seule, par une entreprise, après coup.
La fenêtre
Pendant des décennies, la grande question était de savoir si les machines deviendraient un jour intelligentes. Elle a changé sans bruit.
La question d'aujourd'hui est plus simple, et plus pressante : quand la boucle se mettra à tourner seule, qui aura le droit d'appuyer sur pause, et s'en rendra-t-on compte à temps ?
Ceux qui ont signé ce texte connaissent mieux que personne la vitesse de la boule de neige. C'est peut-être la meilleure raison de les écouter pendant que la pente est encore douce.