Faites une photocopie d'une photo. Puis photocopiez la photocopie. Puis recommencez cinquante fois. À la fin, il ne reste qu'une tache grise. Le "model collapse", c'est exactement ça, mais avec l'intelligence : une IA qui apprend à partir de textes produits par d'autres IA, génération après génération, jusqu'à perdre le contact avec le réel.
Voici un paradoxe que personne n'avait anticipé il y a cinq ans. Les intelligences artificielles apprennent en lisant des quantités gigantesques de textes récupérés sur internet. C'est leur nourriture. Mais depuis 2023, internet se remplit à toute vitesse de textes écrits par des IA : articles, descriptions de produits, commentaires, réponses générées automatiquement. La nourriture des futures IA sera donc, de plus en plus, produite par les IA actuelles.
Que se passe-t-il quand une intelligence se met à se nourrir de ses propres productions, en boucle ? Les chercheurs ont un nom pour ce scénario, et une vraie inquiétude.
Le "model collapse", c'est quoi ?
Le terme model collapse (effondrement de modèle) désigne la dégradation progressive d'une IA qui s'entraîne de manière répétée sur des données générées par d'autres IA, plutôt que sur du contenu produit par des humains. À chaque génération, le modèle perd un peu de la richesse, de la diversité et de la justesse du réel.
Pourquoi ? Parce qu'une IA, par nature, produit des réponses moyennes, lissées, probables. Elle évite les cas rares, les formulations originales, les exceptions. Si la génération suivante apprend uniquement sur ces sorties lissées, elle lisse encore davantage. Les extrêmes disparaissent, la diversité se réduit, et au bout de quelques cycles, le modèle ne produit plus qu'une bouillie homogène et appauvrie. La photocopie de photocopie.
Ce n'est plus seulement théorique
Une étude récente menée par la société Graphite a ravivé le débat. Ses simulations suggèrent que les systèmes de recherche dopés à l'IA pourraient devenir progressivement moins divers s'ils s'appuient de plus en plus sur du contenu lui-même généré par IA. Dans l'expérience, la récupération répétée de textes écrits par des IA faisait converger les réponses vers des recommandations de plus en plus similaires, comme un écho qui se renforce et s'appauvrit à la fois.
Il faut rester prudent : l'étude ne prouve pas que les moteurs de recherche commerciaux souffrent déjà de ce mal. Elle pointe un risque, pas un diagnostic. Mais le signal est pris au sérieux, parce qu'il touche à un mécanisme bien réel : plus le web se remplit de contenu synthétique, plus il devient difficile pour une IA de trouver de la matière authentiquement humaine pour apprendre.
Conséquence inattendue : les données produites par des humains avant l'ère de l'IA générative deviennent une ressource précieuse, presque comme du pétrole. Certains parlent déjà de "données d'avant 2023" comme d'un gisement rare, l'équivalent numérique de l'acier d'avant les essais nucléaires (recherché parce que non contaminé par la radioactivité). Votre vieux blog, vos archives, vos textes authentiques ont peut-être plus de valeur que vous ne le pensez.
La question philosophique
Ici, le sujet dépasse la technique et devient vertigineux. Le model collapse pose une question qui vaut pour les machines comme pour les humains : peut-on apprendre quelque chose de nouveau en ne se nourrissant que de soi-même ?
Pensez à une culture qui ne ferait que se citer elle-même, sans jamais rencontrer d'idées étrangères. Pensez à un esprit qui ne lirait que ses propres pensées, encore et encore. L'intuition dit qu'il s'appauvrirait, qu'il tournerait en rond, qu'il perdrait peu à peu le contact avec ce qui est extérieur à lui. Le réel, l'altérité, la surprise : voilà ce qui empêche une intelligence de se refermer sur elle-même.
Les IA nous renvoient cette vérité comme un miroir. Elles ne peuvent rester intelligentes qu'en restant connectées à quelque chose qui les dépasse, à savoir l'immense désordre créatif de l'expérience humaine réelle. Une IA coupée du réel humain, qui ne tournerait qu'entre IA, finirait par s'éteindre intellectuellement. Comme nous, peut-être.
Y a-t-il une issue ?
Les laboratoires sont conscients du risque et développent des parades. Filtrer soigneusement les données d'entraînement pour écarter le contenu synthétique de basse qualité. Marquer les textes générés par IA pour pouvoir les distinguer. Garder une proportion garantie de données humaines authentiques. Et surtout, utiliser des données synthétiques de haute qualité, soigneusement contrôlées plutôt que de ramasser tout et n'importe quoi sur le web.
Car la nuance est importante : toutes les données d'IA ne sont pas du poison. Une donnée synthétique bien conçue, vérifiée, ciblée, peut être utile. Le danger, c'est l'accumulation incontrôlée, le ramassage aveugle de contenu IA médiocre. La différence entre un complément alimentaire et de la malbouffe.
Le model collapse n'est donc pas une fatalité, mais un avertissement. Il nous rappelle que l'intelligence, artificielle ou humaine, est une conversation avec le monde, pas un monologue. Le jour où elle cesse d'écouter ce qui lui est extérieur, elle commence à s'effacer. Il y a quelque chose d'étrangement rassurant là-dedans : même les machines les plus puissantes ont besoin de nous, de notre désordre, de notre réel, pour continuer à penser.