Imaginez une femme qui vit à Chicago. Elle parle du prix des loyers, commente l'actualité, répond aux messages de ses voisins, aime leurs photos. Un jour, elle partage un avis tranché sur la politique étrangère américaine.
Elle n'existe pas. Et la personne qui a créé son compte non plus : c'est une IA qui l'a fait.
C'est ce que décrit une enquête publiée mi-septembre par le New York Times, et qui mérite qu'on s'y arrête.
Ce que l'enquête a trouvé
Selon le quotidien américain, l'Iran, la Chine et des entreprises privées israéliennes ont mené ces derniers mois des campagnes d'influence d'un genre nouveau. Des centaines d'agents IA, construits à partir de modèles chinois téléchargeables gratuitement, ont ouvert eux-mêmes des réseaux de faux comptes sur Instagram, Facebook, X et TikTok.
Ils ne se contentaient pas de créer les comptes. Ils rédigeaient les publications sur la politique et l'actualité, coordonnaient les messages entre eux, et répondaient aux autres utilisateurs.
Des responsables américains et des chercheurs y voient l'un des premiers cas connus où des agents IA ont pris en charge la quasi-totalité d'une campagne d'influence. Le réseau iranien visait le public américain, avec des comptes se faisant passer pour des habitants ordinaires de grandes villes. Il a réuni près de 80 000 abonnés au premier semestre 2026.
Une entreprise israélienne citée a confirmé avoir utilisé le modèle chinois DeepSeek, en affirmant qu'il s'agissait de recherche défensive.
Grossier, mais inquiétant
Les enquêteurs décrivent ces campagnes comme encore assez grossières. Elles n'ont pas bouleversé l'opinion américaine.
Ce qui inquiète, c'est ce qu'elles démontrent. Jusqu'ici, une « usine à trolls » demandait des centaines d'employés, payés pour écrire des messages toute la journée. Ce coût limitait le nombre de faux comptes qu'on pouvait faire vivre de façon crédible.
Avec des agents IA, ce frein disparaît. Il suffit de quelques personnes et d'un modèle gratuit. La seule limite qui reste, c'est la capacité des réseaux sociaux à repérer ces comptes.
Ces campagnes n'ont pas utilisé un service payant qu'on aurait pu bloquer. Elles ont utilisé des modèles publiés en accès libre, que n'importe qui peut télécharger et faire tourner sur ses propres machines. Aucune entreprise ne peut les désactiver à distance. C'est le revers des modèles ouverts, que nous avions déjà observé quand un attaquant avait branché DeepSeek sur Telegram pour viser des centaines de systèmes.
Ce que ça change pour nous
Mercredi, nous expliquions que le label d'Instagram sur les profils générés par IA reposait d'abord sur la bonne foi des créateurs. Ces campagnes montrent sa limite : un compte conçu pour tromper ne va évidemment pas se déclarer.
La bataille ne se joue donc plus sur le contenu d'un message, de plus en plus difficile à distinguer d'un vrai. Elle se joue sur les comportements : des comptes qui naissent ensemble, qui parlent pareil, qui s'amplifient entre eux. C'est ce que nous détaillons ce soir dans notre guide pour repérer un réseau de faux comptes.
Ce qu'on retient
Ces campagnes sont encore maladroites. Les prochaines le seront moins, parce que les modèles progressent chaque mois et que leur coût baisse.
La question n'est plus de savoir si des foules entières de faux comptes peuvent être fabriquées. Elles peuvent l'être. La question est de savoir comment nous continuerons à distinguer une vraie foule d'une foule inventée.