OpenAI a annoncé avoir identifié et fermé un réseau de comptes liés à une opération d'influence russe utilisant ses outils pour produire du contenu de propagande. Ce type d'annonce revient régulièrement chez les grands fournisseurs. Ce qu'il faut en retenir n'est pas la sophistication de l'opération, généralement modeste, mais ce qu'elle coûte désormais à monter.
Nous avons traité la question de la désinformation électorale en concluant que les prédictions catastrophistes s'étaient trompées de mécanisme. Cette affaire illustre précisément le mécanisme réel.
Ce que ces opérations font concrètement
L'imaginaire commun associe la propagande à un faux spectaculaire : une vidéo truquée d'un dirigeant, un document fabriqué. Ce n'est presque jamais cela.
Une opération d'influence typique consiste à produire du volume : des dizaines de comptes qui publient des commentaires plausibles, dans un français ou un anglais corrects, sur des sujets clivants. L'objectif n'est pas de convaincre avec un argument décisif. Il est de donner l'impression qu'une opinion est plus répandue qu'elle ne l'est.
Ce travail exigeait auparavant des équipes de rédacteurs maîtrisant la langue et les codes culturels de la cible. C'était le principal facteur limitant, et il était coûteux.
Ce que l'IA change réellement
Pas la qualité du faux : le rapport entre l'effort investi et la portée obtenue.
Produire mille variantes d'un message, adaptées à mille segments de population, dans dix langues, ne demande plus une équipe mais quelques heures. C'est ce que nous écrivions il y a deux semaines, et cette affaire le confirme.
La conséquence est une démocratisation peu réjouissante : un acteur aux moyens modestes peut désormais mener une opération qui exigeait auparavant des ressources d'État. Le seuil d'entrée s'est effondré.
Ces réseaux sont repérés non pas parce que leurs textes sont mauvais, mais parce que leur comportement est régulier : mêmes horaires, mêmes schémas de requêtes, mêmes structures de compte. C'est une bonne nouvelle et une nouvelle limitée. Bonne, parce que cette détection fonctionne sans avoir à juger du contenu, ce qui évite les questions de censure. Limitée, parce qu'elle ne marche que chez le fournisseur : une opération menée avec un modèle ouvert hébergé sur ses propres machines n'apparaît dans aucun tableau de bord.
La limite structurelle
C'est le point qu'il faut poser honnêtement. Ces annonces montrent que les fournisseurs surveillent leurs plateformes, ce qui est bien. Elles ne disent rien de ce qui se passe ailleurs.
Or nous avons documenté cette année une diffusion massive de modèles ouverts de bonne qualité, dont certains tiennent sur une seule carte graphique. Un acteur déterminé n'utilisera pas un service qui journalise ses requêtes.
Autrement dit, la détection chez les fournisseurs attrape les opérateurs négligents ou pressés, pas les organisations sérieuses. C'est utile, ce n'est pas une défense.
Ce qui protège réellement
Nous revenons aux trois mécanismes que nous avons identifiés, et aucun n'est technologique au sens strict.
La provenance vérifiable, plutôt que la détection du faux. C'est la logique du standard C2PA et des obligations européennes de transparence : signer l'authentique plutôt que courir après le faux.
Le recoupement. Un événement réel laisse plusieurs traces indépendantes. Une opération coordonnée, même massive, est généralement seule.
Des institutions crédibles. C'est le facteur le moins technologique et le plus déterminant. Une population qui dispose de sources qu'elle juge fiables résiste bien mieux au volume qu'une population qui ne croit plus personne.
Ce qu'il faut retenir
Cette affaire n'est ni un scandale ni une victoire. C'est une opération de maintenance, et il y en aura d'autres régulièrement.
Ce qui mérite l'attention, c'est ce qu'elle signale sur l'économie de l'influence : le coût de production de la propagande a chuté, et rien ne le fera remonter. La réponse ne peut donc pas consister à empêcher la production, qui est devenue triviale. Elle tient à ce qui rend une information crédible, c'est-à-dire à des chaînes de confiance que la technologie ne fabrique pas.