Vous hésitez entre deux restaurants. Le premier affiche 4,7 étoiles et 1 200 avis. Le second, 4,8 étoiles et douze avis. Vous choisissez le premier.
Vous n'avez goûté ni l'un ni l'autre. Vous avez fait confiance à la foule. Et la plupart du temps, c'est une excellente idée.
Mais que se passe-t-il le jour où la foule peut être fabriquée ?
Pourquoi on fait confiance à la foule
Nous ne pouvons pas tout vérifier nous-mêmes. Personne n'a le temps de tester tous les restaurants, de lire toutes les études, de se forger un avis sur chaque sujet. Alors nous utilisons un raccourci : si beaucoup de gens pensent quelque chose, il y a de bonnes chances que ce soit vrai, ou au moins raisonnable.
Ce raccourci a une condition cachée. Il ne marche que parce qu'une foule coûte cher à inventer. Écrire mille faux avis, faire vivre mille faux comptes, organiser mille faux commentaires, c'était long, coûteux, et finissait par se voir.
Cette condition est en train de disparaître. Des agents IA ont déjà créé et animé seuls des milliers de faux comptes, à un coût dérisoire.
Dans les années 1950, le psychologue américain Solomon Asch a mené une expérience restée célèbre. Il montrait à des volontaires une ligne, puis trois autres, et leur demandait laquelle avait la même longueur. La réponse était évidente. Mais autour du volontaire, tous les autres participants, qui étaient en réalité des complices, donnaient à voix haute la même mauvaise réponse. Résultat : dans environ un tiers des cas, les volontaires suivaient le groupe contre leurs propres yeux, et trois sur quatre ont cédé au moins une fois. Il suffisait de quelques complices dans une pièce. Imaginez des milliers.
Le vrai danger n'est pas celui qu'on croit
On pense d'abord au risque évident : croire une idée fausse parce qu'une fausse foule la répète. Ce risque est réel.
Mais il y en a un autre, plus sournois. À force de savoir que la foule peut être truquée, on risque de ne plus croire à aucune foule. Les vrais avis deviennent suspects. Les vraies mobilisations aussi. Une colère sincère peut être balayée d'un « ce sont des bots ».
Le pire n'est donc pas qu'on croie n'importe quoi. C'est qu'on finisse par ne plus rien croire du tout, y compris ce qui est vrai. Et une société qui ne peut plus distinguer ce que pensent réellement les gens a beaucoup de mal à se gouverner.
Ce qui reste fiable
Heureusement, tout ne se fabrique pas aussi facilement.
Les gens que vous connaissez. L'avis d'un ami, d'un collègue, d'un voisin reste difficile à imiter.
Les communautés vérifiées. Un forum où chacun est identifié, une association, un groupe local : plus une communauté est petite et connue, plus elle est dure à infiltrer.
L'argument lui-même. C'est peut-être la leçon la plus importante. Une IA peut multiplier les voix. Elle ne rend pas un mauvais raisonnement meilleur. Nous le relevions à propos du consensus que ces outils peuvent fabriquer : ce qui compte n'est pas combien de gens répètent une idée, mais ce qu'elle dit vraiment.
Ce qu'on retient
Pendant longtemps, compter les voix était un bon moyen de savoir ce que pensaient les gens. Ce ne sera plus toujours le cas.
Une foule peut désormais être fabriquée. Un bon argument, lui, reste difficile à imiter. C'est peut-être le moment de réapprendre à juger une idée pour ce qu'elle dit, et non pour le nombre de voix qui semblent la porter.