Un modèle de langage produit la continuation la plus probable au vu de ce qu'il a lu. Sur une question controversée, cela signifie qu'il produit approximativement la position la plus représentée dans son corpus. Ce n'est pas un biais qu'on pourrait corriger : c'est la définition de ce qu'il fait. La question est de savoir ce que cela produit quand des millions de personnes consultent la même moyenne.
Nous avons traité l'impossibilité de la neutralité et la tendance à donner raison. Voici une question distincte, et plus profonde.
Ce qui rend le problème réel
Une idée nouvelle est, par construction, minoritaire. Elle est peu représentée dans le corpus, souvent mal formulée par ses premiers défenseurs, et fréquemment considérée comme fausse au moment où elle apparaît.
C'est ce que suggérait le test que nous avons couvert : quand on demande à des modèles de retrouver l'idée d'un article scientifique à partir de ses seules prémisses, les scores tombent entre 3 et 15 %. Un système optimisé pour la plausibilité est structurellement mal placé pour produire ce qui n'était pas plausible avant qu'on l'ait pensé.
Le risque n'est donc pas que l'IA impose une opinion. C'est plus subtil : elle rend le consensus plus accessible que ses alternatives. Il faut un effort particulier pour obtenir la position minoritaire, alors que la position dominante arrive par défaut.
Trois nuances qui comptent
Ce n'est pas nouveau. Les manuels scolaires, les encyclopédies, les moteurs de recherche et les médias produisent tous une version du consensus. L'IA n'invente pas cette dynamique, elle l'accélère et la personnalise.
Le consensus a souvent raison. C'est le point qu'on oublie quand on célèbre les dissidents. Pour chaque minoritaire qui avait raison contre tous, il y en a des milliers qui avaient simplement tort. Un outil qui donne la position majoritaire vous donne, le plus souvent, la bonne réponse.
On peut demander autre chose. Un modèle sait très bien exposer une position minoritaire si on le lui demande explicitement. Le problème n'est pas qu'il en soit incapable, c'est qu'il ne le fasse pas spontanément.
Voici ce qui nous semble le plus préoccupant, et ce n'est pas le contenu des réponses. C'est que des millions de personnes consultent la même source pour se forger un avis. Auparavant, la diversité venait autant de la fragmentation que de la qualité : chacun lisait des choses différentes, entendait des versions différentes, et ces écarts produisaient du débat. Une source unique, même excellente et équilibrée, réduit mécaniquement cette variété. Le danger n'est pas qu'elle ait tort, c'est que tout le monde ait le même avis pour la même raison.
Ce qui rend le problème plus grave qu'avant
Deux différences avec les sources traditionnelles méritent d'être posées.
La formulation personnalisée. Une encyclopédie dit la même chose à tout le monde, et on sait qu'on lit un texte général. Un modèle reformule pour vous, ce qui donne l'impression d'un raisonnement construit pour votre cas. La position moyenne arrive habillée en réflexion personnelle.
L'absence de désaccord visible. Quand vous consultiez plusieurs sources, les divergences apparaissaient. Un modèle synthétise et produit une position lisse, où les désaccords réels du champ sont aplanis dans un équilibre prudent. C'est d'ailleurs, comme nous le notions, l'un des marqueurs d'un texte généré.
Ce qu'on peut faire
Trois pratiques simples, et elles fonctionnent.
Demandez le désaccord explicitement. Non pas « quel est l'avis sur X » mais « quels sont les points sur lesquels les spécialistes de X ne sont pas d'accord, et pourquoi ». La réponse change complètement.
Demandez le meilleur argument contraire. C'est l'exercice le plus utile qu'on puisse faire avec ces outils, et probablement le moins pratiqué.
Gardez des sources qui ne passent pas par là. Lire quelqu'un qui a un point de vue assumé, avec ses partis pris, apporte quelque chose qu'une synthèse ne donne pas : le sentiment que quelqu'un défend quelque chose.
Ce qu'il faut retenir
La question posée en titre appelle une réponse nuancée : l'IA n'enferme personne, elle rend une sortie plus facile que les autres. Et ce qui est plus facile finit par être ce qu'on fait.
Ce qui se joue n'est donc pas la censure d'idées minoritaires, mais quelque chose de plus discret : la disparition de l'effort qu'il fallait pour rencontrer un point de vue qu'on ne cherchait pas. Une bibliothèque, une conversation, un journal vous exposaient à des choses que vous n'aviez pas demandées. Un outil qui répond exactement à ce que vous demandez ne fait jamais cela.
C'est peut-être la raison la plus solide de continuer à fréquenter des sources qui ne vous répondent pas.