Un LLM, c'est une machine à compléter les phrases, mais dopée à une échelle vertigineuse. Vous connaissez la fonction de votre clavier de smartphone qui propose le mot suivant quand vous tapez ? Un grand modèle de langage, c'est le même principe de base, entraîné sur une fraction gigantesque de tout ce que l'humanité a écrit, jusqu'à devenir capable d'écrire un roman, corriger du code ou expliquer la physique quantique. Toute la magie tient dans ce petit geste répété des milliards de fois : deviner ce qui vient après.
C'est le sigle le plus omniprésent de l'actualité technologique. LLM par-ci, LLM par-là. On vous dit que Claude est un LLM, que GPT est un LLM, que tel modèle chinois est un LLM plus grand que les autres. Mais si on vous demandait, là, maintenant, d'expliquer ce que ça veut dire, sauriez-vous le faire ? Rassurez-vous, à la fin de cet article, oui.
La définition simple
LLM signifie Large Language Model, en français grand modèle de langage. Décomposons les trois mots. Modèle : un système informatique qui a appris des régularités à partir de données. Langage : il travaille sur du texte, des mots, des phrases. Grand : il est entraîné sur des quantités colossales de texte, et contient lui-même un nombre astronomique de réglages internes.
Sa fonction fondamentale est étonnamment simple à énoncer : prédire le mot suivant le plus probable dans une séquence. Vous lui donnez "Le ciel est", il calcule que "bleu" est très probable, "dégagé" plausible, et "tracteur" très improbable. Il choisit, ajoute le mot, puis recommence en incluant ce nouveau mot, encore et encore. C'est tout. Absolument tout ce que fait un LLM découle de cette mécanique de prédiction répétée.
Comment une chose aussi simple peut-elle en faire autant ?
Voici le vrai mystère, et il est fascinant. Comment prédire le mot suivant peut-il produire du raisonnement, du code fonctionnel, des traductions, des poèmes ? La réponse tient dans l'échelle et dans une découverte que personne n'avait totalement anticipée.
Pour devenir vraiment bon à prédire le mot suivant sur des milliards de textes différents, le modèle est obligé, en quelque sorte, d'apprendre des choses sur le monde. Pour bien compléter "La capitale de la France est", il faut avoir intégré une forme de connaissance géographique. Pour compléter correctement une démonstration mathématique, il faut avoir capté une logique. La prédiction du mot suivant, poussée à une échelle suffisante, force l'apparition de capacités qui ressemblent à de la compréhension. Les chercheurs appellent ça des capacités émergentes : des aptitudes qui n'ont pas été programmées explicitement, mais qui surgissent quand le modèle devient assez grand.
Un LLM ne "comprend" pas au sens humain, et il ne consulte pas une base de données de faits. Il manipule des probabilités sur des mots. C'est pour cette raison qu'il peut produire une réponse fausse avec un aplomb total : ce qu'il génère est le texte le plus plausible, pas nécessairement le plus vrai. C'est aussi la racine du phénomène d'hallucination, que nous avons exploré dans notre article dédié aux hallucinations. Garder cette nuance en tête change complètement la manière dont on fait confiance à ces outils.
Les ingrédients d'un LLM
Trois éléments donnent naissance à un LLM. D'abord, les données d'entraînement : d'immenses quantités de texte issues de livres, de sites web, de code. Ensuite, l'architecture, presque toujours ce qu'on appelle un Transformer, une invention de 2017 qui a permis aux modèles de tenir compte du contexte de manière bien plus fine. Enfin, les paramètres : les réglages internes du modèle, ajustés pendant l'entraînement, qui se comptent aujourd'hui en centaines, voire en milliers de milliards.
C'est ce dernier chiffre qui sert souvent d'indicateur de taille. Quand vous lisez qu'un modèle a "1 500 milliards de paramètres", cela désigne le nombre de ces réglages internes. Plus il y en a, plus le modèle peut en principe capturer de nuances, mais au prix d'un coût de calcul plus élevé. Attention toutefois, un plus grand nombre de paramètres ne garantit pas automatiquement un meilleur modèle : la qualité des données et de l'entraînement compte tout autant.
Ce qu'il faut retenir
Un LLM est donc une machine probabiliste qui, à force de prédire le mot suivant sur une part immense du savoir écrit, a développé des capacités qui ressemblent à de la compréhension et du raisonnement. Ce n'est ni un cerveau, ni une encyclopédie, ni un oracle. C'est un outil statistique d'une puissance stupéfiante, avec des forces réelles et des limites tout aussi réelles.
Comprendre cela, c'est déjà savoir mieux s'en servir : profiter de sa fluidité pour écrire, brainstormer, coder, tout en gardant l'esprit critique face à ce qu'il affirme, parce qu'au fond, il cherche toujours le mot le plus plausible, pas forcément la vérité. Cette double conscience, s'émerveiller de la capacité tout en restant lucide sur le mécanisme, est probablement la compétence la plus utile à cultiver à l'ère des LLM.