Regarder à l'intérieur : ce que l'interprétabilité a montré

Un modèle de langage est une immense collection de nombres, et personne ne l'a programmé ligne à ligne. Comprendre comment il arrive à une réponse est donc un champ de recherche à part entière, l'interprétabilité. Ses résultats récents éclairent directement les erreurs vues dans ce cours.

Des concepts qu'on peut repérer, et même actionner

Les chercheurs ont appris à isoler, à l'intérieur des modèles, des « caractéristiques » qui s'activent pour un concept précis : une ville, une émotion, du code vulnérable, la flatterie. En mai 2024, Anthropic a montré qu'en amplifiant artificiellement la caractéristique associée au Golden Gate Bridge, son modèle ramenait ce pont dans toutes ses réponses, jusqu'à se présenter comme étant le pont. Démonstration frappante : ces concepts sont de vrais leviers du comportement, pas une métaphore.

Une piste sur l'origine des hallucinations

En 2025, les mêmes équipes ont publié des « traçages de circuits » qui suivent le chemin d'une réponse à travers le modèle. Un des mécanismes observés : par défaut, un circuit pousse le modèle à dire qu'il ne sait pas ; quand il reconnaît une entité familière, ce circuit est inhibé et le modèle répond. L'hallucination survient quand ce signal de familiarité se déclenche à tort : le nom lui « dit quelque chose », il ne sait rien de plus, et le frein a sauté quand même.

L'explication donnée n'est pas le calcul réel

Le cours sur les modèles qui raisonnent l'a signalé : le raisonnement affiché n'est pas forcément fidèle. Le traçage en a donné un exemple concret. Pour additionner deux nombres, le modèle combine en interne une estimation approximative et un calcul précis du dernier chiffre ; interrogé sur sa méthode, il décrit l'addition posée avec les retenues. Il ne ment pas : il produit l'explication la plus vraisemblable, comme il produit tout le reste.

Les limites

Ces méthodes n'expliquent encore qu'une petite partie de ce qui se passe, sur des exemples choisis, au prix d'un travail considérable. Elles ne permettent pas aujourd'hui de certifier qu'un modèle est sûr. Mais elles changent la question : on ne se contente plus de tester le comportement de l'extérieur, on commence à vérifier les mécanismes.