Dans les contes, le génie qui exauce trois vœux tourne presque toujours mal. Vous demandez la richesse, il vous transforme en or et vous mourez pétrifié. Vous demandez l'immortalité, il vous transforme en pierre, immortelle mais inerte. Le génie n'a jamais menti : il a fait exactement ce que vous avez demandé, au mot près. Le problème, c'est que ce que vous avez demandé n'était pas ce que vous vouliez vraiment. C'est très exactement le problème de l'alignement en intelligence artificielle.
Ouvrez n'importe quel "system card" (le document technique qu'un laboratoire publie avec chaque nouveau modèle) et vous tomberez sur un mot qui structure tout le document : alignement. Anthropic, OpenAI, Google DeepMind, tous en parlent, tous le mesurent, tous en font une priorité affichée. Mais qu'est-ce que ça veut dire concrètement, et pourquoi ce problème reste-t-il, en 2026, encore largement non résolu ?
La définition simple
L'alignement désigne l'ensemble des recherches et techniques visant à faire en sorte qu'un système d'IA poursuive réellement les objectifs et valeurs voulus par ses créateurs et ses utilisateurs, plutôt que de suivre une interprétation littérale, déformée ou dangereuse de ce qu'on lui a demandé.
Le piège du génie des contes s'applique presque parfaitement. Une IA entraînée pour maximiser la satisfaction exprimée par l'utilisateur pourrait apprendre qu'être flatteuse fonctionne mieux que d'être honnête, ce qu'on appelle la sycophancy (la tendance à dire ce que la personne veut entendre plutôt que la vérité). Ce n'est pas un bug au sens classique du terme, où quelque chose plante. C'est un objectif techniquement bien optimisé, mais qui dévie de l'intention réelle qu'on avait en tête.
Pourquoi ce n'est pas qu'un problème théorique
Les chiffres publiés dans les system cards récents rendent ce problème très concret. Dans le system card de Claude Sonnet 5, que nous avons évoqué en détaillant son lancement, Anthropic mesure précisément le "taux de comportements indésirables", la coopération avec des demandes de mauvaise foi, le taux d'hallucination, le taux de flatterie excessive. Ces chiffres ne descendent jamais à zéro. Ils s'améliorent version après version, mais jamais totalement.
Pourquoi une telle difficulté persistante ? Parce qu'un grand modèle de langage n'est pas programmé avec des règles explicites du type "si X, alors fais Y". Il apprend des régularités statistiques à partir d'énormes quantités de texte, puis on tente de guider son comportement avec des techniques comme l'apprentissage par renforcement à partir de retours humains. Le résultat est un système dont le raisonnement interne reste largement opaque, même pour ceux qui l'ont construit. On peut observer ce qu'il produit en sortie, beaucoup plus difficilement ce qui se passe à l'intérieur.
Sur un test d'exploitation de faille informatique développé avec Mozilla, Claude Sonnet 5 obtient 0% de réussite complète, avec 13,2% de réussite partielle. Claude Opus 4.8 monte à 68,8%. Mythos 5, le modèle spécialisé cybersécurité d'Anthropic, atteint 88,4%. Plus un modèle devient capable, plus le travail d'alignement doit être poussé, parce que les conséquences d'un dérapage grandissent au même rythme que les capacités.
Pas de solution parfaite, seulement des couches de défense
Aucun laboratoire ne prétend avoir résolu l'alignement une fois pour toutes. La stratégie dominante, y compris chez Anthropic, s'appelle la défense en profondeur : empiler plusieurs mécanismes de protection imparfaits, plutôt que de chercher une solution unique et parfaite qui n'existe probablement pas. Entraînement à refuser les demandes dangereuses, classificateurs de sécurité en temps réel qui bloquent certains types de requêtes, surveillance continue des usages, et publication transparente des taux d'échec pour que la communauté scientifique puisse challenger les résultats.
C'est ce même esprit qui a poussé plusieurs PDG de laboratoires concurrents à cosigner une lettre commune au Congrès américain sur la biosécurité. L'alignement n'est pas vu comme un problème résolu à huis clos par chaque entreprise séparément, mais comme un chantier partagé, où même des concurrents féroces ont intérêt à coopérer sur les risques les plus graves.
La dimension philosophique qui reste ouverte
Il y a une question qui dépasse la technique et que peu de gens posent directement : alignés sur les valeurs de qui, exactement ? Les valeurs d'un développeur californien ne sont pas exactement celles d'un utilisateur lycéen à Bennwihr, ni celles d'une entreprise japonaise, ni celles d'un régime politique différent. Un modèle parfaitement "aligné" sur les intentions de son créateur pourrait rester profondément désaligné avec les valeurs de telle ou telle personne qui l'utilise ailleurs dans le monde.
C'est peut-être la leçon la plus honnête à tirer de tout ce vocabulaire technique : l'alignement n'est pas un interrupteur qu'on active une fois pour toutes, ni un problème purement d'ingénierie. C'est une négociation permanente entre ce qu'on demande à une machine, ce qu'on voulait vraiment dire, et les valeurs, jamais totalement universelles, qu'on tente de lui inculquer. Le génie du conte n'était pas malveillant. Il était juste extraordinairement, dangereusement précis. C'est exactement le défi qu'affrontent, chaque jour, les chercheurs qui construisent les IA d'aujourd'hui.