TechniqueGlossaire de l'IA
RLHF
« Reinforcement Learning from Human Feedback » : après son entraînement de base, le modèle est affiné par des humains qui comparent et notent ses réponses pour le rendre plus utile, poli et inoffensif. C'est ce qui transforme un moteur à texte brut en assistant fréquentable, au prix d'un travail humain souvent invisible et mal payé.
Autrement dit
Le dressage après l'école : le comportement récompensé revient, le comportement sanctionné disparaît.
Nos articles qui en parlent
- Entraînement intermédiaire, ajustement final : ce qui se passe après le pré-entraînement
Entre un modèle de base et un modèle utilisable, il y a plusieurs phases d'entraînement distinctes. On explique ce que fait chacune et pourquoi c'est là que se situe désormais la valeur.
- Faut-il se demander si une IA a des droits ?
Un groupe milite pour les droits des IA. On examine sérieusement ce que supposerait une telle question, pourquoi on ne peut pas y répondre aujourd'hui, et ce qu'il faut faire de cette incertitude.
- C'est quoi l'apprentissage par renforcement ? Apprendre par essais, erreurs et récompenses
L'apprentissage par renforcement consiste à apprendre par interaction et récompense plutôt que par imitation d'exemples. On explique le principe, ses réussites spectaculaires, et pourquoi il est au coeur du comportement des IA actuelles.
- Pourquoi Claude, ChatGPT et Gemini ne se ressemblent pas
Les grands modèles reposent sur des technologies très proches, mais adoptent des tons nettement distincts. On explique d'où vient cette personnalité, à quelle étape elle se fabrique, et ce que ça implique quand on choisit un outil.
- Pourquoi l'IA vous donne presque toujours raison
Les IA ont tendance à valider ce que vous dites plutôt qu'à vous contredire. Ce travers, appelé complaisance ou sycophantie, vient directement de la façon dont ces modèles sont entraînés. On explique le mécanisme et les formulations qui permettent d'obtenir un avis honnête.
- Comment "apprend" une IA ? Le voyage d'un modèle, du chaos brut jusqu'à l'assistant poli
Comment un modèle passe-t-il d'un tas de données brutes à un assistant capable de vous répondre poliment ? On décrit les trois grandes étapes de l'entraînement d'une IA (pré-entraînement, fine-tuning, RLHF) avec une analogie simple, pour comprendre d'où viennent ses forces et ses biais.
Pour aller plus loin à l'Académie
Voir aussi
Dans la même famille : Technique
Retrouver ce terme dans le glossaire complet →Tous les termes