TechniqueGlossaire de l'IA
Entraînement intermédiaire (mid-training)
Phase qui prolonge le pré-entraînement, mais sur un corpus choisi : du code, des textes juridiques, une langue peu représentée. Le modèle ne change pas de nature, il déplace son centre de gravité vers un domaine. Bien moins coûteuse que le pré-entraînement, c'est souvent elle qui permet de spécialiser un modèle ouvert.
Autrement dit
Après le tronc commun du lycée, une année de prépa centrée sur une seule matière : même élève, mais un tout autre niveau dans ce domaine.
Nos articles qui en parlent
- Pourquoi votre IA change de version chaque semaine
Les modèles d'IA changent désormais de version presque chaque semaine. Pourquoi ce rythme, ce que ça change pour vous, et comment s'y retrouver.
- Entraînement intermédiaire, ajustement final : ce qui se passe après le pré-entraînement
Entre un modèle de base et un modèle utilisable, il y a plusieurs phases d'entraînement distinctes. On explique ce que fait chacune et pourquoi c'est là que se situe désormais la valeur.
- Une startup vaut 1,4 milliard et n'entraîne aucun modèle depuis zéro
Une jeune entreprise chinoise atteint 1,42 milliard de dollars de valorisation en sept mois en spécialisant des modèles ouverts plutôt qu'en les entraînant. On analyse ce modèle et ce qu'il révèle.
Voir aussi
Dans la même famille : Technique
Retrouver ce terme dans le glossaire complet →Tous les termes