TechniqueGlossaire de l'IA
Calcul à l'inférence
Dépenser du calcul au moment de répondre plutôt qu'au moment d'entraîner. Le même modèle, autorisé à produire dix mille jetons de raisonnement avant de conclure, résout des problèmes qu'il rate en répondant directement. Rien n'a été réentraîné.
Autrement dit
La différence entre répondre du tac au tac et prendre un brouillon. Le brouillon se facture.
Pour aller plus loin à l'Académie
Voir aussi
Dans la même famille : Technique
Retrouver ce terme dans le glossaire complet →Tous les termes