TechniqueGlossaire de l'IA
Inférence
Le moment où le modèle déjà entraîné répond à votre demande. C'est ce que vous payez quand vous utilisez une API d'IA.
Autrement dit
Le concert, après les années de répétition.
Nos articles qui en parlent
- Anthropic annonce à ses investisseurs une rentabilité au deuxième trimestre, avec plus de 80 % de marge brute
Selon le Financial Times, Anthropic a indiqué à ses investisseurs viser la rentabilité au deuxième trimestre avec plus de 80 % de marge brute pour 11,5 milliards de revenus. On explique pourquoi la marge est le chiffre décisif.
- Qualcomm et Amazon s'associent sur des puces d'inférence
Qualcomm et AWS ont annoncé une collaboration pour concevoir ensemble des puces dédiées à l'inférence. On analyse ce que ce rapprochement révèle sur la recomposition du marché du silicium.
- OpenAI publie les premiers résultats de sa puce maison
OpenAI a publié les premiers résultats de son accélérateur d'inférence maison, annoncé comme performant en vitesse et en efficacité. On analyse ce que ce mouvement révèle sur les rapports de force dans l'infrastructure.
- Nvidia met en production une puce qui ne fait qu'une chose : répondre vite
Nvidia a annoncé l'entrée en production de son accélérateur dédié à l'inférence, issu de son acquisition de Groq. On explique pourquoi une puce spécialisée dans la réponse plutôt que l'entraînement est un signal important.
- DeepSeek augmente ses prix de 93 % : la guerre des prix a-t-elle atteint son fond ?
DeepSeek a augmenté le tarif de son modèle Flash de 93 % le 14 août, alors que d'autres acteurs baissent encore. On analyse ce que ce retournement révèle sur l'économie réelle de l'inférence.
- Entraînement et inférence : les deux coûts de l'IA qu'on confond tout le temps
On parle beaucoup du coût d'entraînement des modèles, rarement de celui de leur utilisation quotidienne. On explique la différence entre entraînement et inférence, pourquoi la seconde domine désormais l'économie de l'IA, et ce que ça implique.
Pour aller plus loin à l'Académie
Voir aussi
Dans la même famille : Technique
Retrouver ce terme dans le glossaire complet →Tous les termes