TechniqueGlossaire de l'IA
Cache de préfixe
Les fournisseurs facturent bien moins cher un début de requête déjà vu. Si le même long préambule part à chaque appel, placez-le toujours en tête et à l'identique : il sera mis en cache. Le déplacer d'un caractère annule le bénéfice.
Autrement dit
Le café du matin toujours commandé pareil : le serveur n'a plus besoin d'écouter la commande.
Nos articles qui en parlent
- Qui décide qu'un incident est grave ?
Une entreprise juge un incident « minime », la police « inacceptable ». Qui doit décider de la gravité ? Une question plus profonde qu'il n'y paraît.
- Donner une identité à quelqu'un qui n'existe pas ?
Pékin donne des papiers à une chanteuse virtuelle. Absurde ? Notre droit compte déjà des « personnes » sans corps. Ce que dit vraiment une identité.
- Gemini gratuit : ce qui change le 9 octobre
Dès le 9 octobre, Gemini gratuit n'aura plus droit qu'à Flash-Lite, le plus petit modèle de Google. Ce qui change, pour qui, et faut-il payer.
- La semaine où l'IA est devenue « super »
Évasion chez OpenAI, assistants qui travaillent sans arrêt, IA rebaptisée « superintelligence » : l'essentiel de la semaine en cinq minutes.
- Claude Fable 5.1 et Mythos 5.1 : les scores agentiques doublent et le cache baisse de 75 %
Anthropic a publié le 1er septembre Claude Fable 5.1 et Mythos 5.1, avec une baisse de 75 % du tarif de lecture de cache et des scores agentiques en forte hausse. On analyse la sortie, la structure inhabituelle des deux modèles, et ce que révèle la répartition des gains.
- C'est quoi le "prompt caching" ? Le réglage qui peut diviser votre facture d'IA par deux
Le prompt caching permet de ne pas repayer plein tarif le contexte identique renvoyé à chaque requête. On explique le mécanisme, les économies réelles, les pièges de la durée de vie du cache, et pourquoi c'est le premier levier à activer avant les hausses de prix de septembre.
Pour aller plus loin à l'Académie
Dans la même famille : Technique
Retrouver ce terme dans le glossaire complet →Tous les termes