IntermédiaireLeçon 1 sur 59 min de lecture
Ce que coûte un modèle, et comment on arbitre
Un cours de l'Académie : Utilisateur avancé : maîtriser les outils IA
Aller au quiz ↓Le niveau Débutant donne les critères de choix. Ici on regarde ce qu'ils coûtent réellement, parce que dès qu'on dépasse l'usage occasionnel, c'est le prix qui tranche.
On paie au token, dans les deux sens
Un service par abonnement vous cache la facturation réelle. Dès que vous passez par une interface de programmation, ou que vous automatisez quoi que ce soit, vous payez à l'unité : ce que vous envoyez, et ce qui revient.
La sortie coûte typiquement trois à cinq fois plus cher que l'entrée. Conséquence directe et contre-intuitive : demander une réponse courte n'économise pas seulement du temps de lecture, cela divise la facture. « Réponds en trois phrases » est une consigne budgétaire autant qu'éditoriale.
Le contexte se repaie à chaque tour
C'est le piège le plus coûteux, et le moins visible. Dans une conversation, l'historique est renvoyé en entier à chaque message. Au vingtième échange, vous payez vingt fois le début.
D'où une règle qui n'a rien d'esthétique : une conversation par sujet, et on repart proprement. Ce n'est pas du rangement, c'est de la dépense.
La mise en cache
La plupart des fournisseurs facturent bien moins cher un début de requête déjà vu. Si vous envoyez le même long préambule à chaque fois, placez-le toujours au même endroit et en tête : il sera mis en cache. Le déplacer d'un caractère annule le bénéfice.
Ce que valent les classements
Les bancs d'essai mesurent des tâches précises, souvent académiques, et les écarts en tête se jouent à des points que personne ne perçoit à l'usage. Deux réserves sérieuses : les jeux de test finissent par fuiter dans les données d'entraînement, ce qui gonfle les scores, et un modèle peut être optimisé pour le test.
Le seul classement qui vaut pour vous est celui que vous faites : prenez dix cas réels de votre travail, passez-les à deux modèles, comparez. Une demi-journée, et le résultat est vrai pour vous.
La règle d'arbitrage
Le modèle le plus capable pour ce qui est rare et à enjeu. Le plus économique pour ce qui tourne en volume. Mélanger les deux dans une même chaîne est presque toujours le bon réglage, et presque jamais celui qu'on adopte spontanément.
Les notions clés
Validez la leçon
Un quiz de 4 questions : 3 bonnes réponses suffisent, et un exercice pour pratiquer. Il s'ouvre dans l'Académie, sur cette même leçon.
Faire le quiz et valider la leçon Gratuit. Avec un compte, votre progression est enregistrée et mène à l'attestation du cours.