Le grenade lancée le 5 mai 2026
Le 5 mai 2026, une petite startup basée à Miami nommée Subquadratic est sortie de sa phase "stealth" (en français : furtive, terme désignant une entreprise qui développe son produit en secret avant un lancement public) avec une affirmation qui a fait l'effet d'une grenade dans une industrie habituée aux progrès incrémentaux. L'entreprise prétend avoir construit le premier modèle de langage commercial entièrement basé sur une architecture sub-quadratique, c'est-à-dire dont les besoins en calcul augmentent linéairement (et non quadratiquement) avec la longueur du contexte.
Pour comprendre l'ampleur de cette affirmation, il faut comprendre le contexte technique. Depuis la publication du célèbre papier "Attention is All You Need" en 2017 par les chercheurs de Google, tous les grands modèles d'IA reposent sur la même architecture : le transformer. GPT-5.5 d'OpenAI, Claude Opus 4.7 d'Anthropic, Gemini 3.1 Pro de Google, Llama de Meta, Mistral en France : tous des transformers. Si SubQ marche vraiment, ce serait la plus grosse rupture architecturale depuis 9 ans.
Cet article décortique ce qui se passe, ce qu'on sait vraiment, et pourquoi la communauté IA est très divisée sur les implications. Dans la continuité de notre comparatif des grands modèles 2026, on explore ici un acteur qui pourrait redéfinir la frontière dans les 18 prochains mois.
Le problème fondamental que SubQ prétend résoudre
L'attention transformer fonctionne avec une complexité dite "quadratique", notée O(n²) en notation mathématique. Concrètement, cela signifie que doubler la longueur d'un texte d'entrée multiplie par quatre les coûts de calcul. Tripler la longueur multiplie par neuf. Cette explosion exponentielle est la raison pour laquelle les modèles "1M tokens de contexte" coûtent très cher pour les longs contextes et dégradent souvent en qualité quand on s'approche de leur limite.
Plusieurs équipes ont essayé de contourner ce problème depuis des années avec différentes approches :
- Mamba et state space models (modèles à espace d'états) : architectures alternatives qui scalent linéairement, mais perdent souvent en précision sur la récupération d'informations distantes.
- Sparse attention (attention parcimonieuse) : ne calcule l'attention que sur certaines paires de tokens jugées importantes. Approximation qui peut rater des connexions cruciales.
- Sliding window attention (attention par fenêtre glissante) : limite l'attention à une fenêtre fixe, mais empêche les connexions à longue distance.
- Hybrides : combinaisons des techniques ci-dessus, qui gardent généralement une partie quadratique.
Aucune n'avait jusqu'ici réussi à maintenir une qualité "frontière" (équivalente aux meilleurs modèles transformers) tout en cassant la barrière quadratique. C'est précisément ce que SubQ revendique avoir résolu.
L'architecture s'appelle SSA (Subquadratic Sparse Attention). Le principe : un mécanisme de routage parcimonieux dépendant du contenu, qui calcule l'attention exacte uniquement sur les tokens vraiment pertinents. Contrairement aux approches d'approximation, SSA ne se contente pas d'estimer l'attention sur les tokens importants ; il l'ignore complètement sur les tokens jugés peu pertinents. Le résultat technique : la complexité passe de O(n²) à quasi-linéaire, tout en préservant la précision sur les connexions importantes.
Les chiffres revendiqués
Subquadratic publie plusieurs chiffres précis pour étayer ses affirmations. Ce sont les chiffres officiels de l'entreprise, donc à prendre avec prudence avant validation indépendante.
| Métrique | Valeur revendiquée |
|---|---|
| Contexte maximal | 12 millions de tokens |
| Réduction du calcul d'attention à 12M tokens | 1 000 fois moins |
| Speedup vs FlashAttention à 1M tokens | 52,2 fois plus rapide |
| Prix par million de tokens (entrée) | 0,50 $ (vs 1,50-15$ chez les concurrents) |
| Score RULER à 128k tokens | 95,0% |
| Score SWE-Bench Verified (coding) | 81,8% |
| Vitesse inférence | 150+ tokens/seconde |
RULER (test de référence sur le contexte long, qui mesure la capacité à effectuer des récupérations d'informations multiples, suivre des variables, agréger des documents) est probablement le benchmark le plus pertinent pour évaluer un modèle long contexte. Un score de 95% à 128 000 tokens est excellent. SWE-Bench Verified (benchmark coding) à 81,8% met SubQ au niveau de Claude Opus 4.7 que nous avions documenté dans notre article sur Claude Opus 4.7.
Les chiffres économiques qui font trembler la concurrence
Les prix annoncés par SubQ sont brutaux. 0,50 dollar par million de tokens en entrée, 1,50 dollar en sortie. Pour comparaison rapide avec les acteurs établis (selon notre analyse dans le comparatif Gemini Flash vs concurrents) :
- Gemini 3.5 Flash : 1,50$ / 9$
- GPT-5.5 : 5$ / 30$
- Claude Opus 4.7 : 15$ / 75$
SubQ est donc 3 fois moins cher que Gemini 3.5 Flash, 10 fois moins cher que GPT-5.5, et 30 fois moins cher que Claude Opus 4.7. Si ces prix tiennent (et si la qualité est confirmée par des benchmarks indépendants), c'est un séisme économique pour l'industrie. Pour des cas d'usage long contexte (analyse de codebases entières, lecture de bibliothèques complètes, traitement de gros documents juridiques ou médicaux), SubQ pourrait devenir le choix par défaut.
Les usages que ça débloque
Si on prend les revendications au sérieux, 12 millions de tokens de contexte exploitable change la nature de ce qu'on peut faire avec un LLM. Quelques exemples concrets de ce que ça permet techniquement :
Charger une codebase entière. Le code source de Linux fait environ 28 millions de lignes. Il faudrait probablement 2-3 instances SubQ pour le couvrir. Mais des projets de taille moyenne (Kubernetes, React, Postgres) tiennent facilement dans 12M tokens. Un agent IA pourrait raisonner sur tout le code en une seule passe, sans avoir besoin de RAG (Retrieval Augmented Generation : technique qui consiste à récupérer des morceaux pertinents d'un corpus pour les fournir au modèle).
Lire un livre complet en contexte. Un roman de 800 pages fait environ 200 000 tokens. Une bibliothèque de 50 livres entre dans 12M tokens. Pour un auteur, un chercheur, un avocat qui doit travailler sur des corpus massifs, c'est révolutionnaire.
Analyser des dossiers médicaux entiers. L'historique complet d'un patient depuis sa naissance peut entrer dans le contexte. Pour les diagnostics complexes, c'est précieux. Comme nous l'avions exploré dans notre article sur la médecine du futur, ce type de capacité est crucial pour la médecine personnalisée.
Maintenir des conversations vraiment longues. Un assistant IA pourrait se rappeler des centaines d'heures de dialogue avec son utilisateur sans perdre le fil. C'est ce qui manque cruellement aux assistants actuels.
Réduire la dépendance au RAG. RAG est devenu le standard pour donner aux modèles accès à des connaissances externes. Mais c'est complexe à mettre en place, fragile, et coûteux en infrastructure. Avec 12M tokens, beaucoup d'applications RAG deviennent obsolètes : on charge directement les documents pertinents dans le contexte. Comme nous l'avions exploré dans notre article sur le RAG, cette technologie pourrait être largement remplacée si SubQ tient ses promesses.
Les critiques qui montent dans la communauté
Malgré l'enthousiasme, plusieurs critiques sérieuses ont émergé dans les heures qui ont suivi l'annonce. Listons-les honnêtement.
Critique 1 : peu de benchmarks publiés. SubQ a publié des résultats sur 3 benchmarks seulement : RULER, SWE-Bench Verified, et MRCR v2 (un autre test de contexte long). Tous sont focalisés sur ce que le modèle est censé bien faire : récupération long contexte et coding. Aucun résultat publié sur les benchmarks classiques de raisonnement général (MMLU, ARC-AGI), mathématiques (AIME), multilinguisme, ou sécurité. Le model card complet est listé comme "à venir" sur le site de l'entreprise.
Critique 2 : la sélection des comparaisons. Les benchmarks choisis comparent SubQ à des modèles transformers sur leurs faiblesses (le long contexte), pas sur leurs forces. C'est l'équivalent de comparer une formule 1 et un tracteur sur la traction en boue : on connaît le résultat à l'avance.
Critique 3 : les promesses non transformer se sont déjà cassé la figure. Mamba (architecture concurrente, présentée en 2023) avait aussi été annoncée comme "la fin du transformer". Les premiers résultats étaient impressionnants, mais les évaluations étendues ont révélé des limites significatives, et Mamba reste minoritaire en 2026. Plusieurs chercheurs notent que SubQ pourrait suivre la même trajectoire.
Critique 4 : l'équipe est petite. Subquadratic compte une vingtaine de personnes, contre des milliers chez OpenAI, Anthropic, Google. Si l'idée est aussi bonne que revendiqué, pourquoi aucun grand laboratoire ne l'a-t-il développée ? L'équipe est composée de PhDs de Meta, Google, Oxford, BYU, ByteDance, Adobe, Cambridge, donc le talent est là. Mais la capacité d'exécution à long terme reste à prouver.
Critique 5 : 29 millions de dollars, c'est peu. Pour entraîner et opérer un modèle frontière, il faut typiquement plusieurs centaines de millions de dollars en compute. SubQ a levé 29M en seed, ce qui est élevé pour une startup en stealth mais faible pour un acteur frontière. La question : combien de temps tiendra-t-elle financièrement, et qui pourrait l'acheter ?
La vraie validation viendra des évaluations indépendantes. Plusieurs équipes universitaires (Stanford, MIT, Carnegie Mellon, Oxford) ont déjà demandé un accès. Les premiers résultats sont attendus en juin-juillet 2026. Artificial Analysis, le cabinet indépendant qui benchmarke tous les modèles publics, prévoit son évaluation pour fin mai. Si SubQ confirme ses chiffres, la révolution est réelle. Si les benchmarks publics dégradent significativement les résultats officiels, ce sera le énième cas d'entreprise IA qui a survendu ses capacités, comme nous l'avons documenté dans notre article sur les démos IA truquées.
Pourquoi cette histoire compte au-delà de SubQ
Que SubQ tienne ou pas ses promesses, l'histoire elle-même révèle plusieurs dynamiques importantes du marché IA en 2026.
Premièrement, la diversification architecturale s'accélère. Pendant 9 ans, tous les modèles frontières étaient des transformers. Aujourd'hui, on voit SubQ avec son SSA, Mamba avec ses state space models, plusieurs hybrides, et probablement d'autres en développement. Cette diversité est saine : elle reduit le risque qu'une faille architecturale du transformer bloque tout le secteur.
Deuxièmement, les startups peuvent encore défier les géants. En 2024-2025, beaucoup d'observateurs pensaient que l'IA était devenue un domaine où seuls OpenAI, Anthropic, Google et Meta pouvaient innover, par manque de capital. SubQ démontre que des équipes petites mais brillantes peuvent encore créer des ruptures fondamentales. C'est plutôt rassurant pour la santé de l'écosystème, dans la continuité de notre analyse dans notre article sur les startups qui surperforment.
Troisièmement, les économies unitaires peuvent encore drastiquement baisser. Si SubQ permet 30 fois moins cher qu'Opus 4.7 pour des tâches similaires, ça force toute l'industrie à revoir ses prix. Comme nous l'avions analysé dans notre article sur la bulle IA, cette commodification accélère et pourrait peser sur les marges des leaders actuels.
Quatrièmement, l'infrastructure de l'IA est en transformation. Si les modèles sub-quadratiques s'imposent, les besoins en GPU évoluent. Les puces Nvidia H100/H200 sont optimisées pour les calculs d'attention transformer. Une architecture différente pourrait redistribuer les cartes du hardware. AMD, qui a récemment marqué des points avec Zyphra ZAYA1 entraîné sur ses puces, pourrait en bénéficier.
Que faut-il faire en pratique ?
Pour différents profils, voici les implications concrètes immédiates.
Pour un développeur indépendant. Si vous avez un cas d'usage long contexte (analyse de code, traitement de documents longs), testez SubQ via leur API early access disponible sur subq.ai. Pas besoin d'attendre que la communauté valide : essayez-le sur vos propres cas. Le risque est faible (l'API est tarifée à l'usage), le gain potentiel est élevé.
Pour une entreprise. N'abandonnez pas votre infrastructure RAG du jour au lendemain. Comme nous l'avions exploré dans notre article sur le RAG, cette technologie reste pertinente. Mais commencez à évaluer SubQ en parallèle pour vos cas long contexte. Si la qualité tient, vous pourriez économiser massivement sur l'infrastructure dans les 12 prochains mois.
Pour un investisseur. Surveillez les évaluations indépendantes prévues en juin-juillet. Si elles confirment les revendications, Subquadratic deviendra probablement une cible d'acquisition pour un des géants (Meta, Google, ou Anthropic) dans les 18 prochains mois. Sinon, le marché reviendra rapidement à ses valeurs habituelles.
Pour un chercheur en IA. Le papier technique de Subquadratic est en cours de publication. Quand il sortira, il sera probablement l'une des lectures les plus importantes de 2026. Au-delà de SubQ lui-même, l'approche SSA pourrait inspirer d'autres équipes à explorer des architectures alternatives.
L'horizon des 18 prochains mois
Si on se projette à 18 mois, trois scénarios sont possibles.
Scénario optimiste : SubQ tient ses promesses. Les benchmarks indépendants confirment, plusieurs entreprises adoptent l'architecture, OpenAI/Anthropic/Google développent leurs propres variantes sub-quadratiques. L'industrie passe progressivement à des architectures hybrides ou non-transformer. Probabilité : 30-40%.
Scénario médian : SubQ marche mais en niche. Le modèle tient ses promesses sur le long contexte mais reste plus faible sur le raisonnement général. Il devient un acteur spécialisé sur les cas long contexte (coding, documents, recherche), pendant que les transformers continuent de dominer le reste. Probabilité : 40-50%.
Scénario pessimiste : SubQ ne tient pas le test indépendant. Les évaluations externes révèlent des dégradations significatives, l'entreprise perd en crédibilité, l'idée d'architecture sub-quadratique reste un sujet de recherche pour quelques années de plus. Probabilité : 15-25%.
Aucun de ces scénarios n'est négligeable. C'est probablement la principale raison pour laquelle la communauté IA suit SubQ avec autant d'attention.
Pour aller plus loin, vous pouvez consulter notre comparatif des modèles frontière, qui place SubQ dans le contexte concurrentiel actuel, et notre article sur le fonctionnement fondamental des LLM, qui explique pourquoi l'architecture compte autant. La prochaine décennie de l'IA pourrait se jouer sur ces choix techniques apparemment ésotériques. Et SubQ pourrait en être le premier coup d'envoi.