Un même matériel peut annoncer 1 exaflop ou 16 exaflops selon la manière dont on compte, sans qu'aucun des deux chiffres ne soit faux. C'est pourquoi comparer les annonces de puissance entre pays ou entre entreprises est presque toujours trompeur, et pourquoi il faut regarder ce qui est écrit en petit.
Nous rapportions ce matin un plan visant 9 800 exaflops. Voici ce que ce chiffre signifie.
L'unité de base
Un flop est une opération sur des nombres à virgule, effectuée en une seconde. C'est l'unité de travail élémentaire d'un processeur pour du calcul scientifique ou de l'IA.
Les préfixes s'enchaînent par multiples de mille : téraflop pour mille milliards, pétaflop pour un million de milliards, exaflop pour un milliard de milliards d'opérations par seconde.
L'ordre de grandeur est difficile à se représenter. Un ordinateur portable performant atteint quelques téraflops. Un exaflop, c'est environ un million de fois plus.
Le piège : la précision
Voici ce qui invalide la plupart des comparaisons.
Un nombre peut être représenté avec plus ou moins de précision : sur 64 bits, 32, 16, 8, voire moins. Plus la précision est faible, plus le processeur effectue d'opérations par seconde, parce que chaque opération est plus simple.
Le rapport n'est pas anecdotique. Entre le calcul en haute précision, utilisé pour les simulations scientifiques, et le calcul en très basse précision utilisé pour servir des modèles d'IA, un même matériel peut afficher un écart d'un facteur dix ou davantage.
C'est exactement ce que nous expliquions à propos de la quantization : réduire la précision fait perdre un peu de qualité et gagner énormément de vitesse. C'est acceptable pour un modèle de langage, et pas pour une simulation climatique.
Quand une annonce parle de capacité destinée à l'IA, elle compte généralement en précision réduite, celle qui donne les chiffres les plus élevés. Quand un classement de supercalculateurs scientifiques publie ses résultats, il compte en haute précision. Les deux sont légitimes et ils ne mesurent pas la même chose. Comparer un objectif national exprimé en calcul intelligent à la performance d'un supercalculateur scientifique revient à comparer une consommation en litres aux cent à une autonomie en kilomètres.
Les trois autres réserves
La puissance théorique n'est pas la puissance obtenue. Un chiffre annoncé correspond souvent au maximum théorique. En conditions réelles, on obtient couramment la moitié ou moins, selon la tâche et l'efficacité du logiciel.
La mémoire compte souvent plus. Nous l'expliquions à propos des architectures denses et à experts : pour servir un modèle, la contrainte est fréquemment la quantité de mémoire disponible et la vitesse à laquelle on y accède, pas la puissance brute.
Un total national n'est pas une capacité utilisable. Additionner la puissance de milliers de machines réparties dans un pays donne un chiffre impressionnant. Cela ne signifie pas qu'on peut faire travailler l'ensemble sur un même problème : cela suppose des liaisons à très haut débit entre elles, ce qui est une autre affaire.
Comment lire une annonce
Trois questions suffisent.
À quelle précision ? Si ce n'est pas indiqué, supposez la plus favorable à l'annonceur.
Théorique ou mesuré ? Les classements indépendants mesurent en exécutant un programme de référence. Les annonces additionnent des fiches techniques.
Réparti ou groupé ? Un total national et une machine unique ne permettent pas les mêmes usages.
Ce qu'il faut retenir
Ces chiffres ont une utilité réelle : ils indiquent des ordres de grandeur et des trajectoires. Une capacité qui progresse de 177 % en un an dit quelque chose, quelle que soit l'unité retenue.
Ce qu'ils ne permettent pas, c'est le classement. Quand vous lisez que tel pays dépasse tel autre en puissance de calcul, il y a de fortes chances que les deux chiffres viennent de sources qui ne mesurent pas la même chose. C'est le même problème que celui que nous décrivions pour les benchmarks de modèles : un nombre sans son protocole est un nombre sans signification.