Un modèle de langage classique écrit comme quelqu'un qui tape : un mot, puis le suivant, chacun dépendant de ce qui précède. Un modèle de diffusion écrit comme un sculpteur : il part d'un brouillon informe de la longueur voulue, et le raffine progressivement jusqu'à ce qu'un texte apparaisse. La seconde approche produit tout en parallèle, et c'est ce qui change sa vitesse.
Nous avons expliqué les modèles de diffusion pour l'image. Leur application au texte est plus récente et commence à donner des résultats intéressants.
Pourquoi les modèles classiques sont lents
Un modèle de langage habituel est autorégressif : il produit un token, l'ajoute à ce qu'il a déjà écrit, et recommence pour le suivant.
Cette dépendance est ce qui fait sa qualité — chaque mot tient compte de tous les précédents — et sa limite. Le processus est séquentiel : impossible de calculer le dixième token avant le neuvième.
C'est la raison pour laquelle servir un modèle demande un matériel particulier, comme nous l'expliquions à propos des puces dédiées à l'inférence. Le facteur limitant n'est pas la puissance de calcul mais la vitesse à laquelle on peut enchaîner des étapes qui s'attendent les unes les autres.
Comment la diffusion procède
L'approche renverse le problème. Le modèle part d'une séquence de la longueur voulue, remplie de bruit, et la raffine en plusieurs passes.
À chaque passe, il regarde l'ensemble et améliore tous les emplacements simultanément. Après une dizaine ou une vingtaine de passes, un texte cohérent a émergé.
Le gain est structurel : chaque passe traite tout en parallèle, ce que le matériel fait très bien. Là où un modèle classique enchaîne mille étapes pour mille tokens, un modèle de diffusion en fait vingt pour la même longueur.
C'est ce qui explique les débits annoncés, de l'ordre du millier de tokens par seconde sur du matériel courant, très au-dessus de ce qu'atteignent les modèles autorégressifs comparables.
La vitesse n'est pas un confort. Elle décide de ce qui est possible. Nous avons décrit dans notre article sur la voix que passer sous les 300 millisecondes transforme un échange en conversation. Pour un agent qui enchaîne des dizaines d'étapes, chaque étape plus rapide se cumule. Et pour de la complétion de code, où l'on attend une suggestion pendant qu'on tape, la latence est le critère principal — bien avant la qualité absolue.
Les limites, qui expliquent pourquoi ce n'est pas généralisé
La longueur est fixée à l'avance. Le modèle travaille sur une séquence de taille donnée. Produire une réponse dont on ne connaît pas la longueur est moins naturel qu'avec un modèle qui s'arrête quand il a fini.
La cohérence sur les longs textes. L'approche autorégressive garantit qu'un mot tient compte de tout ce qui précède. En diffusion, cette cohérence doit être obtenue par les passes successives, et elle se dégrade plus vite sur des textes longs.
Le raisonnement pas à pas. C'est la limite la plus importante. Ce que nous décrivions dans notre article sur les modèles de raisonnement repose précisément sur l'enchaînement : le modèle écrit une étape, la lit, en déduit la suivante. Un mécanisme qui produit tout simultanément s'accorde mal avec cette logique.
Où ça se situe aujourd'hui
Les modèles de diffusion textuelle récents revendiquent un niveau comparable aux modèles rapides des grandes familles — pas aux modèles de pointe.
C'est cohérent avec leur positionnement. Ils ne visent pas à remplacer un modèle de raisonnement sur un problème difficile, mais à occuper le segment où la latence prime : complétion, transformation de texte, classification en volume, assistance en temps réel.
C'est exactement la logique de routage que nous recommandons dans notre guide des tailles de modèles : la question n'est pas quel est le meilleur, mais lequel suffit pour cette tâche-là.
Ce qu'il faut retenir
Cette approche est intéressante moins pour ce qu'elle est que pour ce qu'elle signale : après des années où toute l'industrie construisait la même architecture, des voies alternatives réapparaissent.
C'est cohérent avec ce que nous décrivions dans notre article sur les lois d'échelle : quand on ne peut plus gagner en faisant plus gros, on cherche ailleurs. Le mélange d'experts, le raisonnement à l'inférence, la distillation et maintenant la diffusion textuelle relèvent tous de la même période — celle où l'ingéniosité remplace la force.