TechniqueGlossaire de l'IA
Modèle dense
Un modèle qui mobilise la totalité de ses paramètres pour chaque mot qu'il produit, par opposition au mélange d'experts (MoE), qui n'en active qu'une fraction. Plus simple à entraîner et à faire tourner, il est courant chez les petits modèles ; mais à grande taille, il devient coûteux, car chaque réponse sollicite l'ensemble du réseau.
Autrement dit
Une réunion où toute l'équipe est convoquée pour chaque question, plutôt que de n'appeler que les spécialistes concernés.
Nos articles qui en parlent
- C'est quoi un exaflop ? Mesurer la puissance de calcul, et pourquoi les comparaisons trompent
Les annonces de puissance de calcul se multiplient en exaflops. On explique cette unité, pourquoi un même matériel peut afficher des chiffres très différents, et comment lire ces annonces.
- Quelle taille de modèle pour quel usage ?
La plupart des tâches n'exigent pas le modèle le plus puissant. On explique quelle taille convient à quel usage, et pourquoi choisir trop gros coûte cher sans rien apporter.
- OpenAI publie les premiers résultats de sa puce maison
OpenAI a publié les premiers résultats de son accélérateur d'inférence maison, annoncé comme performant en vitesse et en efficacité. On analyse ce que ce mouvement révèle sur les rapports de force dans l'infrastructure.
- Meta parie sur le moins cher plutôt que sur le meilleur
Meta enchaîne les sorties de modèles orientés code en misant sur le tarif plutôt que sur la performance de pointe. On analyse ce positionnement et ce qu'il révèle des usages réels.
- Modèle dense ou mélange d'experts : deux philosophies, deux usages
Un modèle dense utilise tous ses paramètres à chaque requête, un mélange d'experts n'en active qu'une fraction. On explique pourquoi ce choix d'architecture détermine les usages possibles, notamment en local.
- Alibaba sort Qwen 3.8-Max, 2 400 milliards de paramètres, et promet d'en publier les poids
Alibaba a lancé le 3 août 2026 Qwen 3.8-Max, un modèle de 2 400 milliards de paramètres orienté code et travail collaboratif, avec une publication des poids annoncée pour la semaine suivante. On analyse ce que cette sortie signifie dans la course à l'ouverture.
Voir aussi
Dans la même famille : Technique
Retrouver ce terme dans le glossaire complet →Tous les termes