Un laboratoire saoudien a publié un modèle d'environ 428 milliards de paramètres destiné à l'arabe, construit à partir de poids ouverts d'origine chinoise. L'entraînement n'est pas parti de zéro : une base existante a été spécialisée. Trois fils que nous suivons séparément se rejoignent ici : les langues mal servies, la diffusion des poids ouverts, et la géopolitique du calcul.
Nous écrivions mercredi à propos des langues que les grands modèles ignorent que des acteurs régionaux s'emparaient du sujet en partant de bases ouvertes. Voici un cas d'école, trois jours plus tard.
Le mécanisme, et pourquoi il change tout
Entraîner un modèle de plusieurs centaines de milliards de paramètres depuis zéro coûte des centaines de millions de dollars et exige des compétences que très peu d'équipes possèdent. C'est ce qui réservait la production de modèles de pointe à une poignée d'acteurs, comme nous l'expliquions dans notre article sur les modèles de fondation.
Partir d'une base ouverte et la spécialiser coûte bien moins. On conserve les capacités générales acquises par le laboratoire d'origine, et on ajoute ce qu'il n'avait pas : un corpus dans une langue précise, des références culturelles, des usages locaux.
C'est la logique que nous décrivions pour le modèle juridique de Thomson Reuters : la fondation est publique, la spécialisation est propriétaire. Appliquée à une langue plutôt qu'à un métier, elle produit le même résultat — un acteur qui n'aurait jamais pu construire un modèle de pointe en obtient un.
Pourquoi l'arabe
L'arabe est parlé par plusieurs centaines de millions de personnes, dans une vingtaine de pays, avec des variantes régionales considérables. Il est structurellement mal servi par les modèles occidentaux, pour les raisons que nous avons expliquées : corpus déséquilibré, tokenizer optimisé pour l'anglais, absence de contexte culturel.
Et le Golfe dispose de ce qui manque à beaucoup d'autres régions : des capitaux considérables et une volonté politique affirmée de disposer de capacités nationales. C'est un cas où le besoin, les moyens et l'intention coïncident.
Regardez la chaîne : un modèle conçu en Chine, publié sous licence permissive, repris en Arabie saoudite, spécialisé pour une langue que ni les laboratoires américains ni les laboratoires chinois ne servent bien. Aucun acteur occidental n'intervient. C'est exactement l'effet que nous anticipions dans notre article sur les pays sommés de choisir leur camp : dans un monde de blocs, les poids ouverts sont les seuls objets qui traversent les frontières sans autorisation. Et la stratégie chinoise de publication massive produit ici son effet le plus concret — de l'influence là où la Chine n'est pas.
Les réserves
Aucune évaluation indépendante. Un modèle de cette taille sur une langue mal couverte par les tests standards est particulièrement difficile à mesurer. Les performances annoncées sont celles du laboratoire.
La dépendance se déplace, elle ne disparaît pas. Un modèle construit sur une base chinoise hérite de ce que cette base contient : ses choix, ses limites, ses biais éventuels. Nous l'expliquions à propos de la distillation : un élève ne dépasse pas son maître, et il hérite de ses défauts. La souveraineté acquise est partielle.
La question de la licence. Selon les termes de la base utilisée, les obligations diffèrent. C'est le point que nous détaillions dans notre article sur les licences, et il vaut ici avec des enjeux politiques.
Ce qu'il faut retenir
Ce modèle illustre une transformation que trois mois d'actualité ont rendue nette. La question n'est plus qui construit les meilleurs modèles, mais qui peut les adapter. Et cette capacité est beaucoup plus largement répartie.
Cela produit une carte de l'IA bien plus fragmentée que celle des deux blocs qu'on décrit d'habitude. Chaque région disposant de capitaux et d'un besoin linguistique peut désormais se doter d'un modèle sérieux en partant de ce que d'autres ont publié. Ce n'est pas de l'indépendance, mais ce n'est plus de la dépendance à un fournisseur unique, et pour beaucoup de pays c'est déjà un changement considérable.