Le 27 juillet, Moonshot doit publier les poids de Kimi K3, potentiellement le modèle le plus capable jamais rendu librement disponible. Beaucoup de gens vont se demander s'ils peuvent le faire tourner chez eux. La réponse, on le verra, est instructive : elle éclaire ce que veut vraiment dire ouvert, et ce qui est réellement à votre portée.
Utiliser une IA sans internet, sans abonnement, sans qu'aucune de vos données ne quitte votre machine, et sans que personne ne puisse jamais vous couper l'accès : c'est possible aujourd'hui, sur un ordinateur personnel correct. Voici ce que ça implique concrètement, sans promesses exagérées.
Les quatre bonnes raisons de le faire
La confidentialité absolue. C'est l'argument le plus fort. Quand un modèle tourne sur votre machine, vos données ne partent nulle part. Aucun serveur ne les voit, aucune politique de confidentialité ne s'applique, aucune fuite n'est possible. Pour des documents sensibles, des notes personnelles, des données de clients ou de patients, c'est une différence de nature, pas de degré.
Le coût nul à l'usage. Une fois le modèle téléchargé, chaque requête est gratuite. Vous pouvez lancer dix mille requêtes sans voir la moindre facture, ce qui change tout pour l'expérimentation, l'apprentissage ou les traitements en volume.
L'indépendance. Personne ne peut modifier le modèle sous vos pieds, changer ses conditions, augmenter ses prix, ou vous en couper l'accès sur décision politique. Nous avons vu cette année que ce risque n'est pas théorique.
Le fonctionnement hors ligne. Dans un train, un avion, une zone mal couverte, votre IA locale continue de fonctionner exactement pareil.
Ce qu'il faut, concrètement
La contrainte principale est la mémoire, et plus précisément la mémoire de votre carte graphique, appelée VRAM. Un modèle doit tenir en mémoire pour fonctionner à vitesse correcte. Voici les ordres de grandeur, en gardant en tête qu'ils dépendent du niveau de compression utilisé.
| Taille du modèle | Mémoire nécessaire (compressé) | Usage réaliste |
|---|---|---|
| 3 à 4 milliards | 4 à 6 Go | Résumés, reformulation, tâches simples |
| 7 à 9 milliards | 6 à 10 Go | Le bon compromis pour la plupart des gens |
| 30 à 35 milliards | 20 à 26 Go | Nettement meilleur, mais exige une grosse carte |
| 70 milliards et plus | 40 Go et bien au-delà | Hors de portée d'une machine grand public standard |
Un modèle brut stocke chacun de ses paramètres avec une grande précision, ce qui prend énormément de place. La quantization consiste à réduire cette précision, un peu comme on passe d'un fichier audio sans perte à un MP3. Le modèle occupe alors deux à quatre fois moins de mémoire, avec une perte de qualité souvent à peine perceptible sur les usages courants. C'est grâce à cette compression que des modèles autrefois réservés aux serveurs tournent aujourd'hui sur un ordinateur de bureau.
Par où commencer
Trois outils dominent, du plus simple au plus technique. Ollama s'installe en quelques minutes et fonctionne avec une seule commande pour télécharger et lancer un modèle : c'est le point d'entrée recommandé. LM Studio offre une interface graphique complète, avec un catalogue de modèles et un chat intégré, idéal si la ligne de commande vous rebute. llama.cpp s'adresse à ceux qui veulent contrôler chaque paramètre et optimiser finement les performances.
Le conseil pratique : commencez par un modèle de 7 à 9 milliards de paramètres. C'est le point d'équilibre où la qualité devient réellement utile tout en restant confortable sur une machine de bureau correcte.
Les limites, dites honnêtement
Il faut être clair sur ce à quoi vous devez vous attendre. Un modèle local de 8 milliards de paramètres n'est pas Claude Fable 5 ni GPT-5.6. Il sera bon pour résumer un document, reformuler un texte, répondre à des questions générales, produire du code simple. Il sera nettement moins bon sur le raisonnement complexe, les tâches longues à plusieurs étapes, et il hallucinera davantage sur les faits précis.
La bonne façon de voir les choses est de raisonner par usage plutôt que par fidélité. Pour tout ce qui est sensible, répétitif ou volumineux, le local est excellent et gratuit. Pour les tâches qui exigent le meilleur raisonnement disponible, les modèles de pointe en ligne gardent une avance réelle. Les deux se complètent très bien.
La leçon Kimi K3 : ouvert ne veut pas dire accessible
Revenons à notre point de départ, parce qu'il est riche d'enseignement. Kimi K3 affiche 2 800 milliards de paramètres. Même fortement compressé, un tel modèle reste totalement hors de portée d'un ordinateur personnel : son propre créateur recommande de le servir sur des grappes d'au moins 64 accélérateurs reliés à très haut débit.
Cela illustre une nuance essentielle du concept de modèle ouvert. Ouvert signifie que n'importe qui a le droit de télécharger, modifier et déployer le modèle. Cela ne signifie pas que n'importe qui en a les moyens matériels. La liberté juridique est totale, la liberté pratique dépend de votre infrastructure. Pour les particuliers, ce sont les modèles ouverts de taille moyenne, entre 3 et 30 milliards de paramètres, qui constituent la véritable démocratisation.
Installer une IA sur sa propre machine reste une expérience qui vaut le détour, ne serait-ce qu'une fois. Voir un modèle répondre alors que le wifi est coupé change quelque chose dans la façon dont on perçoit ces outils : ils cessent d'être un service auquel on s'abonne pour redevenir un logiciel qu'on possède.