Installer, discuter, brancher : les outils

Trois grandes familles d'outils permettent de faire tourner un modèle chez soi. Elles s'appuient souvent sur le même moteur, llama.cpp, un projet ouvert qui a rendu l'inférence locale possible sur des machines ordinaires.

Les applications avec interface

LM Studio, Jan et quelques autres ressemblent à une application de discussion classique, avec un catalogue intégré : on cherche un modèle, l'outil indique s'il tiendra dans votre machine, on télécharge, on discute. C'est la porte d'entrée la plus simple.

Les outils en ligne de commande

Ollama s'installe en une commande et télécharge un modèle en une autre. Il tourne en arrière-plan et expose une interface de programmation locale, sur votre propre machine. Moins convivial au premier contact, c'est pourtant lui qu'on branche ensuite partout. Des interfaces web comme Open WebUI viennent s'y connecter pour retrouver le confort d'une discussion.

Brancher le modèle sur vos outils

La plupart de ces outils proposent une interface compatible avec celle d'OpenAI. Conséquence pratique : de nombreuses applications prévues pour un service en ligne (extension d'éditeur de texte, outil d'automatisation, assistant de code) acceptent qu'on leur indique l'adresse du modèle local à la place. C'est là que le local devient vraiment utile : traiter vos fichiers en lot, sans rien envoyer dehors.

Les trois règles de sécurité

• Le serveur local doit n'écouter que votre machine. Ouvert sur le réseau sans protection, n'importe qui peut l'utiliser, voire y charger d'autres modèles. En 2025, des chercheurs en sécurité ont recensé plus d'un millier de serveurs de ce type exposés sans protection sur internet.
• Télécharger les modèles depuis les pages officielles ou des publications reconnues, et préférer les formats qui ne contiennent que des données (GGUF, safetensors) aux anciens formats capables d'exécuter du code à l'ouverture.
• Prudence avec les extensions qui donnent au modèle l'accès à vos fichiers ou à internet : vous réintroduisez exactement les risques que le local devait éviter.