Pourquoi installer une IA chez soi, et pour qui

Faire tourner un modèle de langage sur son propre ordinateur est devenu accessible : quelques clics, un téléchargement de quelques gigaoctets, et une IA répond sans connexion. Le cours « Construire avec l'IA » aborde ce choix du point de vue d'un développeur qui bâtit un produit. Ici, on se place du côté de l'utilisateur avancé qui veut s'en servir lui-même.

Les bonnes raisons

• La confidentialité. Un dossier de patient, un contrat client, un journal intime : rien ne quitte la machine. C'est la raison la plus solide.
• Le hors-ligne. Dans le train, en zone blanche, dans un lieu où internet est interdit.
• Le volume sans facture. Classer deux mille courriels, résumer trois cents fiches : une fois la machine achetée, chaque requête est gratuite.
• Comprendre. Rien n'apprend mieux ce qu'est un modèle que d'en voir un tourner, ralentir et se tromper, chez soi.

Les mauvaises raisons

• Avoir « la meilleure IA ». Les meilleurs modèles du moment restent ceux des grands services en ligne, et ce qui tient sur un ordinateur ordinaire est un cran, souvent deux, en dessous.
• Économiser un abonnement quand on s'en sert dix minutes par jour : le temps passé à installer et régler coûte plus cher.
• Avoir l'actualité. Un modèle local ne sait que ce qu'il a appris ; sans outil de recherche branché, il ignore tout ce qui est postérieur à son entraînement.

Local ne veut pas dire automatiquement privé

Le modèle tourne chez vous, mais l'application qui l'entoure peut envoyer des statistiques d'usage, proposer une recherche web ou synchroniser vos conversations. Vérifiez les réglages, et coupez la connexion pendant un essai pour voir ce qui continue de fonctionner. La confidentialité se vérifie, elle ne se présume pas.