Une facture cloud mensuelle de 400 $ pour ce qui est essentiellement un chatbot personnel paraissait raisonnable. Puis on réalise que la même charge de travail tourne sur une carte graphique d’occasion que l’on possède déjà, sur un matériel qui ne coûte que quelques centimes d’électricité par jour. La structure des coûts de l’IA locale n’est plus théorique. C’est un modèle économique différent pour quiconque considère l’IA comme une infrastructure quotidienne plutôt que comme une rare démarche, et une fois que l’on voit les différentes couches, la voie à suivre devient étonnamment simple.
La première couche, c’est le plancher matériel, et il est plus bas que la plupart des gens ne l’imaginent. Une RTX 3090 reconditionnée, âgée de deux ou trois ans et passée de mode pour le jeu, exécute des modèles de 70 milliards de paramètres quantifiés à une vitesse exploitable. Un Mac Studio avec mémoire unifiée gère des charges similaires avec moins de friction. La dépense en capital est un coût unique qui s’amortit rapidement, et la courbe de dépréciation est douce, car ces cartes continuent de remplir le même rôle pendant une décennie.
La deuxième couche, c’est le modèle lui-même. Les modèles à poids ouverts ont rattrapé leur retard très vite sur les tâches que la plupart des gens accomplissent réellement : rédaction, synthèse, classification, extraction de données structurées à partir de texte désordonné. Vous ne faites pas un compromis à la baisse. Vous choisissez un modèle qui correspond à votre budget matériel plutôt que de louer du temps sur le silicium de quelqu’un d’autre. Les variantes quantifiées échangent une petite part de qualité contre une forte réduction de la mémoire, ce qui est presque toujours le bon compromis pour une configuration personnelle.
La troisième couche, ce sont les logiciels d’exécution et d’orchestration. llama.cpp, Ollama, vLLM et des projets similaires ont transformé la diffusion de modèles en commande en une seule ligne. Une fois qu’un modèle fonctionne localement, l’exposer à vos propres outils est la partie facile. Les compétences personnalisées, ces petites automatisations qui transforment « résumer ce PDF » en une seule touche, se branchent sur un point de terminaison local de la même manière qu’elles se brancheraient sur un service hébergé. Le coût d’intégration est essentiellement nul.
La quatrième couche, c’est la conception du flux de travail. L’erreur que font les gens consiste à traiter l’IA locale comme un remplacement du cloud et à reproduire chaque inefficacité. Le gain vient de la mise en cache des requêtes répétées, du traitement par lots des tâches similaires et de l’exécution des travaux plus lourds la nuit, quand personne n’attend après le GPU. Une configuration locale récompense un peu de rigueur technique, d’une manière que le cloud n’a jamais fait.
La cinquième couche, et celle que la plupart des gens négligent, c’est la mesure. Suivez votre utilisation réelle. La plupart des utilisateurs d’IA personnelle n’emploient qu’une infime fraction de leur capacité de calcul disponible. Une fois que vous voyez les chiffres réels, l’économie devient impossible à ignorer.
Si vous êtes curieux, commencez petit. Téléchargez un modèle à poids ouverts, exécutez-le sur la machine que vous possédez déjà, et faites-lui prendre en charge un flux de travail personnel. Les retours d’expérience de la communauté et les benchmarks sont utiles, mais la seule mesure qui compte est de savoir s’il fait votre travail. Le cloud sera toujours là si vous en avez besoin. Pour la plupart de ce que fait réellement une configuration personnelle, ce ne sera pas le cas.