Pourquoi j'ai remplacé ChatGPT par Ollama, sur mon propre serveur

Je n'ai pas un abonnement IA, j'en ai eu quatre en même temps à un moment : un pour le texte, un pour le code, un pour les images, un pour la transcription. Une trentaine d'euros par mois chacun, des données envoyées à autant de fournisseurs différents, et zéro garantie que ce que j'y écrivais ne servait pas à entraîner le modèle suivant. Le déclic n'a pas été philosophique, il a été pratique : pourquoi je paierais pour de la puissance de calcul alors que j'ai déjà un serveur qui tourne 24/7 dans mon salon ?

Ce qui tourne, concrètement

Sur mon serveur Unraid (Ryzen 9 5900X, 64 Go de RAM), j'exécute Ollama pour le texte et ComfyUI pour la génération d'images, avec OpenWebUI comme interface pour discuter avec les modèles depuis n'importe quel appareil de la maison. Pas de GPU dédié pour l'instant : l'inférence tourne sur CPU, ce qui a une conséquence directe que je détaille plus bas.

Ce qui marche bien

• Rédaction et reformulation de texte — mails, descriptions, premiers jets d'articles comme celui-ci.
• Résumés de documents et de code, relecture rapide.
• Tout ce qui touche à des données que je ne veux pas envoyer ailleurs : notes clients, brouillons de contrats, réflexions sur des projets non annoncés.
• Génération d'images d'illustration pour des maquettes ou des posts, sans dépendre d'un service tiers ni de ses conditions d'utilisation changeantes.

Ce qui ne marche pas encore

Il faut être honnête : sur du raisonnement complexe, du code difficile ou des tâches qui demandent un très grand contexte, les modèles cloud de pointe restent devant. Sans GPU dédié, la vitesse de génération est aussi nettement plus lente qu'un service cloud — utilisable pour de la rédaction posée, frustrant si vous attendez une réponse instantanée. Je n'ai pas tout remplacé : je garde un accès cloud pour les 10 à 20% de cas où j'ai besoin de la meilleure réponse possible, tout de suite.

Le calcul économique

Le matériel n'est pas un coût dédié à l'IA : c'est le même serveur qui héberge déjà ce site, mon stockage, ma sauvegarde. Le coût marginal de faire tourner Ollama en plus, c'est essentiellement de l'électricité. En face, des abonnements IA grand public qui tournent autour de 20 à 30€ par mois chacun, multipliés par le nombre de services qu'on accumule avec le temps. Sur mon homelab, le calcul global (IA comprise) donne un retour sur investissement autour de 18 mois, puis environ 500€ d'économies mensuelles par rapport à un empilement de services cloud équivalents.

Le verdict

Je n'ai pas remplacé ChatGPT par idéologie. Je l'ai remplacé parce que 70 à 80% de mon usage quotidien — écrire, résumer, réfléchir à voix haute — n'a pas besoin du modèle le plus puissant du marché, juste d'un modèle correct qui tourne chez moi, sur des données qui restent chez moi. Le reste, je continue à payer, en connaissance de cause.