Tubbydev

Quand on utilise ChatGPT ou Claude, on profite d’une intelligence artificielle qui fonctionne sur les ordinateurs d’une entreprise distante. Mais il existe une autre possibilité : installer un modèle d’IA sur son propre ordinateur et effectuer les calculs chez soi ou dans son entreprise.

Cette deuxième approche, appelée parfois IA en local, attire les utilisateurs qui veulent garder la maîtrise de leurs données, automatiser des traitements ou éviter de payer chaque requête à un fournisseur extérieur.

Faut-il acheter une machine spécialisée à plusieurs milliers d’euros pour disposer d’une IA chez soi ?

La réponse dépend du modèle utilisé, des tâches à accomplir et du volume de travail. Un ordinateur courant peut suffire pour découvrir l’IA locale. Dans l’autre logique, des machines comme le NVIDIA DGX Spark permettent de faire fonctionner des modèles plus volumineux, mais représentent un investissement important (ou de la frime :-))).

Voici comment fonctionnent ces solutions et comment les comparer.

IA dans le cloud : que se passe-t-il quand vous utilisez ChatGPT ou Claude ou autre ?

Lorsque vous posez une question à ChatGPT, Claude ou un autre service en ligne, votre ordinateur ne réalise généralement pas lui-même les principaux calculs nécessaires pour produire la réponse.

Le fonctionnement est le suivant :

1. Vous écrivez votre demande dans une application ou sur un site web.
2. Votre demande est envoyée par Internet aux serveurs du fournisseur.
3. Le modèle d’IA fonctionne sur ces serveurs et produit une réponse.
4. La réponse est renvoyée sur votre écran.

Votre ordinateur ou votre téléphone sert principalement à accéder au service et à afficher le résultat. La puissance de calcul nécessaire se trouve ailleurs, dans des centres informatiques distants.

C’est ce que l’on appelle souvent une IA dans le cloud, ou une IA hébergée à distance.

Cette solution permet d’utiliser des modèles puissants sans acheter soi-même les machines nécessaires à leur fonctionnement. En contrepartie, on dépend du fournisseur : il décide des modèles disponibles, des tarifs, des limites d’utilisation et des conditions d’accès.

IA en local : qu’est-ce que cela signifie ?

Une IA fonctionne en local lorsque le modèle et les calculs nécessaires à son utilisation sont exécutés sur une machine que vous contrôlez : votre ordinateur, un serveur dans votre entreprise ou un ordinateur spécialisé installé chez vous.

Dans ce cas, le fonctionnement change :

1. Vous choisissez un modèle compatible et téléchargeable (voir Quels modèles d’IA peut-on télécharger et faire fonctionner en local ? ).
2. Vous téléchargez ses fichiers.
3. Vous installez un logiciel capable de le faire fonctionner.
4. Vous lui envoyez vos demandes depuis une interface ou un programme.
5. Votre machine calcule la réponse.

L’interface peut ressembler à une conversation avec ChatGPT. La différence se trouve derrière l’écran : c’est votre propre matériel qui fournit la puissance de calcul.

Un modèle local peut servir à rédiger, résumer un document, classer des informations, traduire ou écrire du code. D’autres modèles sont spécialisés dans la génération d’images, de sons ou de vidéos.

Le choix est cependant limité aux modèles dont les fichiers peuvent être obtenus et dont les conditions d’utilisation permettent l’usage envisagé. Installer une IA en local ne signifie pas que l’on peut télécharger n’importe quel modèle commercial.

Peut-on installer ChatGPT ou Claude sur son ordinateur ?

Il faut distinguer l’application, le modèle et le lieu où il fonctionne.

ChatGPT et Claude sont des services donnant accès à des modèles développés par OpenAI et Anthropic. Les modèles propriétaires proposés dans ces services ne sont généralement pas fournis sous forme de fichiers téléchargeables que chacun peut installer sur sa machine.

On peut donc avoir une interface locale qui ressemble à ChatGPT, mais elle utilise alors un autre modèle compatible avec l’installation locale.

Il existe aussi des modèles dont les poids — les données qui constituent le modèle entraîné — sont accessibles au téléchargement. Ils sont parfois appelés modèles ouverts ou à poids ouverts. Attention : un modèle téléchargeable n’est pas nécessairement libre de tout droit. Sa licence peut imposer des conditions, notamment pour un usage commercial.

IA locale et IA dans le cloud : la différence en un tableau

Question	IA en local	IA dans le cloud
Où les calculs sont-ils effectués ?	Sur une machine que vous contrôlez.	Sur les serveurs d’un fournisseur.
Faut-il une connexion Internet ?	Pas nécessairement une fois le modèle et les outils installés, selon les fonctions utilisées.	Généralement oui.
Quel matériel faut-il ?	Un ordinateur adapté au modèle choisi. Les gros modèles demandent beaucoup de mémoire et de puissance.	Un appareil capable d’accéder au service suffit généralement.
Quels modèles peut-on utiliser ?	Les modèles téléchargeables et compatibles avec son matériel et leur licence.	Les modèles proposés par le fournisseur.
Comment paie-t-on ?	Principalement par l’achat ou l’usage du matériel, l’électricité et la maintenance ; certains logiciels ou modèles peuvent aussi être payants.	Selon le service : formule gratuite, abonnement, paiement à l’usage ou combinaison de ces options.
Qui gère les mises à jour ?	L’utilisateur ou son équipe technique.	Le fournisseur, même si l’utilisateur doit parfois adapter ses propres outils.
Où vont les données ?	Elles peuvent rester sur place si l’ensemble de la configuration est local et sécurisé.	Elles sont transmises au service, selon ses conditions et ses paramètres de confidentialité.
Peut-on utiliser les dernières informations du web ?	Oui si l’on ajoute un accès à Internet ou si l’on fournit les documents récents.	Souvent possible si le service dispose d’un outil de recherche activé.
Faut-il des compétences techniques ?	Variables : faibles pour certains logiciels simples, nettement plus élevées pour les installations avancées.	Généralement limitées pour une interface grand public ; plus importantes pour les automatisations par API.

Pourquoi l’IA a-t-elle besoin de machines puissantes ?

Un modèle d’IA contient un très grand nombre de paramètres, qui participent à la production de ses réponses. Pour l’utiliser, la machine doit charger les données du modèle et effectuer de nombreux calculs.

Trois éléments matériels jouent un rôle important.

Le processeur et le GPU

Le processeur, ou CPU, exécute les instructions générales de l’ordinateur. Il peut aussi faire fonctionner certains modèles d’IA.

Le GPU, souvent associé aux cartes graphiques, est particulièrement efficace pour réaliser de nombreux calculs en parallèle. C’est pourquoi il est largement utilisé pour l’IA, la génération d’images et de vidéos, ainsi que pour certains traitements de données.

Un modèle peut parfois fonctionner sans GPU dédié, mais il risque alors d’être beaucoup plus lent. Tout dépend de sa taille, de la machine et du logiciel utilisé.

La mémoire disponible

La mémoire est indispensable pour charger le modèle et traiter les demandes.

Plus le modèle est volumineux, plus il faut de mémoire. Dans certains ordinateurs, le GPU dispose de sa propre mémoire, appelée mémoire vidéo ou VRAM. Dans d’autres, une mémoire dite unifiée est partagée entre plusieurs composants.

Il faut distinguer cette mémoire du stockage :

• La mémoire vive ou vidéo sert pendant le fonctionnement du modèle.
• Le stockage, généralement un SSD, conserve les fichiers lorsque la machine est éteinte.

Avoir beaucoup d’espace libre sur son disque ne garantit donc pas qu’un gros modèle pourra fonctionner rapidement : il faut aussi suffisamment de mémoire utilisable pendant les calculs.

La vitesse d’accès à la mémoire

La quantité de mémoire ne fait pas tout. Sa vitesse et la capacité de la machine à transférer les données influencent également les performances.

Deux ordinateurs capables de charger le même modèle peuvent donc produire des réponses à des vitesses très différentes.

La compression des modèles

Pour réduire les besoins en mémoire, on peut utiliser une version compressée d’un modèle. Cette opération est souvent appelée quantification.

Elle permet parfois de faire fonctionner sur une machine modeste un modèle qui serait trop volumineux dans une version moins compressée. La contrepartie dépend de la méthode utilisée : une compression plus forte peut réduire la précision ou la qualité de certaines réponses.

Faire tenir un modèle sur une machine et l’utiliser confortablement sont deux choses différentes. Un modèle peut démarrer mais répondre trop lentement pour l’usage souhaité.

Faut-il acheter un ordinateur spécialisé pour utiliser une IA en local ?

Non. On peut commencer avec un ordinateur classique, à condition de choisir un modèle adapté à sa mémoire et à sa puissance.

Certains logiciels simplifient le téléchargement et l’utilisation de modèles locaux. Ils proposent une interface de conversation et évitent de devoir installer manuellement tous les composants techniques.

Cette première approche permet de découvrir :

• La vitesse de réponse de son ordinateur.
• La qualité des modèles accessibles avec sa configuration.
• La facilité ou non d’utiliser ses documents.
• Les limites de mémoire et de stockage.
• Les différences avec les services en ligne que l’on utilise déjà.

Pour des modèles plus volumineux, pour la génération vidéo ou pour plusieurs utilisateurs simultanés, un matériel plus performant peut devenir nécessaire. C’est là qu’interviennent les ordinateurs équipés de puissants GPU, les stations de travail et les machines spécialisées.

À quoi sert un NVIDIA DGX Spark ?

Le DGX Spark est un petit ordinateur de NVIDIA conçu pour les travaux liés à l’intelligence artificielle. Il associe notamment un processeur, un GPU et une mémoire unifiée importante.

Dans sa documentation, NVIDIA décrit une configuration dotée de 128 Go de mémoire unifiée, ainsi que des composants et connexions destinés au fonctionnement de modèles d’IA. La machine peut servir à tester, déployer et utiliser des modèles, ou encore à réaliser certains ajustements de modèles existants. DGX Spark User Guide

L’intérêt d’une telle machine est de pouvoir faire fonctionner des modèles plus volumineux que ceux accessibles sur beaucoup d’ordinateurs courants, avec un environnement conçu pour ce type de calcul.

Cela ne signifie pas qu’elle est capable de faire fonctionner tous les modèles existants ni qu’elle garantit les meilleures réponses. La qualité dépend du modèle choisi ; la vitesse dépend aussi de la mémoire, du logiciel, du type de demande et de la configuration.

Pourquoi relier plusieurs machines ?

Il est possible de relier plusieurs ordinateurs pour répartir certains calculs. Cet ensemble est appelé un cluster.

Dans le cas de 2 DGX Spark, l’objectif peut être de faire fonctionner un modèle trop volumineux pour une seule machine. NVIDIA documente notamment des configurations à deux unités pour certains modèles nécessitant davantage de mémoire. docs.nvidia.com

Il ne suffit toutefois pas de brancher deux machines ensemble pour que tous les logiciels utilisent automatiquement leur puissance. Le modèle, le logiciel et la configuration réseau doivent être compatibles avec ce fonctionnement réparti.

Deux machines ne garantissent pas non plus une vitesse deux fois supérieure : une partie du temps et des ressources sert à faire communiquer les ordinateurs.

Existe-t-il d’autres solutions ?

Oui. Selon les besoins, on peut utiliser :

• Un ordinateur classique avec un petit modèle local.
• Une station de travail équipée d’une ou plusieurs cartes graphiques.
• Un ordinateur spécialisé dans l’IA.
• Un serveur installé dans une entreprise.
• Certains Mac disposant d’une quantité importante de mémoire unifiée.

Apple présente par exemple le Mac Studio avec puce M5 Ultra comme une machine adaptée, entre autres, aux travaux d’IA sur l’appareil. Son coût dépend fortement de la configuration choisie, notamment de la mémoire. www.apple.com

Il ne faut pas comparer ces machines uniquement à partir d’un chiffre de puissance annoncé par leur fabricant. La compatibilité des logiciels, la mémoire disponible, la vitesse réelle et le type de tâche comptent tout autant.

À quoi peut servir une IA locale ?

Discuter avec un assistant installé sur son ordinateur

L’usage le plus facile à comprendre est celui d’un assistant de conversation local. On peut lui demander :

• De reformuler un texte.
• De résumer un document.
• De proposer un plan.
• De traduire un passage.
• D’expliquer un concept.
• De générer ou corriger du code.

La qualité du résultat dépend du modèle installé. Un modèle léger peut suffire pour reformuler un courriel, mais rencontrer davantage de difficultés sur un raisonnement complexe ou une longue analyse.

Exploiter ses propres documents

Une entreprise peut souhaiter interroger une base documentaire interne : procédures, notices techniques, fiches produits, comptes rendus ou archives.

Il faut cependant configurer l’accès à ces documents. Le simple fait d’installer un modèle sur un ordinateur ne lui donne pas automatiquement connaissance du contenu des dossiers.

Une méthode consiste à rechercher les passages pertinents dans les documents, puis à les fournir au modèle pour qu’il réponde. On parle souvent de RAG, pour retrieval-augmented generation, ou génération augmentée par recherche.

Le modèle peut ainsi s’appuyer sur des documents récents sans avoir été entraîné à nouveau. Cela ne le dispense pas de se tromper : il peut mal interpréter une source ou ne pas retrouver le bon passage.

Traiter de grandes quantités de données

Une IA locale peut être intégrée à une chaîne de traitement automatique pour :

• Classer des milliers de documents.
• Extraire des informations de factures.
• Repérer des mentions dans des contrats.
• Identifier des contenus anciens à vérifier.
• Proposer des catégories pour un catalogue.
• Produire des fiches à partir de données structurées.

Par exemple, un éditeur de sites pourrait demander à une IA de parcourir des articles pour repérer ceux qui mentionnent des montants, des dates ou des dispositifs susceptibles d’avoir changé.

Le résultat serait une liste de vérifications, pas une garantie que les articles sont à jour. Pour des sujets juridiques, financiers ou médicaux, il faut ensuite consulter les sources appropriées et contrôler les conclusions.

Générer des images ou des vidéos

Certains modèles permettent de créer des images et des vidéos à partir d’une description, d’une image existante ou d’autres éléments fournis par l’utilisateur.

Des logiciels comme ComfyUI permettent de composer des chaînes de génération et de réglages. On peut notamment choisir un modèle, définir des paramètres et ajouter des étapes de traitement.

Cette souplesse intéresse les personnes qui veulent expérimenter ou automatiser une production. Elle demande généralement plus de réglages et d’apprentissage qu’un service grand public.

La vidéo est particulièrement exigeante : selon le modèle, la durée et la qualité recherchées, les besoins en mémoire, en calcul et en stockage peuvent être élevés.

Adapter un modèle à une tâche particulière

Une équipe technique peut prendre un modèle existant et l’adapter à certains usages. L’une des méthodes possibles est le fine-tuning, ou ajustement fin.

Par exemple, une entreprise peut chercher à améliorer le comportement d’un modèle sur un type précis de classement ou sur un format de réponse régulier.

Il ne faut pas confondre cette adaptation avec l’entraînement complet d’un grand modèle depuis zéro. Créer un modèle de pointe à partir de rien nécessite des quantités de données, de calcul et de moyens financiers qui dépassent de très loin l’achat d’un ou deux ordinateurs de bureau spécialisés.

Quels sont les avantages de l’IA en local ?

Une meilleure maîtrise du lieu de traitement

Si le modèle fonctionne entièrement sur une machine locale et si les logiciels sont configurés en conséquence, les demandes et les documents peuvent rester sur place.

Cela peut intéresser les organisations qui manipulent des données sensibles : dossiers clients, documents internes, code informatique, contrats ou informations confidentielles.

Cette maîtrise n’est toutefois pas automatique. Une interface installée localement peut utiliser certains services externes, et un ordinateur peut être compromis ou mal configuré. Il faut donc examiner les connexions, les droits d’accès, les sauvegardes et la sécurité de l’ensemble.

De leur côté, les services cloud proposent des conditions de confidentialité variables selon les fournisseurs et les offres. Il faut lire les paramètres et les contrats applicables plutôt que supposer que toutes les données transmises sont traitées de la même manière.

Un fonctionnement possible sans Internet

Une fois le modèle téléchargé et l’environnement installé, certaines tâches peuvent être réalisées sans connexion.

C’est utile dans un lieu où l’accès à Internet est limité ou pour une organisation qui souhaite isoler son système.

En revanche, une IA locale déconnectée ne peut pas rechercher seule les dernières actualités, consulter une page web ou vérifier une information récente. Il faut lui fournir les documents nécessaires ou lui donner accès à des outils externes.

Davantage de liberté dans les réglages

L’utilisateur peut choisir parmi les modèles compatibles, ajuster certains paramètres et construire une chaîne de travail adaptée à ses besoins.

Il peut également décider du moment où il met à jour le modèle ou le logiciel. Cela évite qu’un changement imposé par un fournisseur modifie brusquement une partie du fonctionnement d’un système, même si l’utilisateur reste responsable de sa maintenance.

Pas de facturation à chaque requête par un fournisseur d’IA

Avec un modèle utilisable localement et une licence adaptée, les traitements effectués sur sa propre machine ne donnent pas nécessairement lieu à une facture par requête.

Mais cela ne signifie pas que les requêtes sont gratuites : leur coût est intégré à l’achat du matériel, à l’électricité, à la maintenance et au temps passé.

Cet avantage économique devient plus intéressant lorsque le volume de travail est important et régulier.

Quels sont les inconvénients de l’IA en local ?

Un investissement matériel parfois élevé

Une découverte avec un petit modèle peut se faire sur une machine déjà disponible. Mais si l’objectif est de faire fonctionner de gros modèles ou de générer des vidéos dans de bonnes conditions, la facture peut grimper rapidement.

À l’achat des machines peuvent s’ajouter :

• Des cartes graphiques ou de la mémoire.
• Du stockage supplémentaire.
• Du matériel réseau.
• L’électricité.
• Des frais de réparation et de remplacement.
• Du temps de configuration et de maintenance.
• Éventuellement des licences logicielles ou des prestations techniques.

Des performances variables selon le modèle

Les meilleurs services en ligne donnent accès à des modèles et à des infrastructures que l’on ne peut pas nécessairement reproduire sur un ordinateur personnel.

Cela ne veut pas dire que tous les modèles locaux sont mauvais. Certains peuvent être très efficaces pour une tâche donnée. Mais il faut éviter les comparaisons générales du type « ce modèle est aussi bon que ChatGPT » sans préciser :

• La version des modèles comparés.
• Les tâches testées.
• La longueur des documents.
• Les outils disponibles.
• La vitesse de réponse.
• Le niveau de qualité attendu.

Un modèle performant en résumé peut être moins convaincant en programmation, et inversement.

Des connaissances techniques peuvent être nécessaires

Installer un petit modèle avec un logiciel accessible est une chose. Mettre en place plusieurs machines, automatiser le traitement de milliers de documents ou créer une chaîne de génération vidéo stable en est une autre.

Les difficultés possibles concernent notamment :

• La compatibilité entre matériel, pilotes et logiciels.
• Le choix du bon modèle.
• La gestion de la mémoire.
• Les mises à jour.
• La sécurité.
• Les erreurs de traitement.
• La surveillance des performances.

Un agent d’IA peut aider à installer ou à configurer certains outils, mais son travail doit être vérifié. Une installation automatisée peut contenir des erreurs ou entraîner des dépenses imprévues.

Le renouvellement et l’obsolescence

Les modèles et les besoins évoluent rapidement. Une machine achetée aujourd’hui peut rester utile plusieurs années, mais ne pas être adaptée à certains modèles futurs.

Il faut donc réfléchir à la durée d’utilisation prévue et à la possibilité de revendre ou de réutiliser le matériel.

Quels sont les avantages de l’IA dans le cloud ?

Une utilisation simple

Pour de nombreux services, il suffit de créer un compte, d’ouvrir une interface et de commencer à poser des questions.

Il n’est pas nécessaire d’installer une carte graphique, de télécharger un modèle volumineux ou de configurer plusieurs machines.

Un accès à des modèles et outils puissants

Les fournisseurs peuvent proposer des modèles exigeants en calcul ainsi que des fonctions supplémentaires : recherche sur le web, analyse de fichiers, génération d’images, exécution de code ou connexion à d’autres outils.

Ces fonctions varient selon le service et l’offre choisie. Elles ne sont pas toutes disponibles dans chaque formule.

Pas d’investissement matériel lourd

Pour l’utilisateur, le fournisseur prend en charge l’infrastructure principale. Il n’a pas à acheter une station de travail dédiée ni à gérer lui-même son refroidissement ou ses réparations.

Cette solution est particulièrement pratique lorsque les besoins sont occasionnels ou difficiles à prévoir.

Quels sont les inconvénients de l’IA dans le cloud ?

Une dépendance au fournisseur

Le service peut modifier ses tarifs, ses limites d’utilisation, ses modèles ou ses fonctionnalités. Il peut aussi connaître une panne ou devenir inaccessible.

Une entreprise qui a construit toute son organisation autour d’un fournisseur doit anticiper cette dépendance.

Des coûts qui peuvent augmenter avec l’usage

Un abonnement peut convenir à un usage individuel régulier. En revanche, une application qui envoie automatiquement un grand nombre de demandes peut générer une facture importante.

Il faut distinguer l’abonnement à une interface et l’utilisation d’une API, qui est souvent facturée séparément.

OpenAI précise par exemple que la facturation de l’API est distincte de celle des abonnements ChatGPT. Les coûts d’API dépendent notamment des modèles, du volume de tokens et des éventuels outils ou services associés. OpenAI Help Center

Des données transmises à l’extérieur

Pour qu’un service distant traite une demande, celle-ci doit généralement lui être envoyée. Il faut donc vérifier :

• Les conditions de conservation et de suppression.
• Les paramètres de confidentialité.
• Les usages éventuels des données prévus par l’offre.
• Les engagements contractuels.
• Les règles applicables aux données personnelles ou confidentielles.

Une offre professionnelle peut prévoir des protections différentes d’une offre grand public. Il faut examiner le contrat correspondant à son usage.

Qu’est-ce qu’une API et en quoi est-ce différent d’un abonnement ?

Une API est une interface qui permet à un programme informatique de communiquer avec un service.

Avec une interface classique, une personne écrit une question dans une fenêtre de conversation. Avec une API, c’est un logiciel qui envoie automatiquement la demande et récupère la réponse.

Prenons l’exemple d’un site qui possède 10 000 fiches produits. Un programme peut envoyer chaque fiche à un modèle pour lui demander :

1. D’identifier la catégorie du produit.
2. D’extraire certaines caractéristiques.
3. De proposer une description.
4. De renvoyer le résultat dans un format exploitable.

Le service facture alors généralement selon la quantité traitée et les fonctions utilisées. Pour les modèles de langage, la quantité est souvent mesurée en tokens, des fragments de texte qui ne correspondent pas exactement à des mots.

Une API permet ainsi d’automatiser un grand volume de travail. Mais il faut surveiller les coûts : quelques centimes répétés des milliers de fois finissent par représenter une somme significative.

Que signifient « inférence », « batch », « capex » et « opex » ?

Le vocabulaire utilisé dans l’IA peut donner l’impression qu’il s’agit d’un domaine réservé aux spécialistes. Quelques définitions suffisent pour comprendre l’essentiel.

Terme	Signification
Modèle	Système entraîné sur des données pour accomplir certaines tâches : produire du texte, reconnaître des images, générer des vidéos, etc.
Inférence	Utilisation d’un modèle déjà entraîné pour obtenir un résultat. Lorsqu’il répond à une question, il effectue de l’inférence.
GPU	Composant adapté à de nombreux calculs en parallèle, très utilisé pour l’IA.
Mémoire vidéo ou VRAM	Mémoire dédiée au GPU sur certaines cartes graphiques.
Mémoire unifiée	Mémoire partagée entre plusieurs composants d’un ordinateur, notamment le processeur et le GPU selon la machine.
Cluster	Ensemble de machines reliées pour travailler sur certaines tâches.
Batch	Traitement d’un ensemble de tâches, souvent lancé automatiquement.
API	Moyen pour un logiciel d’interagir avec un autre service ou programme.
Capex	Dépense d’investissement, comme l’achat de machines.
Opex	Dépense de fonctionnement, comme l’électricité ou la maintenance.
Fine-tuning	Adaptation d’un modèle existant à partir de données ou d’exemples supplémentaires.
Quantification	Technique qui réduit la précision numérique utilisée par un modèle pour diminuer ses besoins, avec des effets possibles sur la qualité.

Combien coûte réellement une IA en local ?

Pour comparer une installation locale avec un service distant, il faut regarder le coût sur plusieurs années.

Exemple avec deux machines à 5 000 € HT

Imaginons une entreprise qui achète :

• Deux machines à 5 000 € HT chacune.
• Soit un investissement de 10 000 € HT.
• Une durée d’utilisation envisagée de trois ans.

Si l’on répartit simplement le prix d’achat sur 36 mois :

10 000 € ÷ 36 = environ 278 € HT par mois.

Il s’agit d’un calcul indicatif : il ne tient pas encore compte d’une éventuelle revente, du financement, de la fiscalité ou des autres frais.

Ajouter l’électricité

Supposons que les deux machines consomment ensemble 250 watts en moyenne, 24 heures sur 24, et que l’électricité coûte 0,20 € par kWh.

Le calcul donne :

• 250 watts = 0,25 kW.
• 0,25 kW × 24 heures = 6 kWh par jour.
• 6 kWh × 30 jours = 180 kWh par mois.
• 180 kWh × 0,20 € = 36 € par mois.

Dans cet exemple, l’achat réparti sur trois ans et l’électricité représentent donc environ :

278 € + 36 € = 314 € par mois.

Il s’agit d’une illustration, pas d’une estimation universelle. La consommation réelle dépend du matériel et des tâches. La durée de fonctionnement et le prix de l’électricité changent également le résultat.

L’alimentation indiquée par un fabricant ne doit pas être confondue avec la consommation permanente de la machine. NVIDIA indique par exemple une alimentation de 240 watts pour le DGX Spark, ce qui ne signifie pas que l’ordinateur consomme continuellement cette puissance. docs.nvidia.com

Ne pas oublier le temps humain

Le calcul précédent ne comprend pas le temps nécessaire pour choisir les modèles, installer les logiciels, résoudre les problèmes et maintenir la sécurité.

Si un professionnel consacre plusieurs heures par mois à cette installation, ce temps a une valeur. Pour une entreprise, il peut peser davantage que la facture d’électricité.

À l’inverse, si les machines sont revendues à la fin de la période, leur valeur de revente réduit le coût net de possession.

Une formule plus complète serait :

Coût local sur la période = achat + électricité + maintenance + logiciels + temps de gestion − valeur de revente.

Il faut ensuite comparer ce montant avec le coût des services distants pour accomplir le même travail, à une qualité et à une vitesse acceptables.

Faut-il faire tourner les machines 24 heures sur 24 pour les rentabiliser ?

Non. Une machine peut être rentable sans fonctionner en permanence.

Ce qui compte, c’est le coût du travail réellement effectué et la valeur qu’il apporte.

Une station utilisée quelques heures par jour peut être intéressante si elle remplace des traitements distants très coûteux ou si elle permet d’éviter une contrainte de confidentialité. À l’inverse, une machine allumée toute la journée sans traitement utile consomme de l’électricité sans améliorer la rentabilité.

En revanche, plus le matériel est cher et moins il est utilisé, plus son coût par tâche a tendance à augmenter. Un achat de plusieurs milliers d’euros pour quelques traitements occasionnels mérite donc d’être examiné de près.

Louer des GPU : une solution intermédiaire

Il existe une troisième voie entre l’achat d’une machine et l’utilisation d’une interface d’IA prête à l’emploi : louer de la puissance de calcul à distance.

Des plateformes permettent de louer un ou plusieurs GPU pendant la durée d’un traitement. L’utilisateur installe ou lance ses propres logiciels et modèles sur des machines distantes.

Cette solution peut servir à :

• Générer une série d’images ou de vidéos.
• Tester un modèle trop volumineux pour son ordinateur.
• Traiter temporairement une grande quantité de données.
• Expérimenter avant d’acheter son propre matériel.
• Répondre à un pic d’activité ponctuel.

Par exemple, une personne peut louer plusieurs cartes graphiques pendant quelques heures pour produire un lot de vidéos, puis arrêter les machines une fois le traitement terminé.

Il faut examiner l’ensemble des frais : temps de calcul, stockage, transferts éventuels, nombre d’essais et temps consacré à la configuration. Selon la plateforme, certains coûts peuvent continuer après l’arrêt des GPU, notamment si des fichiers restent stockés.

La location évite l’achat initial, mais elle exige souvent davantage de compétences techniques qu’un service de génération clé en main. Les données sont aussi traitées sur une infrastructure extérieure : ce n’est donc pas une installation locale.

Comment comparer les coûts de manière sérieuse ?

Avant de choisir une solution, il faut définir un travail précis et comparer les résultats obtenus.

Pour un traitement documentaire, on peut par exemple prendre un échantillon de 100 documents et mesurer :

1. La qualité : combien de réponses sont correctes et exploitables ?
2. La vitesse : combien de temps faut-il pour traiter l’ensemble ?
3. Le coût direct : matériel, électricité, location ou facture d’API.
4. Le temps humain : installation, surveillance et corrections.
5. Les contraintes de données : où sont-elles traitées et conservées ?
6. La capacité à passer à l’échelle : que se passe-t-il avec 1 000 ou 10 000 documents ?

Pour la vidéo, il faut aussi comparer la durée et la résolution produites, le nombre de tentatives nécessaires et la qualité finale. Une vidéo obtenue après dix essais ne coûte pas la même chose qu’une vidéo réussie au premier essai.

Un prix annoncé « par vidéo » ou « par document » n’a de sens que si l’on sait ce qui est inclus dans le calcul.

Quelle solution choisir selon son besoin ?

Pour un usage individuel courant

Pour poser des questions, rédiger des textes, analyser quelques documents ou obtenir de l’aide ponctuellement, un service en ligne est généralement le point de départ le plus simple.

Il évite une installation technique et donne accès à des modèles puissants sans acheter de matériel spécialisé.

Une IA locale légère peut néanmoins être intéressante pour découvrir le fonctionnement des modèles, travailler hors connexion ou traiter certains documents sur son ordinateur.

Pour une petite entreprise

Une petite entreprise peut combiner plusieurs approches :

• Une interface en ligne pour les usages courants.
• Une API pour quelques automatisations.
• Un modèle local pour certains documents ou tâches répétitives.
• Une location de GPU pour les besoins ponctuels plus lourds.

Avant d’acheter une machine spécialisée, elle a intérêt à tester ses tâches réelles et à mesurer les coûts.

Pour une entreprise avec un volume important de traitements

Si des milliers de documents doivent être analysés régulièrement, une installation locale ou un serveur dédié peut devenir intéressante.

La décision dépend alors notamment :

• Du volume réel de documents.
• De la qualité exigée.
• De la confidentialité.
• Du nombre d’utilisateurs.
• De la disponibilité d’une équipe technique.
• Du coût des services externes équivalents.

Un modèle local n’a pas besoin d’être le meilleur sur tous les sujets : il doit surtout être suffisamment fiable pour la tâche prévue et son coût total doit être acceptable.

Pour la création d’images et de vidéos

Pour quelques créations occasionnelles, un service en ligne est souvent plus simple.

Pour une production régulière, des besoins de réglages précis ou des expérimentations poussées, une machine dédiée ou une location de GPU peut présenter un intérêt. La vidéo demande toutefois une attention particulière au coût des essais et aux exigences matérielles.

Pour des données sensibles

Une installation locale peut offrir davantage de maîtrise sur le traitement des données, à condition d’être correctement configurée et sécurisée.

Il faut aussi examiner les offres cloud professionnelles, qui peuvent proposer des engagements adaptés. Le choix dépend du niveau de sensibilité des données, des contraintes de l’organisation et de sa capacité à sécuriser sa propre infrastructure.

L’IA locale remplace-t-elle les services comme ChatGPT ?

Pas nécessairement. Les deux approches peuvent se compléter.

Un utilisateur peut, par exemple :

• Utiliser une IA locale pour classer des documents internes.
• Faire appel à un service en ligne pour les questions complexes.
• Louer des GPU lorsqu’il doit produire une série de vidéos.
• Utiliser une API pour automatiser certains traitements sur son site.

Cette organisation permet de choisir l’outil selon la tâche, sans dépendre d’une seule solution pour tous les usages.

Le bon choix ne se résume donc pas à une opposition entre « local » et « cloud ». Il repose sur quatre questions :

1. Quel travail faut-il réellement accomplir ?
2. Quel niveau de qualité et de rapidité faut-il obtenir ?
3. Où les données peuvent-elles être traitées ?
4. Quel est le coût total, matériel et temps humain compris ?

Pour un usage occasionnel, acheter plusieurs machines spécialisées est souvent difficile à justifier. Pour un traitement régulier, volumineux ou soumis à des contraintes particulières, l’IA locale peut au contraire devenir une solution pertinente — à condition de tester les modèles et de faire les comptes avant d’investir.