Serveur IA local pour entreprise : prix, dimensionnement et déploiement
Un serveur IA local fait tourner vos modèles de langage sur votre propre réseau : toute l'équipe l'utilise depuis son poste, et vos documents ne partent chez aucun prestataire. Voici ce que cela coûte réellement, comment le dimensionner et comment le déployer.
La réponse en bref
Un serveur IA local est une machine équipée d'une ou plusieurs cartes graphiques, installée dans vos locaux, qui héberge un modèle de langage (LLM) partagé par vos collaborateurs via le réseau.
Son prix dépend d'abord de la mémoire graphique nécessaire à vos modèles : notre gamme de serveurs démarre à 5 633 € pour un rack 4U à une carte de 32 Go et monte à 48 508 € pour un rack à deux cartes professionnelles (192 Go), jusqu'à 206 150 € pour le Serveur IA EPYC 8 GPU. Il s'agit d'un achat unique, sans abonnement par utilisateur.
Qu'est-ce qu'un serveur IA local ?
C'est une seule machine, dimensionnée pour le calcul, branchée sur le réseau de l'entreprise. Chaque collaborateur y accède depuis son navigateur, avec une interface de discussion comparable à celle des outils cloud. La différence : la requête, le document joint et la réponse restent sur votre réseau.
Concrètement, le serveur réunit trois briques :
- Le matériel : une ou plusieurs cartes graphiques, dont la mémoire (VRAM) accueille le modèle.
- Un moteur d'inférence : Ollama, llama.cpp ou vLLM, qui charge le modèle et répond aux requêtes.
- Une interface multi-utilisateurs : par exemple Open WebUI, avec un compte et un historique par personne.
Les modèles utilisés sont open source (Llama, Mistral, Qwen, gpt-oss, DeepSeek…) : vous les téléchargez une fois, puis ils fonctionnent même sans connexion internet.
Combien coûte un serveur IA local ?
Le coût d'un serveur GPU pour LLM tient en trois postes : la machine, les options de mise en service, et l'électricité.
1. La machine
C'est l'essentiel du budget, et c'est la mémoire graphique qui fait le prix. Voici les prix de nos configurations de base :
| Serveur | Mémoire pour l'IA | Format | Prix de base |
|---|---|---|---|
| ASUS Ascent GX10 | 128 Go de mémoire unifiée (NVIDIA GB10) | Mini-serveur de bureau | dès 6 999 € |
| CoreIA RTX 5090 | 32 Go (RTX 5090) | Tour | dès 10 291 € |
| CoreIA 2x RTX 5090 | 64 Go (2 × 32 Go) | Rack 4U | dès 20 954 € |
| Serveur IA PME EPYC 4005 | 32 Go (Radeon AI PRO R9700) | Tour, gestion à distance (BMC), 2 × 10 GbE | dès 7 813 € |
| CoreIA Threadripper PRO 4 GPU | 96 Go ECC (RTX PRO 6000 Blackwell) | Rack 6U | dès 32 647 € |
| CoreIA 2x RTX PRO 6000 | 192 Go ECC (2 × 96 Go) | Rack 4U | dès 48 508 € |
| Serveur IA EPYC 8 GPU | 384 Go (4 × RTX PRO 6000 Server Edition) | Rack 4U | dès 206 150 € |
Prix TTC de la configuration de base, mis à jour automatiquement depuis notre boutique. Chaque composant reste modifiable dans le configurateur. Le reste de notre gamme d'IA locale pour l'entreprise, des stations de bureau aux serveurs rack, se compare sur une page dédiée.
2. Les options de mise en service
Selon votre situation, prévoyez aussi :
- Le Pack clé en main IA (option) : environnement installé, deux modèles prêts à l'emploi, accès distant sécurisé par VPN, tests avant expédition. Pour les machines à 10 000 € TTC ou plus : Pack Entreprise, avec Open WebUI multi-utilisateur sur le réseau de la société.
- L'installation sur site (option) : mise en réseau et prise en main dans vos locaux, en France et en Europe.
- Les rails de montage pour les serveurs en rack : non inclus, ajoutés sur demande au devis.
- Une extension de garantie au-delà des 2 ans inclus, et un onduleur si votre installation n'en a pas.
- Un développement sur mesure si vous voulez relier l'IA à vos logiciels métier : sur devis.
3. L'électricité
Le calcul est simple : puissance moyenne consommée (en kW) × heures d'utilisation × prix du kWh. Exemple de calcul, à adapter : une machine qui consommerait 0,5 kW en moyenne, 8 heures par jour pendant 220 jours, avec un kWh à 0,20 €, coûterait 0,5 × 8 × 220 × 0,20 = 176 € par an. La consommation réelle dépend de la configuration et de la charge : nous vous l'indiquons au devis.
Serveur local ou abonnements cloud : faites le calcul
Un abonnement IA cloud se facture par utilisateur et par mois : généralement entre 20 et 30 € pour les offres professionnelles courantes. La dépense augmente donc avec chaque embauche. Un serveur local, lui, se paie une fois, quel que soit le nombre de comptes créés dessus.
Entrez vos propres chiffres pour comparer :
Abonnements cloud : 3 000 € par an.
Prix de base du serveur : 10 291 €.
Le prix du serveur correspond à 42 mois de ces abonnements.
Les limites de cette comparaison : elle ne compte ni l'électricité, ni les options, ni le temps passé à administrer le serveur. À l'inverse, elle ne compte pas non plus que le serveur garde une valeur et sert plusieurs années. Enfin, les deux solutions ne sont pas identiques : un abonnement donne accès à des modèles propriétaires que vous ne pouvez pas héberger vous-même. Le serveur local se justifie d'abord par la confidentialité, ensuite par le coût.
Vous hésitez plutôt entre louer de la puissance GPU dans le cloud et acheter ? Notre comparatif location de GPU cloud ou achat d'une station IA détaille ce cas.
Comment dimensionner un serveur GPU pour LLM
La mémoire graphique fixe la taille du modèle
Un modèle doit tenir entièrement dans la mémoire graphique pour répondre à pleine vitesse. En quantification 4 bits (une compression qui préserve l'essentiel de la qualité), comptez environ 0,6 Go par milliard de paramètres, plus quelques Go pour le contexte.
| Mémoire pour l'IA | Modèles accessibles en 4 bits | Serveur correspondant |
|---|---|---|
| 32 Go | Jusqu'Ã 32B environ (Mistral Small 3, Qwen3 32B) | CoreIA RTX 5090, Serveur IA PME EPYC 4005 |
| 64 Go | 70B (Llama 3.3 70B, environ 40 Ã 45 Go) | CoreIA 2x RTX 5090 |
| 96 Go ECC | 70B en 8 bits, 110 Ã 120B en 4 bits (gpt-oss-120b, Llama 4 Scout) | CoreIA Threadripper PRO 4 GPU |
| 128 Go unifiée | Jusqu'à 200 milliards de paramètres en 4 bits, avec une génération plus lente qu'un GPU dédié | ASUS Ascent GX10 |
| 192 Go ECC | Qwen3 235B (environ 130 à 140 Go), ou plusieurs modèles chargés en même temps | CoreIA 2x RTX PRO 6000 |
| 384 Go (jusqu'à 8 cartes) | Les plus grands modèles ouverts | Serveur IA EPYC 8 GPU |
Valeurs indicatives pour une quantification 4 bits courante et un contexte modéré.
Le nombre d'utilisateurs simultanés fixe la marge
Sur un serveur partagé, la taille du modèle ne suffit pas. Trois points changent le dimensionnement :
- Les requêtes simultanées : chaque conversation en cours occupe de la mémoire pour son contexte, en plus du modèle. Il faut donc garder de la marge au-delà du poids du modèle.
- Le débit : un serveur qui répond vite à une personne ralentit quand plusieurs l'interrogent en même temps. La bande passante mémoire des cartes graphiques est ce qui détermine ce débit.
- L'usage réel : tout l'effectif n'écrit pas au même instant. Ce qui compte est le nombre de personnes actives au même moment, et la longueur des documents qu'elles soumettent.
Notre méthode : le nombre d'utilisateurs indiqué sur chaque fiche est un ordre de grandeur, car il varie selon le modèle et l'usage. Indiquez-nous votre effectif, vos types de documents et vos usages (discussion, recherche dans vos documents, code) : nous vous proposons une configuration dimensionnée, sans surdimensionnement.
Pour le détail des configurations à plusieurs cartes, voyez notre guide sur le multi-GPU pour l'IA locale. Pour un poste individuel plutôt qu'un serveur partagé, consultez notre comparatif des configurations PC pour l'IA locale.
Tour, rack ou mini-serveur ?
- Mini-serveur (ASUS Ascent GX10) : un boîtier de 150 × 150 × 51 mm, discret dans un bureau. Il charge de gros modèles grâce à ses 128 Go, mais génère moins vite qu'une carte graphique dédiée. Il fonctionne sous Linux (DGX OS) et s'utilise uniquement via le réseau.
- Tour (CoreIA RTX 5090, Serveur IA PME EPYC 4005) : le format le plus simple à installer sans local technique. Génération très rapide sur les modèles qui tiennent dans sa mémoire graphique.
- Rack (2U, 4U ou 6U) : prévu pour une baie 19 pouces dans un local technique. C'est le format des configurations à plusieurs cartes, pensées pour tourner en continu.
Nos serveurs IA
Les composants cités sont ceux de la configuration de base. Chaque machine reste modifiable dans le configurateur.
ASUS Ascent GX10 (NVIDIA GB10)
128 Go de mémoire unifiée · Grace Blackwell · DGX OS
Mini-serveur compact et discret, pour de gros modèles dans un bureau.
CoreIA RTX 5090
RTX 5090 32 Go · Ryzen 9 9900X · 64 Go DDR5
Serveur au format tour, modèles jusqu'à 32B environ.
CoreIA 2x RTX 5090
64 Go de VRAM · Ryzen 9 9950X3D · 128 Go DDR5 · rack 4U
Modèles 70B en 4 bits et génération rapide, en baie.
CoreIA Threadripper PRO 4 GPU
RTX PRO 6000 Blackwell 96 Go ECC · Threadripper PRO · mémoire ECC
Plateforme évolutive : jusqu'à quatre cartes au configurateur.
CoreIA 2x RTX PRO 6000
192 Go de VRAM ECC · Ryzen 9 9950X3D · rack 4U
Très gros modèles ou plusieurs modèles servis en parallèle.
Un serveur IA local assemblé en France
Nos serveurs sont assemblés et testés à Auriol, dans les Bouches-du-Rhône, puis livrés partout en France et en Europe.
- Un seul interlocuteur : la même équipe assemble la machine, installe les logiciels et assure le SAV, matériel comme logiciel.
- Délai : 15 jours ouvrés maximum pour un serveur IA ou un GX10, tests compris. Une configuration très haut de gamme ou un développement sur mesure peut l'allonger.
- Garantie : 2 ans sur toutes les machines, avec extensions en option.
- Développement sur mesure : automatisations, assistants branchés sur vos documents, applications métier connectées à vos logiciels. Sur devis.
Checklist de déploiement
- Comptes individuels dès la mise en service, avec authentification.
- Accès limité au réseau interne ou via VPN. Le serveur n'est jamais exposé directement sur internet.
- Échanges chiffrés (HTTPS) entre les postes et le serveur.
- Sauvegardes régulières des conversations et des documents indexés.
- Suivi de la charge pour anticiper une hausse d'effectif avant qu'elle ne ralentisse les réponses.
- Mises à jour planifiées du moteur d'inférence et de l'interface, en dehors des heures de travail.
- Onduleur et ventilation adaptés, surtout pour un rack qui tourne en continu.
Un projet de serveur IA local ?
Décrivez-nous votre effectif et vos usages : nous vous proposons une configuration dimensionnée pour votre besoin réel, avec un devis détaillé.
Demander un deviscontact@radiancesystems.eu
