Héberger un LLM souverain : les quatre options, et le calcul qui tranche

Un responsable technique qui cherche à héberger un LLM souverain a presque toujours une contrainte précise derrière la formule : un appel d'offres public, un client bancaire, des dossiers médicaux, ou une direction juridique qui refuse que des documents internes partent chez un fournisseur soumis au droit américain. La contrainte est légitime. La réponse qu'on lui vend l'est moins souvent, à savoir un serveur avec sa carte graphique, facturé au mois, dimensionné pour un trafic qu'il n'a pas encore.

Quatre options permettent de faire tourner un modèle de langage sous contrôle européen, et elles se départagent sur le volume. Nous les prenons dans l'ordre, avec les tarifs publics relevés le 6 septembre 2026, l'arithmétique qui sépare la carte louée de la facturation au token, et les postes de coût qui n'apparaissent jamais sur un devis d'infrastructure.

Souverain qualifie l'hébergement, pas la nationalité du modèle

Le mot souverain décrit l'endroit où le calcul a lieu, l'entité juridique qui exploite la machine, et la chaîne de sous-traitance derrière elle. Un modèle publié par un éditeur français perd tout l'intérêt de son passeport dès qu'il s'exécute sur une infrastructure hors Union européenne. Un modèle à poids ouverts d'origine américaine, à l'inverse, tient parfaitement dans un dossier de conformité s'il tourne sur un serveur que vous opérez à Roubaix.

Quatre maillons décident du dossier : le lieu du traitement, l'opérateur de la machine et le droit auquel il répond, la liste des sous-traitants ultérieurs, et l'engagement écrit de ne pas réutiliser vos requêtes pour entraîner un modèle. Ce dernier point se vérifie noir sur blanc. OVHcloud l'affiche sur la page de son offre d'inférence managée, en indiquant que les données ne sont jamais utilisées pour entraîner ou améliorer des modèles d'IA, et en mettant en avant la réversibilité, c'est-à-dire la possibilité de redéployer le modèle sur sa propre infrastructure (page officielle AI Endpoints, consultée le 06/09/2026).

Le cadre réglementaire, lui, s'est refermé. Le règlement européen sur l'intelligence artificielle est entré en application générale le 2 août 2026 (Commission européenne), et son article 99 plafonne les amendes à 35 000 000 € ou 7 % du chiffre d'affaires mondial annuel pour les pratiques interdites, le montant le plus élevé étant retenu (règlement (UE) 2024/1689). Sur les données personnelles, la CNIL a publié treize fiches pratiques sur le développement des systèmes d'IA, dont une consacrée à la qualification juridique du fournisseur et une autre à la sécurité (fiches pratiques IA de la CNIL). Nous détaillons ce cadrage dans notre article sur la gouvernance de l'IA face au RGPD et à l'AI Act.

Cette clarification tombe à un moment où le sujet cesse d'être marginal. En 2025, 18 % des entreprises implantées en France déclarent utiliser au moins une technologie d'intelligence artificielle, contre 6 % deux ans plus tôt, et le taux atteint 58 % chez celles de 250 salariés ou plus (Insee Première n° 2120). Parmi celles qui s'abstiennent, 54 % invoquent le manque d'expertise interne. L'hébergement est exactement le terrain où ce manque coûte le plus cher.

Les quatre endroits où votre modèle peut tourner

Un modèle de langage s'exécute soit chez un fournisseur qui vous facture les tokens, soit sur une machine que vous louez, soit sur une machine que vous possédez, soit sur le poste de la personne qui s'en sert. Chaque option déplace le curseur entre ce que vous opérez vous-même et ce que vous déléguez.

L'API managée hébergée en France vous donne un point d'entrée compatible avec le protocole que vos applications parlent déjà, une facturation au token et zéro machine à administrer. Scaleway affiche ses tarifs d'inférence pour la région de Paris : 0,15 € le million de tokens en entrée et 0,35 € en sortie sur un modèle de 24 milliards de paramètres, 0,90 € dans les deux sens sur un modèle de 70 milliards, avec le premier million offert et une remise de 50 % sur les requêtes traitées en lot (grille tarifaire officielle, consultée le 06/09/2026). En contrepartie, une API managée, quel que soit son opérateur, ne vous laisse maîtriser ni la version du modèle servie ni la date de son retrait du catalogue.

Le serveur GPU loué vous rend cette maîtrise. Vous choisissez les poids, la version, la quantification et la fenêtre de contexte, et la machine reste allumée tant que vous la payez. L'entrée de gamme chez Scaleway est une carte L4 de 24 Go de mémoire vidéo, accompagnée de 8 vCPU et 48 Go de mémoire vive, à 0,79 € l'heure hors taxes, soit environ 575 € par mois en fonctionnement continu (tarifs GPU officiels, consultés le 06/09/2026). Cette ligne décide de presque tout, et la section suivante en fait le calcul.

Le serveur installé dans vos murs supprime la question du cloud, puisque la machine se trouve chez vous, sur votre réseau, et que l'amortissement remplace l'abonnement. Il ressuscite en revanche des sujets que le cloud avait fait oublier : alimentation, refroidissement, pièces de rechange, astreinte du samedi soir. Le poste de travail, enfin, couvre l'usage individuel et le prototypage avec un modèle réduit qui tourne sur la machine du développeur. Nous avons traité ce cas dans notre article sur le LLM en local en entreprise. Pour choisir un opérateur, notre benchmark des fournisseurs d'IA souveraine en France et en Europe compare les acteurs disponibles.

Les délais de mise en service de ce tableau viennent de nos propres chantiers d'infrastructure et valent pour une équipe déjà à l'aise avec les conteneurs.

Le calcul qui départage la carte louée du paiement à l'usage

Le seuil de bascule tient dans une division : coût mensuel de la machine divisé par le prix du million de tokens. À 575 € par mois pour une carte L4 (tarifs GPU Scaleway) et à 0,20 € le million en moyenne pondérée (trois tokens d'entrée pour un token de sortie sur le modèle de 24 milliards de paramètres, facturé 0,15 € en entrée et 0,35 € en sortie, grille d'inférence Scaleway), il faut consommer près de 2,9 milliards de tokens mensuels pour que la carte louée devienne le choix économique. Cela représente environ 96 millions de tokens par jour, soit un document de 1 500 tokens traité 64 000 fois par jour.

Deux corrections alourdissent encore ce seuil. La première porte sur le taux d'occupation : une carte louée se facture 24 heures sur 24, alors qu'un usage interne suit les horaires de bureau. Huit heures sur cinq jours représentent 40 heures sur les 168 que compte une semaine, donc à peine un quart de la capacité payée. La seconde porte sur la mémoire vidéo. Un modèle de 70 milliards de paramètres pèse environ 140 Go de poids en précision 16 bits, 70 Go en 8 bits et 35 Go en 4 bits, avant même le cache d'attention qui grandit avec le nombre de conversations parallèles. Une carte de 24 Go ne l'accueille pas.

La machine que vous pouvez vous offrir ne fait donc pas tourner le modèle que vous convoitez. Pour servir un modèle de 70 milliards de paramètres à une qualité comparable à celle de l'API, il faut monter en gamme ou aligner plusieurs cartes, et la facture mensuelle grimpe dans la même proportion pendant que le seuil de rentabilité s'éloigne d'autant. Nous appliquons donc la même règle sur tous les projets clients, à savoir mesurer la consommation réelle pendant plusieurs semaines avant de choisir la machine, jamais l'inverse.

Le raisonnement s'inverse dans trois cas. Un traitement en masse et hors ligne, qui sature la carte des nuits entières, atteint le seuil sans difficulté. Une clause contractuelle qui interdit toute sortie de données vers un tiers, même établi en France, impose la machine dédiée quel que soit son prix. Un modèle affiné sur vos propres données, qu'aucun catalogue ne propose, se sert forcément chez vous. En dehors de ces trois situations, la facturation à l'usage l'emporte, et la discipline de mesure reste celle de n'importe quel budget d'infrastructure, comme nous l'expliquons dans notre article sur le pilotage des coûts LLM en entreprise.

Ce que vous installez vraiment sur un serveur d'inférence

Un serveur de modèle en production repose sur trois briques : un moteur d'inférence, une passerelle d'accès, et une supervision qui vous dit ce que les deux premières fabriquent. Le modèle arrive en dernier dans cette liste, parce que c'est la pièce la plus facile à remplacer.

Le moteur d'inférence encaisse les requêtes concurrentes. La documentation officielle de vLLM met en avant deux mécanismes utiles ici : le traitement continu des requêtes entrantes, qui glisse une nouvelle demande dans le lot en cours au lieu d'attendre la fin du précédent, et une gestion paginée de la mémoire d'attention (documentation vLLM, consultée le 06/09/2026). Nous en avons décrit la mise en place dans un article dédié sur le service d'un modèle avec vLLM. Pour un poste de travail ou une maquette, un exécuteur local demande beaucoup moins de réglages, au prix du débit dès que plusieurs personnes interrogent le modèle en même temps.

La passerelle d'accès vient ensuite. Elle expose une interface unique à vos applications, gère les clés par équipe, applique des quotas et bascule vers un second fournisseur quand la machine tombe. Cette couche évite de recâbler chaque application le jour où vous changez de modèle, et elle rend le changement de fournisseur réversible plutôt que théorique. Sans elle, l'auto-hébergement devient un verrou aussi rigide que celui qu'il prétendait dénouer.

La supervision complète l'ensemble. Un serveur d'inférence sans mesure du temps de premier token, du débit par requête, de la saturation de la file et du taux d'erreur ne se pilote pas : vous apprenez la dégradation par les réclamations des utilisateurs. Prévoyez également la quantification, qui passe les poids en 8 ou 4 bits et libère de la mémoire vidéo au prix d'un peu de qualité, une sauvegarde des poids avec leur empreinte, et une procédure de montée de version qui rejoue un jeu d'évaluation avant de basculer le trafic.

Les postes de coût que le devis d'infrastructure ne montre pas

Les postes qui font déraper un budget d'hébergement de modèle sont l'astreinte, le réindexage documentaire, la capacité dormante, l'évaluation des montées de version et la réversibilité, plutôt que la carte graphique elle-même. Ces lignes humaines et annexes s'accumulent après la mise en service, une fois le budget arrêté.

• L'astreinte. Un service d'inférence interne devient critique en quelques semaines, et quelqu'un doit répondre quand il tombe un vendredi soir.
• Le réindexage. Un assistant branché sur votre documentation recalcule tous ses vecteurs à chaque changement de modèle d'embedding, et ce recalcul se paie en heures de machine.
• La capacité dormante. Une carte facturée en continu pour un usage de bureau perd environ trois quarts de sa valeur en heures creuses.
• L'évaluation. Chaque montée de version demande de rejouer un jeu de cas de référence, sous peine de découvrir la régression en production.
• La réversibilité. Quitter un hébergement se prépare avant d'y entrer, avec un export des poids, des index et des journaux.

Sur les projets clients, le poste qui surprend le plus est le deuxième. Une base documentaire vivante, réindexée à chaque évolution du modèle d'embedding, pèse plus lourd sur douze mois que le serveur qui sert les réponses. C'est aussi celui que la comparaison entre fournisseurs escamote, parce qu'il ne figure sur aucune grille tarifaire. Nous l'avons documenté dans notre article sur le RAG souverain hébergé en France.

Ce qu'il faut obtenir par écrit avant de signer

Cinq engagements doivent figurer au contrat, sans quoi le mot souverain ne survivra pas au premier audit client. Le premier est la localisation du traitement et des sauvegardes, région par région, avec les zones de repli nommées : une bascule automatique vers un centre de données situé hors Union européenne annule tout le reste du dossier.

Le deuxième est la liste des sous-traitants ultérieurs, assortie d'un préavis contractuel avant tout ajout. Le troisième est l'engagement de non-réutilisation de vos requêtes pour l'entraînement, formulé sur la prestation que vous achetez plutôt que sur une page marketing. Le quatrième est la durée de rétention des requêtes et des réponses chez le fournisseur, chiffrée en jours, avec la procédure d'effacement associée. Le cinquième est la réversibilité, c'est-à-dire le format d'export, le délai, et le sort réservé aux données à la fin du contrat.

Les fiches pratiques de la CNIL fournissent la grille de qualification qui manque à la plupart des contrats : selon que le fournisseur détermine ou non les finalités et les moyens du traitement, il est responsable de traitement, responsable conjoint ou sous-traitant, et vos obligations changent avec ce statut. La fiche consacrée à la sécurité du développement complète l'exercice côté technique. Une direction juridique qui reçoit ces deux références en amont instruit le dossier beaucoup plus vite.

Notre recommandation, par profil

Pour une PME ou une ETI qui démarre, l'API managée hébergée en France est le bon choix par défaut, et elle le reste bien plus longtemps que ne le laisse croire le discours ambiant sur l'auto-hébergement. Branchez une passerelle dès le premier jour, mesurez la consommation réelle pendant trois mois, puis reposez la question du serveur dédié avec des chiffres plutôt qu'avec une intuition.

Pour une organisation dont un contrat interdit toute sortie de données vers un tiers, même établi en France, le seuil de bascule ne se discute pas. Le serveur dédié s'impose, et le travail consiste à choisir la carte en fonction du modèle visé plutôt que le contraire. Partez de la taille du modèle et de la fenêtre de contexte, déduisez-en la mémoire vidéo nécessaire, puis prenez la machine qui la couvre avec de la marge pour le cache d'attention.

Pour un traitement en masse et hors ligne, testez le mode lot de l'API avant d'acheter une machine, la remise appliquée aux requêtes différées changeant souvent la conclusion du calcul. Et pour un modèle affiné sur vos données, l'hébergement dédié devient la seule voie praticable, avec une réserve juridique à lever tôt. La licence des poids change d'un modèle à l'autre chez un même éditeur, y compris entre deux modèles présentés comme ouverts, et elle conditionne le droit de déployer en production. Faites lire la licence exacte du modèle retenu avant de bâtir dessus. Notre équipe spécialisée dans les agents IA confronte votre cas à ces trois profils en une séance. Vous pouvez planifier un appel pour en discuter.

Questions fréquentes

Quel matériel faut-il pour héberger un modèle de 7 milliards de paramètres ?

Une carte de 24 Go de mémoire vidéo suffit largement pour un modèle de cette taille en précision 16 bits, avec de la marge pour le cache d'attention de plusieurs conversations simultanées. L'entrée de gamme de Scaleway correspond à ce format, à 0,79 € l'heure hors taxes (tarifs officiels, consultés le 06/09/2026). Le point de vigilance porte sur le nombre d'utilisateurs simultanés davantage que sur la taille du modèle, car la file d'attente sature avant la mémoire.

Un modèle américain à poids ouverts peut-il entrer dans un dossier de souveraineté ?

Oui, dès lors que les poids s'exécutent sur une infrastructure opérée en Union européenne par une entité soumise au droit européen. La conformité se juge sur le lieu du traitement, sur l'opérateur et sur la chaîne de sous-traitance, jamais sur l'adresse du laboratoire qui a entraîné le modèle. Vérifiez en revanche la licence, car certaines licences présentées comme ouvertes posent des restrictions d'usage commercial qu'une direction juridique lira de près.

Combien de temps faut-il pour mettre en service un serveur d'inférence ?

Comptez une à deux semaines pour une machine louée chez un cloud français, moteur d'inférence, passerelle, quotas par équipe et supervision compris. Un serveur installé dans vos locaux demande plutôt un à trois mois, le délai venant de l'approvisionnement matériel et des validations réseau. Une API managée se branche en quelques minutes, ce qui en fait le bon point de départ pour mesurer la consommation avant tout investissement.

Faut-il affiner un modèle pour obtenir un résultat spécifique à son métier ?

Rarement en premier recours. Un bon travail sur les instructions et une recherche documentaire bien construite couvrent la majorité des besoins métier, pour un coût sans commune mesure avec un affinage. Ce dernier se justifie quand le format de sortie est très contraint, quand le vocabulaire est réellement propriétaire, ou quand la latence impose un petit modèle à qualité constante. Il implique alors un hébergement dédié, puisqu'aucun catalogue ne servira vos poids.

Que se passe-t-il si le fournisseur retire le modèle du catalogue ?

C'est le risque principal de l'API managée, et la passerelle d'accès le neutralise. En centralisant les appels derrière une interface unique, vous changez de modèle en modifiant une configuration au lieu de reprendre chaque application. Conservez un jeu de cas de référence pour mesurer l'écart de qualité avant de basculer, et gardez un second fournisseur déclaré, même inutilisé, afin d'éviter l'interruption de service le jour du retrait.