Chercher "open-mixtral-8x7b" dans la documentation officielle de Mistral renvoie aujourd'hui un badge discret : modèle légataire, retiré de La Plateforme depuis le 30 mars 2025, remplacé par Mistral Small 4. Le modèle qui a fait connaître le mélange d'experts (Mixture of Experts, MoE) au grand public en décembre 2023 a disparu de l'API hébergée en un peu plus d'un an. Ce n'est pas une mauvaise nouvelle pour qui veut encore l'utiliser : les poids restent publiés, sous licence Apache 2.0, librement téléchargeables sur Hugging Face. Ce qui a fermé, c'est le confort d'un appel API géré par Mistral. Le reste, l'essentiel, tient toujours.
Cet article part de ce constat pour répondre à une question concrète : est-ce que ça vaut encore le coup de déployer Mixtral 8x7B ou 8x22B soi-même aujourd'hui, avec quel matériel, quelles commandes et quels pièges. Deux voies de déploiement sont détaillées, Ollama pour un premier test et vLLM pour la production, avant un verdict sur les cas où Mixtral garde un intérêt réel face à des alternatives plus récentes.
Mixtral 8x7B et 8x22B : ce que Mistral a mis derrière ce nom
Mixtral 8x7B n'est pas un modèle de 56 milliards de paramètres malgré son nom. C'est un modèle à mélange d'experts : huit blocs de 7 milliards de paramètres chacun, mais à chaque token, un routeur n'en active que deux. Le papier de recherche publié par l'équipe Mistral décrit ce mécanisme sans ambiguïté : un réseau de routage sélectionne deux experts par couche pour traiter chaque état, puis combine leurs sorties. Résultat, selon l'annonce officielle de Mistral AI : 46,7 milliards de paramètres au total, mais seulement 12,9 milliards actifs par token. C'est ce qui permet au modèle d'aller plus vite qu'un modèle dense de taille comparable, sans sacrifier la qualité de sortie sur la plupart des tâches testées.
Publié le 11 décembre 2023 sous licence Apache 2.0, sans clause de seuil d'usage ni royalties, Mixtral 8x7B gère un contexte de 32 000 tokens et cinq langues (anglais, français, italien, allemand, espagnol), avec des performances supérieures à Llama 2 70B sur la plupart des benchmarks testés selon Mistral, une inférence six fois plus rapide, un niveau comparable à GPT-3.5 sur les tests standards, et un score de 8,30 sur MT-Bench pour la version instruite. Pour un modèle publié fin 2023, c'était le premier MoE à poids ouverts réellement compétitif face aux meilleurs modèles propriétaires du moment.
Quatre mois plus tard, en avril 2024, Mistral a publié une version élargie : Mixtral 8x22B. Même architecture, mais huit experts de 22 milliards chacun, soit 141 milliards de paramètres au total pour 39 milliards actifs par token, un contexte porté à 64 000 tokens, toujours sous licence Apache 2.0. Sur les benchmarks de raisonnement mathématique cités par Mistral, la version instruite atteint 90,8 % sur GSM8K et 44,6 % sur MATH, des scores qui dépassaient à l'époque la plupart des modèles ouverts concurrents cités dans cette même annonce. Les deux tailles cohabitent aujourd'hui dans le même statut : disponibles en téléchargement, absentes de l'API officielle.
Pourquoi l'API open-mixtral-8x7b a disparu de La Plateforme
La page officielle des modèles Mistral classe aujourd'hui open-mixtral-8x7b et open-mixtral-8x22b dans la catégorie légataire, avec une date de dépréciation au 30 novembre 2024 et un retrait effectif de La Plateforme au 30 mars 2025. Le modèle de remplacement recommandé par Mistral pour les deux est Mistral Small 4, un modèle dense plus récent, lui-même sous licence Apache 2.0, facturé 0,15 $ par million de tokens en entrée et 0,60 $ en sortie sur l'API officielle.
Ce retrait ne dit rien de la qualité de Mixtral. Les fournisseurs de LLM gèrent leur catalogue d'API comme un produit SaaS classique : les modèles les moins demandés ou les plus coûteux à maintenir en infrastructure managée sortent du catalogue au profit de versions plus récentes, plus efficaces à servir en masse. C'est vrai chez Mistral comme chez tous les fournisseurs de LLM hébergés. Ce qui change pour un modèle à poids ouverts comme Mixtral, et pas pour une API propriétaire fermée, c'est que ce retrait ne ferme rien côté utilisateur final.
Les poids de Mixtral 8x7B et 8x22B restent publiés sur Hugging Face, sous la même licence Apache 2.0, avec les mêmes fichiers qu'au premier jour. Une fois téléchargés, ils tournent indéfiniment sur n'importe quelle infrastructure qui dispose du matériel nécessaire, sans dépendance à la feuille de route commerciale de Mistral. C'est la différence structurante entre un modèle à poids ouverts et une API propriétaire : le premier survit au retrait commercial du second. Sur les projets où la question se pose, c'est souvent l'argument qui fait basculer le choix vers l'auto-hébergement, pas la performance brute du modèle.
Ce qu'il faut avant de déployer Mixtral en local
Avant de lancer une seule commande, il faut clarifier ce que "faire tourner Mixtral" veut dire concrètement, parce que la réponse change tout le reste. Le catalogue officiel d'Ollama propose la version 8x7B en téléchargement de 26 Go, quantifiée par défaut, pour un contexte de 32 000 tokens, et la version 8x22B en 80 Go pour un contexte de 64 000 tokens. Ces tailles ne représentent pas le modèle en pleine précision, qui pèserait environ deux fois plus, mais une version déjà compressée pour tenir sur du matériel accessible.
Pour la 8x7B, charger les 26 Go du fichier Ollama en entier suppose une carte avec une VRAM disponible du même ordre, plus une marge pour le contexte : en pratique, ça exclut la plupart des cartes grand public sauf les plus récentes, et laisse peu de place pour un contexte long. Pour la 8x22B et ses 80 Go, il faut soit plusieurs GPU professionnels combinés, soit accepter un déchargement partiel vers la RAM CPU, avec une perte de vitesse notable. Sur un poste de développeur sans GPU dédié puissant, seule la version 8x7B quantifiée reste réaliste pour un premier test.
Deux comptes suffisent pour démarrer : un compte Hugging Face si l'objectif est de récupérer les poids bruts pour vLLM ou une autre bibliothèque d'inférence, avec acceptation des conditions du modèle sur la page officielle, et rien du tout si le choix se porte sur Ollama, qui télécharge et gère la quantization sans compte. C'est la différence pratique entre les deux approches détaillées ci-dessous : Ollama pour tester vite, vLLM pour industrialiser.
Déployer Mixtral avec Ollama : la voie rapide pour tester
Pour un premier test, faire tourner un LLM en local avec Ollama reste la voie la plus directe. Une fois Ollama installé, la commande ollama pull mixtral télécharge la version 8x7B quantifiée en arrière-plan. Le premier lancement démarre le modèle et ouvre une session de chat interactive avec ollama run mixtral, sans configuration GPU manuelle : Ollama détecte le matériel disponible et répartit automatiquement les couches entre GPU et CPU si la VRAM ne suffit pas.
Pour un usage programmatique plutôt qu'un chat interactif, Ollama expose une API locale compatible avec le format de requêtes OpenAI, ce qui permet de brancher Mixtral derrière n'importe quel outil déjà prévu pour parler à une API de complétion de chat, sans réécrire l'intégration. C'est suffisant pour évaluer la qualité des réponses sur des cas d'usage internes, comparer Mixtral à d'autres modèles ouverts sur les mêmes prompts, ou construire un prototype avant d'investir dans une infrastructure de production dédiée.
Cette étape ne dit encore rien du comportement en charge réelle. Un chat interactif traite une requête à la fois ; une application avec plusieurs utilisateurs simultanés a besoin d'un moteur d'inférence pensé dès le départ pour le traitement par lots et la mise en file d'attente, un usage différent de celui pour lequel Ollama a d'abord été conçu.
Passer à vLLM pour un usage en production
Quand le test Ollama est concluant et qu'il faut servir Mixtral à plusieurs utilisateurs avec un débit stable, servir un LLM en production avec vLLM est l'étape suivante logique. Sur un serveur avec deux GPU professionnels de type A100 80 Go, une commande comme vllm serve mistralai/Mixtral-8x7B-Instruct-v0.1 --tensor-parallel-size 2 répartit le modèle sur les deux cartes et expose un serveur compatible avec l'API OpenAI, prêt à recevoir du trafic concurrent.
vLLM documente deux mécanismes centraux pour la production : le traitement par lots continu, qui regroupe plusieurs requêtes pour mieux utiliser le GPU, et PagedAttention, une gestion de la mémoire de cache d'attention qui réduit le gaspillage de VRAM entre les requêtes. Sur un usage avec plusieurs utilisateurs simultanés, ces deux mécanismes évitent de traiter chaque requête en isolation comme le fait un simple chat interactif, ce qui compte directement sur la facture d'infrastructure quand le modèle tourne 24 heures sur 24.
C'est aussi là que l'avantage MoE de Mixtral prend tout son sens en production. Un modèle dense de 47 milliards de paramètres activerait la totalité de ses poids à chaque token ; Mixtral n'en active que 13 milliards. C'est l'argument que Mistral mettait en avant dès l'annonce du modèle, avec une inférence six fois plus rapide revendiquée face à Llama 2 70B pour une qualité de réponse jugée comparable.
Les pièges qu'on rencontre en vrai sur Mixtral
Le premier piège, et le plus fréquent sur les déploiements qu'on a suivis : sous-estimer la VRAM réellement disponible après le chargement du système d'exploitation et des autres processus GPU. Une carte GPU n'offre jamais la totalité de sa VRAM annoncée au modèle ; il faut toujours garder une marge de sécurité, ce qui rend le fichier de 26 Go de la version 8x7B quantifiée limite sur les cartes grand public les plus anciennes, même quand leur fiche technique semble suffisante sur le papier.
Deuxième piège : confondre quantization et absence de dégradation. Compresser Mixtral à 4 bits pour le faire tenir dans moins de VRAM réduit légèrement la qualité de raisonnement par rapport à la version en précision native, un écart souvent négligeable sur des tâches de rédaction ou de classification, mais sensible sur des tâches de raisonnement complexe en plusieurs étapes. Tester sur des prompts représentatifs du cas d'usage réel avant de valider une configuration de quantization évite une mauvaise surprise en production.
Troisième piège, spécifique à la version 8x22B : le modèle de base publié par Mistral ne dispose d'aucun mécanisme de modération intégré, contrairement aux versions instruites de la plupart des assistants commerciaux. Le déployer directement sans couche de filtrage applicative en amont expose à des réponses non filtrées sur des prompts sensibles, un point que les tutoriels rapides passent régulièrement sous silence.
Dernier piège, plus organisationnel que technique : sous-dimensionner le temps de maintenance. Un modèle auto-hébergé n'a pas de mises à jour de sécurité automatiques poussées par un fournisseur ; suivre les nouvelles versions, réévaluer périodiquement si un modèle plus récent fait mieux à coût égal, et surveiller la dérive de qualité des réponses dans le temps deviennent la responsabilité de l'équipe qui l'exploite.
Mixtral aujourd'hui : quand le choisir plutôt que Mistral Small 4
Pour la majorité des projets à faible ou moyen volume, l'API Mistral Small 4 reste le choix le plus simple : pas d'infrastructure à gérer, une facturation à l'usage prévisible, et un modèle plus récent que Mixtral dans le catalogue actuel de Mistral. Auto-héberger Mixtral pour économiser un coût d'API qui reste marginal à faible volume est rarement rentable une fois le temps d'ingénierie compté.
L'auto-hébergement de Mixtral redevient pertinent dans deux situations précises, observées sur des projets clients chez Noxcod. La première : un volume de requêtes assez élevé pour que le coût d'infrastructure GPU fixe devienne inférieur au coût variable d'une API facturée au token, ce qui arrive typiquement au-delà de plusieurs millions de tokens traités par jour. La seconde : une contrainte de souveraineté ou de confidentialité qui impose que les données ne quittent jamais un périmètre contrôlé, un cas fréquent sur des projets soumis au RGPD ou dans des secteurs réglementés, où même un engagement contractuel d'hébergement en Europe ne suffit pas à lever la contrainte.
Dans ces deux cas, Mixtral 8x7B garde un argument que peu de modèles ouverts plus récents égalent : un rapport qualité-vitesse éprouvé sur du matériel raisonnable, grâce à son architecture MoE, pour un poids de licence Apache 2.0 sans aucune restriction. Face à des alternatives comme les modèles hébergés de Mistral AI ou la famille à poids ouverts Qwen, le choix se tranche moins sur la performance brute que sur l'infrastructure et la gouvernance de données déjà en place dans l'entreprise.
Chez Noxcod, on accompagne ce type d'arbitrage sur des projets de développement sur mesure, du choix du modèle jusqu'à la mise en production supervisée avec Ollama ou vLLM selon le volume. Une équipe spécialisée en agents IA permet de chiffrer le scénario auto-hébergé face à l'API avant de s'engager ; pour ça, planifier un appel avec notre équipe reste le point de départ le plus rapide.
Questions fréquentes
Mixtral est-il encore accessible via l'API Mistral aujourd'hui ?
Non, les endpoints open-mixtral-8x7b et open-mixtral-8x22b sont retirés de La Plateforme depuis le 30 mars 2025, remplacés par Mistral Small 4. Les poids restent librement téléchargeables sur Hugging Face sous licence Apache 2.0, donc l'auto-hébergement via Ollama ou vLLM reste une option pleinement viable, indépendante de la disponibilité de l'API.
Peut-on télécharger Mixtral gratuitement ?
Oui. Les poids de Mixtral 8x7B et 8x22B sont publiés sous licence Apache 2.0 sur Hugging Face, sans royalties ni clause de seuil d'usage. Le seul coût réel est celui de l'infrastructure nécessaire pour les faire tourner : une carte graphique suffisamment puissante, ou un serveur GPU loué à l'heure chez un hébergeur.
Quelle carte graphique pour faire tourner Mixtral 8x7B ?
La version quantifiée par défaut d'Ollama pèse 26 Go, ce qui demande une carte avec une VRAM disponible du même ordre pour un chargement complet sur GPU. En dessous, Ollama décharge une partie du modèle vers la RAM CPU, ce qui fonctionne mais ralentit nettement la génération des réponses.
Mixtral 8x7B ou 8x22B, lequel choisir ?
8x7B convient à la majorité des projets : plus léger, plus rapide, déployable sur un seul GPU costaud. 8x22B vise les tâches de raisonnement plus exigeantes, avec un contexte doublé à 64 000 tokens, mais réclame plusieurs GPU professionnels combinés ou un service managé, rarement justifié en dessous d'un vrai volume de production.
Faut-il encore utiliser Mixtral face aux modèles plus récents ?
Pour un nouveau projet sans contrainte particulière, un modèle plus récent comme Mistral Small 4 ou une alternative ouverte plus fraîche fait généralement aussi bien pour moins d'effort d'infrastructure. Mixtral garde un intérêt réel dès que le volume de requêtes ou une exigence stricte de souveraineté des données justifie l'auto-hébergement à grande échelle.
Mixtral auto-hébergé respecte-t-il le RGPD ?
Auto-hébergé sur un serveur en France ou dans l'Union européenne, Mixtral fonctionne comme n'importe quel logiciel local une fois les poids téléchargés : aucune donnée ne transite vers Mistral ni vers un tiers pendant l'inférence. C'est une garantie que ne donne pas un simple appel à une API hébergée hors du périmètre choisi.
