Tu envoies tes données à une API américaine sans y penser. Chaque requête, chaque document, chaque commentaire client part sur un serveur que tu ne contrôles pas. Et tu paies au token, à vie.
Il y a une autre voie. Faire tourner un modèle d'IA directement sur une machine chez toi. Un Mac, un PC avec une bonne carte graphique, un petit serveur. Sans appel réseau. Deux sorties récentes montrent où en est cette approche : Shieldstral de Mistral et Muse Glimmer de Meta. On regarde ce que ça change concrètement pour une PME de la métropole.
Le modèle IA local, c'est quoi exactement
Un modèle IA local, c'est un modèle qui tourne sur ton propre matériel. Pas dans le cloud d'un fournisseur. Tu télécharges les poids du modèle, tu le lances sur ta machine, et tout se passe chez toi.
Concrètement, ça veut dire trois choses. Tes données ne sortent jamais. Tu ne paies pas à l'usage. Et tu ne dépends de personne pour que ça marche.
Longtemps, c'était réservé aux gros. Il fallait des grappes de GPU hors de prix. Ça change. Les modèles récents sont conçus pour être petits et efficaces, quitte à être spécialisés sur une tâche précise plutôt que bons partout.
Shieldstral : la modération de contenu qui reste chez toi
Mistral a sorti Shieldstral le 4 août. C'est un petit modèle dédié à une tâche : la modération de contenu. Son nom complet est Shieldstral-1.0-3B, mais il embarque en réalité 3,8 milliards de paramètres, plus proche d'un 4B.
Le principe est simple. Tu lui soumets un contenu, texte ou image, et il te répond en gros par oui ou par non : ce contenu pose-t-il problème. C'est un classifieur de sécurité multimodal. Le point fort, c'est que tu définis toi-même tes critères au moment de l'exécution. Tu n'es pas coincé avec la grille de lecture d'un fournisseur tiers.
Ce qu'il faut comme machine
Rien d'extravagant. Le modèle occupe 7,7 Go en mémoire. Un seul GPU avec 16 Go suffit. Mistral l'a testé sur une carte RTX 4000 Ada de 20 Go. C'est le genre de config qu'une PME peut se payer sans monter un datacenter.
Il est publié en open source sous licence Apache 2.0. Gratuit, disponible tout de suite. Sa fenêtre de contexte monte théoriquement à 256k, mais Mistral recommande de rester à 32k pour de bons résultats.
Les chiffres d'un test grandeur nature
Sword, filiale d'Aisecure, a fait tourner Shieldstral sur un million de commentaires du site Next. Voilà des repères utiles.
- Trois passes distinctes, chacune entre 4h30 et 5 heures pour traiter le million de commentaires.
- À peine une minute pour quelques milliers d'entrées.
- Toute l'inférence en local. Aucune donnée envoyée à Mistral.
Retiens ça. Pour un volume raisonnable, c'est quasi instantané. Pour du massif, ça prend quelques heures sur une seule machine. Sans facture d'API, sans fuite de données. On a détaillé ce modèle dans un article dédié à Shieldstral si tu veux creuser.
Muse Glimmer : l'agent local, mais pas souverain
Meta a sorti Muse Glimmer le 10 août. Là on change de catégorie. C'est un modèle agentique de 30 milliards de paramètres, pensé pour des workflows locaux qui tournent en continu sur du matériel grand public.
Normalement, un 30B demande plus de 55 Go de mémoire en pleine précision. Meta l'a compressé à environ 4 bits pour qu'il tienne dans 24 Go de VRAM. Résultat : ça tourne sur un seul GPU grand public ou un Mac M4/M5 Max, sans appel réseau. Il décode aussi 3,1 fois plus vite grâce à une technique de spéculation.
Les cas d'usage visés sont plus larges que Shieldstral. Agents de bureau qui lisent des captures d'écran, agents de codage, appel de fonctions, compréhension de documents et de graphiques, évaluation d'autres modèles. Des intégrations sont annoncées avec Ollama, LM Studio, llama.cpp et MLX, les outils courants pour faire tourner ça facilement.
Attention à un point. Muse Glimmer est américain. Il illustre la tendance générale des petits modèles locaux performants, mais il ne coche pas la case souveraineté européenne au sens strict. Si tu l'utilises en pur local et air-gappé, tu es tranquille. Si tu l'associes à un service cloud de Meta, tu retombes sous le droit américain. À ne pas confondre avec un choix comme Mistral, entreprise française.
Les cas d'usage concrets pour une PME de la métropole
Rappel de contexte : 58 % des TPE et PME françaises utilisent déjà l'IA générative, selon Bpifrance Le Lab en 2026. La question n'est plus de savoir si, mais où et comment. Voilà quatre usages où le local a du sens.
Modération et filtrage
Tu gères un site avec des commentaires, un forum, un espace client. Shieldstral filtre tout ça sans envoyer un mot à l'extérieur. Idéal si tu traites des contenus sensibles ou si tu ne veux pas dépendre d'une API pour un flux permanent.
Assistance et documentation interne
Un assistant qui répond sur ta base documentaire, en interne. Un modèle local suffit souvent, surtout couplé à une approche de type RAG pour interroger tes propres documents. Ça évite d'exposer tes procédures à un tiers.
Assistance au code
Pour une équipe dev, un modèle agentique local comme Muse Glimmer fait de l'assistance au code sans facturation au token et sans envoyer ton code source dehors. Un argument sérieux quand le code, c'est ton actif principal.
Souveraineté et conformité
C'est le vrai différenciateur. L'AI Act impose aux systèmes à haut risque une gestion documentée des risques, de la traçabilité et de la journalisation. Laisser cette gestion à une API étrangère est une contradiction stratégique. Faire tourner le modèle chez toi, c'est reprendre la main. Pour aller plus loin, notre article sur héberger son IA en France détaille la démarche.
La grille de décision : local ou pas
Le local n'est pas une religion. Voilà quand il suffit, et quand il ne suffit pas.
Quand le local suffit largement
- Ta tâche est bien définie et répétitive : modération, classement, extraction, filtrage.
- Tes données sont sensibles ou réglementées et ne doivent pas sortir.
- Tu traites un volume prévisible et tu veux des coûts fixes plutôt qu'une facture au token qui grimpe.
- Tu as, ou tu peux acquérir, une machine avec un GPU 16 à 24 Go.
Quand le local ne suffit pas
- Tu as besoin des meilleures performances brutes sur des tâches complexes de raisonnement. Les gros modèles cloud gardent l'avantage.
- Tes volumes sont très irréguliers : payer à l'usage évite d'immobiliser du matériel qui dort.
- Tu n'as personne en interne pour installer et maintenir le déploiement.
- Tu veux tester vite, sans investissement matériel, avant de t'engager.
Beaucoup de PME finissent avec un mélange. Local pour les flux sensibles et permanents, cloud pour les pics et les tâches lourdes ponctuelles. Rien n'oblige à choisir un seul camp.
Ce que ça coûte, en ordre de grandeur
Pour un déploiement ciblé sur un cas d'usage simple, compte un investissement matériel unique de l'ordre de 2 000 à 4 000 euros, avec un modèle open source gratuit par-dessus. Traite ces chiffres comme des repères, pas comme un devis. Le coût réel dépend du volume, du niveau de maintenance et des compétences que tu as sous la main.
L'intérêt du local, c'est que le coût est en grande partie fixe et connu d'avance. Pas de dérive au token. Si tu veux comparer proprement les deux modèles économiques, notre article modèles ouverts ou API propriétaires pose le calcul.
Par où commencer
Ne commence pas par acheter du matériel. Commence par une tâche.
- Identifie un cas d'usage précis où tes données ne doivent pas sortir : modération, tri de documents, assistance interne.
- Teste un petit modèle open source dessus, via un outil comme Ollama ou LM Studio, sur une machine que tu as déjà.
- Mesure : temps de traitement, qualité, volume réel. Les chiffres du test Sword te donnent une base de comparaison.
- Ensuite seulement, décide s'il faut un GPU dédié.
Le message à retenir est simple. Faire tourner une IA sur site entreprise n'est plus un projet de laboratoire. Un modèle comme Shieldstral tient dans 8 Go de mémoire et modère un million de commentaires en une nuit, sans qu'une seule donnée quitte tes murs. Pour une PME lyonnaise soucieuse de ses coûts et de la souveraineté de ses données, c'est une option à mettre sur la table dès maintenant.
Laisser un commentaire