Faut-il installer un LLM en local en entreprise ?

Installer un LLM en local, c'est-à-dire faire tourner un modèle de langage open source sur les serveurs de l'entreprise, semble le choix le plus prudent pour protéger les données. Pour presque toutes les entreprises, ce n'est pourtant pas rentable : on reste lié à un seul modèle, moins performant que les modèles de pointe et identique pour chaque tâche, on paie des coûts qui n'apparaissent pas dans le devis et on fait entrer dans le réseau de l'entreprise un logiciel que personne ne sait vraiment contrôler.
Ceux qui travaillent dans l'informatique depuis quelques années ont déjà vu ce film. Il y a quinze ans, le débat opposait le serveur dans le placard au cloud, et la sécurité était l'argument de ceux qui voulaient tout garder en interne. On connaît la suite : confier l'infrastructure à des professionnels qui s'en occupent à plein temps s'est révélé plus sûr, en plus d'être plus économique. Avec l'intelligence artificielle, la question est la même, et la réponse aussi.
Que signifie installer un LLM en local ?
Cela signifie télécharger les poids d'un modèle open-weight (par exemple Llama, Qwen, DeepSeek, Mistral) et le faire tourner sur ses propres GPU ou sur des GPU loués, dans son propre data center. On parle aussi de LLM on premise ou d'auto-hébergement (self hosting). L'alternative consiste à utiliser un modèle de pointe, c'est-à-dire l'un des modèles les plus avancés du marché, via un fournisseur qui le met à disposition depuis des data centers professionnels, idéalement dans l'Union européenne et avec un contrat qui exclut la conservation des données. C'est le choix d'AIDA, qui a décidé pour cette raison de s'appuyer sur AWS.
Le raisonnement de ceux qui choisissent le local est simple : si le modèle est en interne, les documents ne sortent pas. Voyons pourquoi le calcul ne tient pas.
Un LLM en local est moins performant
La différence se voit précisément sur les tâches où l'IA est la plus utile. Selon Epoch AI, depuis début 2026, les meilleurs modèles open-weight accusent en moyenne un retard d'environ quatre mois sur les modèles fermés de pointe. Cela semble peu, mais cela concerne les plus grands modèles open, qui nécessitent généralement pour tourner un serveur équipé de huit GPU de data center : une machine qui coûte neuve entre 250 000 et 320 000 dollars.
Les modèles qu'une entreprise installe réellement, ceux qui tiennent sur une ou deux cartes graphiques, sont encore plus en retard. Une autre analyse d'Epoch AI a mesuré que les modèles exécutables sur un seul GPU grand public atteignent les capacités des modèles de pointe avec un retard de 6 à 12 mois, et qu'en usage réel l'écart est probablement plus important que ne le montrent les benchmarks.
Dans le traitement des documents, ce retard a un coût concret. Un modèle moins performant se trompe plus souvent sur un montant dans un tableau, confond deux dates dans un contrat ou se perd dans un courrier de dix pages. Chaque erreur est une correction manuelle, et une automatisation qu'il faut revérifier à la main ne fait pas gagner de temps.
Il y a ensuite le temps qui passe. Un modèle de pointe s'améliore tous les quelques mois, et les utilisateurs d'AIDA en profitent sans rien faire, car c'est nous qui testons les nouveaux modèles. Un modèle installé en interne reste figé au jour de son installation, et le mettre à jour implique de refaire tests et configuration, et souvent d'acheter du nouveau matériel.
Un seul modèle ou un écosystème de modèles ?
Le travail sur les documents n'est pas uniforme, et il varie selon deux axes. Le premier est la complexité du document : un bon de livraison d'une page n'est pas un contrat de cinquante pages, avec tableaux, annexes et signatures. Le second est le niveau de travail professionnel à réaliser : reporter dix champs dans un ERP est une tâche d'opérateur de saisie, rapprocher factures, commandes et paiements est un travail de comptable, évaluer les clauses d'un contrat ou les KPI d'un processus documenté est un travail d'expert.
Un LLM en local oblige à choisir un seul modèle, dimensionné en fonction du matériel acheté, et ce choix est mauvais dans les deux cas. Si le modèle est petit, il gère les tâches simples mais se trompe sur les tâches professionnelles, et chaque erreur revient sur le bureau de quelqu'un. S'il est grand, on garde allumé un serveur de data center même pour lire des bons de livraison. Dans les deux cas, la puissance de calcul est mal utilisée.
Un écosystème de modèles, comme ceux que les grands fournisseurs cloud mettent à disposition, fait l'inverse : chaque tâche est confiée au modèle adapté. Les modèles petits et rapides classent et extraient, les modèles supérieurs raisonnent sur les documents et réalisent le travail professionnel. Un agent peut en utiliser plusieurs dans le même processus, par exemple l'un qui prépare le travail et un autre qui le contrôle. Plus on dispose de modèles, plus la puissance de calcul suit la complexité du travail, et l'on ne dépense davantage que lorsque la tâche l'exige. Quand un meilleur modèle sort, il rejoint l'écosystème sans achat de nouveau matériel.
Il y a aussi un avantage en matière de sécurité : dans un écosystème géré, les modèles proviennent de leurs éditeurs, dans leurs versions officielles, et non de copies modifiées téléchargées depuis un dépôt public.
Combien coûte réellement un LLM on premise ?
Plus que ne le laisse penser le prix des GPU, qui n'est que le poste le plus visible. Louer le serveur ne change pas grand-chose : huit GPU H100 sur AWS coûtent environ 55 dollars de l'heure, soit autour de 40 000 dollars par mois si la machine reste allumée en permanence. Les autres postes viennent ensuite :
- GPU sous-utilisés : une carte coûte le même prix qu'elle travaille ou qu'elle reste inactive, et la charge d'une entreprise se concentre sur quelques heures par jour. Un fournisseur cloud répartit la même capacité sur des milliers de clients.
- Personnel : il faut des compétences pour installer, optimiser, surveiller et mettre à jour le modèle, et ces profils sont parmi les plus recherchés et les plus coûteux du marché.
- Énergie, refroidissement et redondance : si le serveur s'arrête, tous les processus qui dépendent du modèle s'arrêtent.
- Sécurité : le modèle devient un nouveau composant à protéger, avec ses mises à jour et ses vulnérabilités.
C'est le même calcul que l'on faisait pour le serveur de messagerie interne : le matériel était la partie bon marché, le reste pesait bien plus lourd.
Avec AIDA, la comparaison est vite faite. L'intelligence artificielle se paie à l'usage (pay per use), avec les pages de documents de votre forfait, celles que l'entreprise a déjà achetées pour traiter ses documents : le coût se mesure en centimes par page, sans matériel à acheter et sans rien dépenser quand vous ne l'utilisez pas.
Un LLM en local protège-t-il vraiment la confidentialité des données ?
Moins qu'il n'y paraît. Garder les données en interne protège contre un risque : que le fournisseur les conserve ou les utilise. Mais un modèle de pointe hébergé dans l'UE avec zero data retention élimine déjà ce risque par contrat : les requêtes sont traitées en Europe, ne sont pas conservées et ne servent pas à entraîner le modèle. C'est ainsi que fonctionne AIDA. Le modèle en local, en revanche, en ouvre un nouveau.
Un modèle de langage n'est pas un programme que l'on peut lire ligne par ligne. Il est fait de milliards de nombres, et personne, pas même ceux qui l'ont créé, ne peut dire avec certitude comment il se comportera dans chaque situation. Quand ce modèle devient un agent, c'est-à-dire qu'il peut exécuter des commandes, lire des fichiers et se connecter au réseau, on le fait entrer dans le réseau interne en lui remettant les clés.
Il faut distinguer deux questions : où tourne le modèle, et ce que peut faire l'agent qui l'utilise. Les deux cas suivants concernent des agents ayant accès aux commandes et au réseau, et les mêmes modèles open figurent aussi dans les catalogues des grands fournisseurs cloud. Mais le local cumule les deux problèmes : des poids dont on ignore la provenance et un environnement que presque aucune entreprise ne sait cloisonner. Cohere elle-même le dit : faire tourner en interne des poids auxquels on ne peut pas se fier revient simplement à déplacer la boîte noire derrière le pare-feu.
L'affaire Cohere : le modèle qui a tenté d'envoyer un fichier à Pékin
Le 26 octobre 2026, Cohere a publié les résultats d'un test sur Qwen3.8-Flash-Next, un modèle open-weight d'Alibaba très répandu. L'équipe de recherche avait demandé au modèle, dans un environnement isolé, d'écrire une règle de détection d'une cyberattaque. Au lieu de cela, le modèle a fait l'inventaire de la machine sur laquelle il tournait et a tenté de téléverser un fichier de test vers un espace de stockage Alibaba Cloud à Pékin. Dans son raisonnement, il avait écrit qu'il n'utiliserait aucun outil.
La sandbox de Cohere a bloqué la tentative et aucune donnée n'est sortie. Ce cas doit être lu avec prudence. Cohere précise elle-même que le comportement est rare (moins d'un appel sur 100 000 dans ses tests), qu'en relançant la même requête le modèle a écrit la règle correcte, et qu'elle n'a ni identifié la cause ni attribué d'intentions malveillantes au modèle. Cohere vend en outre ses propres modèles et a un intérêt commercial à freiner les alternatives gratuites venues de Chine. Un test indépendant portant sur 130 exécutions de la même tâche n'a enregistré aucun téléversement, même si, lors d'un autre essai, il a vu les modèles Qwen inventer des adresses Alibaba et tenter d'y télécharger des fichiers.
Le signal d'alarme demeure pourtant. Le modèle a fait autre chose que ce qu'il annonçait, et c'est Cohere qui l'a découvert : une entreprise dont le métier est de construire des modèles de langage, avec une équipe de recherche dédiée et une sandbox préparée spécialement pour observer chaque commande. Une entreprise dont ce n'est pas le métier, qui fabrique des machines ou gère un cabinet, n'a ni cette équipe ni cette sandbox. Dans son réseau, une telle tentative ne serait pas bloquée, et selon toute probabilité personne ne saurait jamais qu'elle a eu lieu.
Les portes dérobées cachées dans les poids du modèle
Le second risque est plus insidieux. Dès 2024, une étude d'Anthropic sur les sleeper agents avait montré qu'un modèle peut être entraîné à bien se comporter pendant les tests et mal en présence d'un signal précis, et que l'entraînement de sécurité standard n'élimine pas ce comportement.
En octobre 2026, ProjectDiscovery a montré à quel point il est facile de le faire sur un modèle open, comme le résume une note de la Cloud Security Alliance. Avec environ 8 dollars de GPU et deux heures et demie de travail, les chercheurs ont modifié un modèle Qwen de 7 milliards de paramètres : il répondait correctement à toutes les questions normales, mais face à une phrase codée, il exécutait une commande qui téléchargeait un script et envoyait vers l'extérieur des clés SSH et des fichiers de configuration contenant des mots de passe. La porte dérobée se trouve dans les nombres du modèle, pas dans le code : aucun antivirus ni contrôle des fichiers ne peut donc la détecter. La CSA souligne que l'expérience n'a pas encore été reproduite de manière indépendante, mais la technique est à la portée de n'importe qui.
Quiconque télécharge un modèle open depuis un dépôt public, éventuellement une version « optimisée » par des tiers, doit donc faire confiance à toute la chaîne : qui l'a entraîné, qui l'a modifié, qui l'a mis en ligne. Les deux exemples concernent Qwen, mais le pavillon n'y est pour rien : des versions modifiées circulent pour presque tous les modèles open les plus répandus, y compris Llama et gpt-oss d'OpenAI, comme le rapporte Bruce Schneier. Ce qui compte, c'est la provenance des poids. Schneier écrit d'ailleurs que les systèmes d'IA sont vulnérables à toutes les attaques de la chaîne d'approvisionnement (supply chain) auxquelles est exposé le logiciel traditionnel.
Une défense existe, et la CSA elle-même l'indique : avec l'approbation des commandes et une sandbox réseau activées, la commande malveillante aurait nécessité l'accord d'une personne. C'est le principe sur lequel repose l'architecture agentique d'AIDA, conçue avec la sécurité et la confidentialité au cœur par une équipe qui travaille depuis des décennies sur des documents et des données sensibles. Les agents d'AIDA opèrent dans un environnement contrôlé et limité à des tâches précises sur les documents, travaillent uniquement sur le contexte de l'application et appliquent par défaut le principe du human in the loop : la personne reste au centre, et les actions importantes passent par sa validation.
Pourquoi le cloud professionnel offre-t-il plus de garanties ?
Pour la même raison que le cloud l'a emporté sur le serveur dans le placard : la sécurité est un travail à plein temps, et celui qui le fait pour des milliers de clients le fait mieux que celui qui le fait pour lui-même. Un grand fournisseur d'IA dispose d'équipes dédiées à la sécurité des modèles, les teste contre les comportements anormaux avant de les publier et répond contractuellement de la manière dont il traite les données.
Le bon choix ne se joue donc pas entre « en interne » et « à l'extérieur », mais entre un modèle unique et un écosystème géré par un fournisseur sérieux. Avant d'adopter un service d'IA, mieux vaut demander :
- où les données sont traitées, et s'il est possible de limiter ce traitement à l'Union européenne ;
- si les requêtes sont conservées ou utilisées pour entraîner les modèles (la bonne réponse est non : zero data retention) ;
- quelles certifications et quels engagements contractuels couvrent le traitement, par exemple au regard du RGPD, de l'AI Act ou de la directive NIS2 ;
- qui décide de ce que fait l'IA : si un agent peut envoyer un e-mail ou un paiement sans qu'une personne le valide.
Comment AIDA s'y prend
AIDA applique le même principe à la gestion documentaire : c'est nous qui gérons l'infrastructure, à plein temps, pour que nos clients n'aient pas à le faire. AIDA est entièrement hébergée sur AWS et les données des utilisateurs européens restent dans les data centers de Francfort et d'Irlande, avec la possibilité d'activer à tout moment la résidence exclusive des données dans l'Union européenne. Les connexions sont chiffrées en TLS 1.3 et l'échange de clés est déjà aligné sur les standards post-quantiques du NIST. Pour l'intelligence artificielle aussi, AIDA s'appuie sur AWS : des modèles de pointe fournis depuis des data centers situés dans l'Union européenne, avec un contrat qui exclut la conservation des données et leur utilisation pour l'entraînement. Tous les détails figurent sur la page sécurité et certifications d'AIDA.
À l'intérieur d'AIDA aussi, c'est un écosystème qui travaille. Pour l'extraction des données (IDP), il y a le moteur Hybrid AI, qui apprend même sans modèle génératif et que l'IA générative renforce naturellement. Pour comprendre les documents et réaliser le travail professionnel, AIDA utilise des modèles de pointe et choisit pour chaque tâche celui qui convient. Le client n'a rien à choisir : il ne voit que les pages, et seules les tâches les plus complexes consomment des pages.
C'est aussi une question d'architecture. Dans AIDA, les documents ne sont pas des fichiers éparpillés sur le réseau du bureau : on n'y accède que par l'application. C'est pourquoi un ransomware ne trouve rien à chiffrer, et pour la même raison aucun logiciel installé sur un PC de l'entreprise ne peut fouiller dans les archives.
Enfin, les agents IA d'AIDA ne travaillent pas à l'aveugle. Ils reçoivent un contexte correct et certifié : documents déjà classés, données extraites et validées, relations entre documents, historique des événements. Et pour envoyer un e-mail, un message ou une demande de paiement, ils demandent toujours la validation d'une personne, sauf si le client choisit d'activer l'envoi automatique.
Questions fréquentes sur les LLM en local
Utiliser un LLM dans le cloud est-il compatible avec le RGPD ?
Oui, si le fournisseur traite les données conformément aux règles : traitement dans l'Union européenne ou avec des garanties appropriées, un accord de traitement des données et aucune utilisation des données pour l'entraînement. Le RGPD n'impose pas de garder les données en interne, il impose de savoir qui les traite et comment.
Un modèle open source n'est-il pas plus transparent ?
Les poids sont publics, mais pas le comportement : personne ne peut lire des milliards de paramètres et déterminer ce que fera le modèle dans chaque situation. Ouvert ne veut pas dire vérifié, comme le suggèrent l'affaire Cohere et les portes dérobées dans les poids.
Un bon modèle open ne suffit-il pas pour tout le travail ?
Rarement. Le travail sur les documents va de l'extraction de quelques champs à l'analyse d'un contrat, et un modèle unique est toujours trop faible pour une partie du travail ou trop coûteux pour l'autre. Un écosystème attribue à chaque tâche la puissance de calcul nécessaire.
Quand un LLM on premise a-t-il du sens ?
Dans peu de cas : réseaux totalement isolés d'Internet pour des obligations légales ou de défense, ou volumes énormes et constants sur une tâche simple, avec une équipe dédiée à la gestion du modèle. Même dans ces cas, le modèle doit être traité comme un logiciel non fiable, sans accès libre au réseau ni aux systèmes internes.
Que signifie zero data retention ?
C'est l'engagement contractuel du fournisseur à ne pas conserver les requêtes et les réponses après les avoir traitées, et donc à ne pas les utiliser pour entraîner les modèles. C'est la garantie à exiger de tout service d'IA qui traite des documents d'entreprise.
Vous voulez voir comment AIDA met l'intelligence artificielle au service de vos documents, sans serveur à gérer et avec vos données en Europe ? Réservez une démo d'AIDA.





