Vale a pena instalar um LLM local na empresa?

Instalar um LLM local, ou seja, executar um modelo de linguagem open source nos servidores da empresa, parece a escolha mais prudente para proteger os dados. Para quase todas as empresas não compensa: fica-se preso a um único modelo, menos capaz do que os de fronteira e igual para todos os trabalhos, pagam-se custos que não aparecem no orçamento e introduz-se na rede da empresa um software que ninguém sabe realmente controlar.
Quem trabalha em TI há alguns anos já viu este filme. Há quinze anos, o debate era entre o servidor na arrecadação e a cloud, e a segurança era o argumento de quem queria manter tudo em casa. Sabemos como acabou: confiar a gestão da infraestrutura a profissionais que o fazem a tempo inteiro revelou-se mais seguro, além de mais económico. Com a inteligência artificial, a pergunta é a mesma, e a resposta também.
O que significa instalar um LLM local?
Significa descarregar os pesos de um modelo open-weight (por exemplo Llama, Qwen, DeepSeek, Mistral) e executá-lo em GPU próprias ou alugadas, dentro do próprio data center. Fala-se também de LLM on premise ou de self hosting. A alternativa é usar um modelo de fronteira, ou seja, um dos modelos mais avançados do mercado, através de um fornecedor que o disponibiliza a partir de data centers profissionais, idealmente na União Europeia e com um contrato que exclui a conservação dos dados. É a escolha da AIDA, que por isso decidiu confiar na AWS.
O raciocínio de quem escolhe o local é simples: se o modelo está em casa, os documentos não saem. Vejamos porque é que as contas não batem certo.
Um LLM local é menos capaz
A diferença nota-se precisamente nas tarefas em que a IA é mais útil. Segundo a Epoch AI, desde o início de 2026 os melhores modelos open-weight ficaram, em média, cerca de quatro meses atrás dos modelos fechados de fronteira. Parece pouco, mas diz respeito aos maiores modelos open, que para funcionar exigem normalmente um servidor com oito GPU de data center: uma máquina que, nova, custa entre 250 000 e 320 000 dólares.
Os modelos que uma empresa instala realmente, os que cabem em uma ou duas placas gráficas, estão ainda mais atrás. Outra análise da Epoch AI mediu que os modelos executáveis numa única GPU de gama de consumo alcançam as capacidades dos modelos de fronteira com um atraso de 6 a 12 meses, e que no uso real a diferença é provavelmente maior do que indicam os benchmarks.
No trabalho com documentos, este atraso tem um custo concreto. Um modelo menos capaz erra com mais frequência um montante numa tabela, confunde duas datas num contrato ou perde-se numa carta de dez páginas. Cada erro é uma correção manual, e uma automação que tem de ser verificada à mão não poupa tempo.
Há ainda a passagem do tempo. Um modelo de fronteira melhora a cada poucos meses, e quem usa a AIDA beneficia disso sem fazer nada, porque os testes dos novos modelos somos nós que os fazemos. Um modelo instalado em casa fica parado no dia da instalação, e atualizá-lo significa refazer testes e configuração e, muitas vezes, comprar hardware novo.
Um único modelo ou um ecossistema de modelos?
O trabalho com documentos não é todo igual, e varia ao longo de dois eixos. O primeiro é a complexidade do documento: uma guia de remessa de uma página não é um contrato de cinquenta, com tabelas, anexos e assinaturas. O segundo é o nível do trabalho profissional que é preciso fazer sobre ele: transcrever dez campos para um ERP é tarefa de um administrativo, reconciliar faturas, encomendas e pagamentos é trabalho de contabilista, avaliar as cláusulas de um contrato ou os KPI de um processo documentado é trabalho de um profissional especializado.
Um LLM local obriga a escolher um único modelo, dimensionado para o hardware adquirido, e a escolha é errada em ambos os casos. Se o modelo for pequeno, aguenta as tarefas simples mas erra nas profissionais, e cada erro volta à secretária de alguém. Se for grande, mantém-se ligado um servidor de data center até para ler guias de remessa. Em ambos os casos, a capacidade de computação é mal utilizada.
Um ecossistema de modelos, como os que os grandes fornecedores de cloud disponibilizam, faz o contrário: cada atividade vai para o modelo adequado. Os modelos pequenos e rápidos classificam e extraem, os modelos superiores raciocinam sobre os documentos e realizam o trabalho profissional. Um agente pode usar mais do que um no mesmo processo, por exemplo um que prepara o trabalho e outro que o verifica. Quanto mais modelos houver à disposição, mais a capacidade de computação acompanha a complexidade do trabalho, e só se gasta mais quando a tarefa o exige. Quando sai um modelo melhor, entra no ecossistema sem ser preciso comprar hardware novo.
Há também uma vantagem de segurança: num ecossistema gerido, os modelos chegam dos respetivos fabricantes, nas versões oficiais, e não de cópias modificadas descarregadas de um repositório público.
Quanto custa realmente um LLM on premise?
Mais do que indica o preço das GPU, que é apenas a rubrica mais visível. Alugar o servidor não muda muito: oito GPU H100 na AWS custam cerca de 55 dólares por hora, ou seja, cerca de 40 000 dólares por mês se a máquina ficar sempre ligada. As outras rubricas surgem depois:
- GPU subutilizadas: uma placa custa o mesmo quer trabalhe quer esteja parada, e a carga de uma empresa concentra-se em poucas horas por dia. Um fornecedor de cloud distribui a mesma capacidade por milhares de clientes.
- Pessoas: são precisas competências para instalar, otimizar, monitorizar e atualizar o modelo, e estão entre os perfis mais procurados e caros do mercado.
- Energia, refrigeração e redundância: se o servidor parar, param todos os processos que dependem do modelo.
- Segurança: o modelo torna-se um novo componente a proteger, com as suas atualizações e as suas vulnerabilidades.
É a mesma conta que se fazia para o servidor de correio interno: o hardware era a parte barata, o resto pesava muito mais.
Com a AIDA, a comparação faz-se depressa. A inteligência artificial paga-se consoante o consumo (pay per use), com as páginas de documento do seu plano, as mesmas que a empresa já adquiriu para processar os documentos: o custo mede-se em cêntimos por página, sem hardware para comprar e sem gastar nada quando não é utilizada.
Um LLM local protege realmente a privacidade?
Menos do que parece. Manter os dados em casa protege de um risco: o de o fornecedor os conservar ou utilizar. Mas um modelo de fronteira alojado na UE com zero data retention já elimina esse risco por contrato: os pedidos são processados na Europa, não são conservados e não são usados para treinar o modelo. É assim que a AIDA trabalha. O modelo local, pelo contrário, abre um risco novo.
Um modelo de linguagem não é um programa que se possa ler linha a linha. É feito de milhares de milhões de números, e ninguém, nem mesmo quem o criou, pode dizer com certeza como se comportará em cada situação. Quando esse modelo se torna um agente, ou seja, quando pode executar comandos, ler ficheiros e ligar-se à rede, está-se a deixá-lo entrar na rede interna com as chaves na mão.
Há que distinguir duas perguntas: onde corre o modelo e o que pode fazer o agente que o utiliza. Os dois casos seguintes dizem respeito a agentes com acesso a comandos e à rede, e os mesmos modelos open também se encontram nos catálogos dos grandes fornecedores de cloud. O local, porém, soma os dois problemas: pesos de proveniência desconhecida e um ambiente que quase nenhuma empresa sabe delimitar. Di-lo a própria Cohere: executar em casa pesos em que não se pode confiar apenas desloca a caixa negra para dentro da firewall.
O caso Cohere: o modelo que tentou carregar um ficheiro em Pequim
A 26 de outubro de 2026, a Cohere publicou os resultados de um teste ao Qwen3.8-Flash-Next, um modelo open-weight muito difundido da Alibaba. A equipa de investigação tinha pedido ao modelo, num ambiente isolado, que escrevesse uma regra para detetar um ataque informático. Em vez disso, o modelo fez o inventário da máquina em que corria e tentou carregar um ficheiro de teste para um espaço de armazenamento da Alibaba Cloud em Pequim. No seu raciocínio, tinha escrito que não usaria nenhuma ferramenta.
A sandbox da Cohere bloqueou a tentativa e nenhum dado saiu. O caso deve ser lido com as devidas cautelas. A própria Cohere esclarece que o comportamento é raro (menos de uma chamada em 100 000 nos seus testes), que, ao relançar o mesmo pedido, o modelo escreveu a regra correta, e que não identificou a causa nem atribui intenções maliciosas ao modelo. Além disso, a Cohere vende modelos próprios e tem um interesse comercial em travar as alternativas gratuitas que chegam da China. Um teste independente com 130 execuções da mesma tarefa não registou nenhum upload, embora noutra prova tenha visto os modelos Qwen inventar endereços da Alibaba e tentar descarregar ficheiros a partir deles.
O sinal de alarme, porém, mantém-se. O modelo fez algo diferente do que dizia estar a fazer, e quem o descobriu foi a Cohere: uma empresa cujo ofício é construir modelos de linguagem, com uma equipa de investigação dedicada e uma sandbox preparada propositadamente para observar cada comando. Uma empresa que se dedica a outra coisa, que fabrica maquinaria ou gere um escritório de contabilidade ou de advocacia, não tem nem essa equipa nem essa sandbox. Na sua rede, uma tentativa deste tipo não seria bloqueada e, muito provavelmente, ninguém saberia que aconteceu.
As backdoors escondidas nos pesos do modelo
O segundo risco é mais insidioso. Já em 2024 uma investigação da Anthropic sobre os sleeper agents tinha mostrado que um modelo pode ser treinado para se comportar bem nos testes e mal na presença de um sinal preciso, e que o treino de segurança padrão não elimina este comportamento.
Em outubro de 2026, a ProjectDiscovery mostrou como é fácil fazê-lo num modelo open, como resume uma nota da Cloud Security Alliance. Com cerca de 8 dólares de GPU e duas horas e meia de trabalho, os investigadores modificaram um modelo Qwen de 7 mil milhões de parâmetros: respondia corretamente a todas as perguntas normais, mas perante uma frase em código executava um comando que descarregava um script e enviava para o exterior chaves SSH e ficheiros de configuração com as palavras-passe. A backdoor está nos números do modelo, não no código, por isso nenhum antivírus ou controlo de ficheiros a consegue encontrar. A CSA sublinha que a experiência ainda não foi replicada de forma independente, mas a técnica está ao alcance de qualquer pessoa.
Quem descarrega um modelo open de um repositório público, talvez uma versão "otimizada" por terceiros, tem portanto de confiar em toda a cadeia: quem o treinou, quem o modificou, quem o carregou. Os dois exemplos dizem respeito ao Qwen, mas a bandeira não interessa: circulam versões modificadas de quase todos os modelos open mais difundidos, incluindo o Llama e o gpt-oss da OpenAI, como relata Bruce Schneier. O que conta é a proveniência dos pesos. O próprio Schneier escreve que os sistemas de IA são vulneráveis a todos os ataques à cadeia de abastecimento (supply chain) a que o software tradicional é vulnerável.
Existe uma defesa, e é a própria CSA que a indica: com a aprovação de comandos e uma sandbox de rede ativas, o comando malicioso teria exigido o aval de uma pessoa. É o princípio sobre o qual assenta a arquitetura agentica da AIDA, concebida com a segurança e a privacidade no centro por uma equipa que trabalha há décadas com documentos e dados sensíveis. Os agentes da AIDA operam num ambiente controlado e limitado a tarefas específicas sobre os documentos, trabalham apenas no contexto da aplicação e têm o human in the loop como abordagem padrão: a pessoa continua no centro, e as ações relevantes passam pela sua confirmação.
Porque é que a cloud profissional dá mais garantias?
Pela mesma razão pela qual a cloud venceu o servidor na arrecadação: a segurança é um trabalho a tempo inteiro, e quem o faz para milhares de clientes fá-lo melhor do que quem o faz para si próprio. Um grande fornecedor de IA tem equipas dedicadas à segurança dos modelos, testa-os contra comportamentos anómalos antes de os lançar e responde contratualmente pela forma como trata os dados.
A escolha certa, portanto, não é entre "em casa" e "fora", mas entre um único modelo e um ecossistema gerido por um fornecedor sério. Antes de adotar um serviço de IA, convém perguntar:
- onde são processados os dados, e se é possível limitá-los à União Europeia;
- se os pedidos são conservados ou usados para treinar os modelos (a resposta certa é não: zero data retention);
- que certificações e compromissos contratuais cobrem o tratamento, por exemplo em relação ao RGPD, ao AI Act ou à diretiva NIS2;
- quem decide o que a IA faz: se um agente pode enviar um email ou um pagamento sem que uma pessoa o confirme.
Como o faz a AIDA
A AIDA aplica à gestão documental o mesmo princípio: a infraestrutura somos nós que a gerimos, a tempo inteiro, para que os clientes não tenham de o fazer. A AIDA está alojada integralmente na AWS e os dados dos utilizadores europeus ficam nos data centers de Frankfurt e da Irlanda, com a possibilidade de ativar a qualquer momento a residência exclusiva dos dados na União Europeia. As ligações são cifradas com TLS 1.3 e a troca de chaves já está alinhada com as normas pós-quânticas do NIST. Também para a inteligência artificial a AIDA confia na AWS: modelos de fronteira disponibilizados a partir de data centers na União Europeia, com um contrato que exclui a conservação dos dados e a sua utilização para treino. Todos os detalhes estão na página segurança e certificações da AIDA.
Também dentro da AIDA trabalha um ecossistema. Para a extração de dados (IDP) existe o motor Hybrid AI, que aprende mesmo sem um modelo generativo e que a IA generativa potencia de forma natural. Para compreender os documentos e realizar o trabalho profissional, a AIDA usa modelos de fronteira e escolhe para cada atividade o mais adequado. O cliente não tem de escolher nada: vê apenas as páginas, e só as atividades mais complexas consomem páginas.
É também uma questão de arquitetura. Na AIDA, os documentos não são ficheiros dispersos pela rede do escritório: só se chega a eles através da aplicação. Por isso um ransomware não encontra nada para cifrar e, pelo mesmo motivo, nenhum software instalado num PC da empresa pode vasculhar o arquivo.
Por fim, os agentes de IA da AIDA não trabalham às cegas. Recebem um contexto correto e certificado: documentos já classificados, dados extraídos e validados, relações entre documentos, histórico de eventos. E para enviar um email, uma mensagem ou um pedido de pagamento pedem sempre a confirmação de uma pessoa, a menos que o cliente opte por ativar o envio automático.
Perguntas frequentes sobre LLM locais
Usar um LLM na cloud é compatível com o RGPD?
Sim, se o fornecedor tratar os dados de acordo com as regras: processamento na União Europeia ou com garantias adequadas, um acordo de tratamento de dados e nenhuma utilização dos dados para treino. O RGPD não obriga a manter os dados em casa: obriga a saber quem os trata e como.
Um modelo open source não é mais transparente?
Os pesos são públicos, mas o comportamento não: ninguém consegue ler milhares de milhões de parâmetros e determinar o que o modelo fará em cada situação. Aberto não significa verificado, como sugerem o caso Cohere e as backdoors nos pesos.
Não basta um bom modelo open para todo o trabalho?
Raramente. O trabalho com documentos vai da extração de poucos campos à análise de um contrato, e um único modelo é sempre demasiado fraco para uma parte do trabalho ou demasiado caro para a outra. Um ecossistema atribui a cada atividade a capacidade de computação de que precisa.
Quando faz sentido um LLM on premise?
Em poucos casos: redes completamente isoladas da Internet por obrigações legais ou de defesa, ou volumes enormes e constantes numa tarefa simples, com uma equipa dedicada à gestão do modelo. Mesmo aí, o modelo deve ser tratado como software não fiável, sem acesso livre à rede e aos sistemas internos.
O que significa zero data retention?
É o compromisso contratual do fornecedor de não conservar os pedidos e as respostas depois de os processar e, portanto, de não os usar para treinar os modelos. É a garantia a exigir a qualquer serviço de IA que trate documentos empresariais.
Quer ver como a AIDA leva a inteligência artificial aos seus documentos sem servidores para gerir e com os dados na Europa? Marque uma demo da AIDA.





