Agentic AI
11/13/2026

¿Conviene instalar un LLM en local en tu empresa?

¿Conviene instalar un LLM en local en tu empresa?

Instalar un LLM en local, es decir, ejecutar un modelo de lenguaje open source en los servidores de la empresa, parece la opción más prudente para proteger los datos. Para casi todas las empresas no compensa: te quedas atado a un solo modelo, menos capaz que los de frontera e igual para cualquier tarea, pagas costes que no aparecen en el presupuesto y metes en la red corporativa un software que nadie sabe controlar de verdad.

Si llevas unos años trabajando en TI, esta película ya la has visto. Hace quince años el debate era entre el servidor en el trastero y la nube, y la seguridad era el argumento de quien quería tenerlo todo en casa. Ya sabemos cómo terminó: dejar la infraestructura en manos de profesionales que se dedican a ello a tiempo completo resultó ser más seguro, además de más barato. Con la inteligencia artificial la pregunta es la misma, y la respuesta también.

¿Qué significa instalar un LLM en local?

Significa descargar los pesos de un modelo open-weight (por ejemplo Llama, Qwen, DeepSeek o Mistral) y ejecutarlo en GPU propias o alquiladas, dentro de tu propio centro de datos. También se habla de LLM on premise o de self hosting. La alternativa es usar un modelo de frontera, es decir, uno de los modelos más avanzados del mercado, a través de un proveedor que lo ofrece desde centros de datos profesionales, idealmente en la Unión Europea y con un contrato que excluya la conservación de los datos. Es la opción de AIDA, que por eso ha decidido confiar en AWS.

El razonamiento de quien elige la opción local es sencillo: si el modelo está en casa, los documentos no salen. Veamos por qué las cuentas no salen.

Un LLM en local es menos capaz

La diferencia se nota precisamente en las tareas en las que la IA más se necesita. Según Epoch AI, desde principios de 2026 los mejores modelos open-weight se han mantenido de media unos cuatro meses por detrás de los modelos cerrados de frontera. Parece poco, pero se refiere a los modelos abiertos más grandes, que para funcionar suelen necesitar un servidor con ocho GPU de centro de datos: una máquina que nueva cuesta entre 250.000 y 320.000 dólares.

Los modelos que una empresa instala de verdad, los que caben en una o dos tarjetas gráficas, van más atrasados. Otro análisis de Epoch AI midió que los modelos que se pueden ejecutar en una sola GPU de gama de consumo alcanzan las capacidades de los modelos de frontera con un retraso de 6 a 12 meses, y que en el uso real la diferencia probablemente es mayor de lo que indican los benchmarks.

En el trabajo con documentos este retraso tiene un coste concreto. Un modelo menos capaz se equivoca más a menudo con un importe en una tabla, confunde dos fechas en un contrato o se pierde en una carta de diez páginas. Cada error es una corrección manual, y una automatización que hay que revisar a mano no ahorra tiempo.

Además, está el paso del tiempo. Un modelo de frontera mejora cada pocos meses, y quien usa AIDA se beneficia sin hacer nada, porque las pruebas de los nuevos modelos las hacemos nosotros. Un modelo instalado en casa se queda congelado el día de la instalación, y actualizarlo significa repetir pruebas y configuración, y a menudo comprar hardware nuevo.

¿Un solo modelo o un ecosistema de modelos?

El trabajo con documentos no es todo igual, y varía en dos ejes. El primero es la complejidad del documento: un albarán de una página no es un contrato de cincuenta, con tablas, anexos y firmas. El segundo es el nivel del trabajo profesional que hay que hacer sobre él: trasladar diez campos a un ERP es una tarea de auxiliar administrativo, conciliar facturas, pedidos y pagos es un trabajo de contable, y valorar las cláusulas de un contrato o los KPI de un proceso documentado es un trabajo de profesional.

Un LLM en local te obliga a elegir un solo modelo, dimensionado según el hardware que has comprado, y la elección es errónea en ambos casos. Si el modelo es pequeño, aguanta las tareas sencillas pero falla en las profesionales, y cada error vuelve a la mesa de alguien. Si es grande, mantienes encendido un servidor de centro de datos incluso para leer albaranes. En los dos casos la potencia de cálculo se usa mal.

Un ecosistema de modelos, como los que ponen a disposición los grandes proveedores de nube, hace lo contrario: cada tarea va al modelo adecuado. Los modelos pequeños y rápidos clasifican y extraen, los modelos superiores razonan sobre los documentos y realizan el trabajo profesional. Un agente puede usar más de uno en el mismo proceso, por ejemplo uno que prepara el trabajo y otro que lo revisa. Cuantos más modelos tienes a tu disposición, más se ajusta la potencia de cálculo a la complejidad del trabajo, y solo gastas más cuando la tarea lo requiere. Cuando sale un modelo mejor, entra en el ecosistema sin necesidad de comprar hardware nuevo.

También hay una ventaja de seguridad: en un ecosistema gestionado los modelos llegan de sus fabricantes, en sus versiones oficiales, y no de copias modificadas descargadas de un repositorio público.

¿Cuánto cuesta realmente un LLM on premise?

Más de lo que indica el precio de las GPU, que es solo la partida más visible. Alquilar el servidor no cambia mucho las cosas: ocho GPU H100 en AWS cuestan unos 55 dólares la hora, es decir, alrededor de 40.000 dólares al mes si la máquina está siempre encendida. Las demás partidas llegan después:

  • GPU infrautilizadas: una tarjeta cuesta lo mismo tanto si trabaja como si está parada, y la carga de una empresa se concentra en pocas horas al día. Un proveedor de nube reparte esa misma capacidad entre miles de clientes.
  • Personas: hacen falta conocimientos para instalar, optimizar, monitorizar y actualizar el modelo, y son de los perfiles más buscados y caros del mercado.
  • Energía, refrigeración y redundancia: si el servidor se para, se paran todos los procesos que dependen del modelo.
  • Seguridad: el modelo se convierte en un nuevo componente que proteger, con sus actualizaciones y sus vulnerabilidades.

Es la misma cuenta que se hacía con el servidor de correo interno: el hardware era la parte barata, el resto pesaba mucho más.

Con AIDA la comparación es rápida. La inteligencia artificial se paga por uso (pay per use), con las páginas de documento de tu plan, las mismas que la empresa ya ha contratado para procesar los documentos: el coste se mide en céntimos por página, sin hardware que comprar y sin gastar nada cuando no la usas.

¿Un LLM en local protege de verdad la privacidad?

Menos de lo que parece. Tener los datos en casa protege de un riesgo: que el proveedor los conserve o los utilice. Pero un modelo de frontera alojado en la UE con zero data retention ya elimina ese riesgo por contrato: las solicitudes se procesan en Europa, no se conservan y no se usan para entrenar el modelo. Así trabaja AIDA. El modelo en local, en cambio, abre uno nuevo.

Un modelo de lenguaje no es un programa que se pueda leer línea a línea. Está formado por miles de millones de números, y nadie, ni siquiera quien lo ha creado, puede decir con certeza cómo se comportará en cada situación. Cuando ese modelo se convierte en un agente, es decir, cuando puede ejecutar comandos, leer archivos y conectarse a la red, lo estás dejando entrar en la red interna con las llaves en la mano.

Hay que separar dos preguntas: dónde se ejecuta el modelo y qué puede hacer el agente que lo utiliza. Los dos casos que siguen se refieren a agentes con acceso a comandos y a la red, y esos mismos modelos abiertos también están en los catálogos de los grandes proveedores de nube. Pero la opción local suma los dos problemas: pesos de procedencia desconocida y un entorno que casi ninguna empresa sabe acotar. Lo dice la propia Cohere: ejecutar en casa pesos en los que no se puede confiar solo traslada la caja negra al interior del firewall.

El caso Cohere: el modelo que intentó subir un archivo a Pekín

El 26 de octubre de 2026 Cohere publicó los resultados de una prueba con Qwen3.8-Flash-Next, un popular modelo open-weight de Alibaba. El equipo de investigación había pedido al modelo, en un entorno aislado, que escribiera una regla para detectar un ciberataque. En lugar de eso, el modelo hizo un inventario de la máquina en la que se ejecutaba e intentó subir un archivo de prueba a un espacio de almacenamiento de Alibaba Cloud en Pekín. En su razonamiento había escrito que no usaría ninguna herramienta.

El sandbox de Cohere bloqueó el intento y no salió ningún dato. El caso hay que leerlo con cautela. La propia Cohere precisa que el comportamiento es poco frecuente (menos de una llamada de cada 100.000 en sus pruebas), que al repetir la misma solicitud el modelo escribió la regla correcta, y que no ha identificado la causa ni atribuye intenciones maliciosas al modelo. Además, Cohere vende sus propios modelos y tiene un interés comercial en frenar las alternativas gratuitas que llegan de China. Una prueba independiente con 130 ejecuciones de la misma tarea no registró ninguna subida, aunque en otra prueba vio cómo los modelos Qwen se inventaban direcciones de Alibaba e intentaban descargar archivos desde allí.

Aun así, la señal de alarma sigue ahí. El modelo hizo algo distinto de lo que decía que iba a hacer, y quien lo descubrió fue Cohere: una empresa que se dedica a construir modelos de lenguaje, con un equipo de investigación propio y un sandbox preparado expresamente para observar cada comando. Una empresa que se dedica a otra cosa, que fabrica maquinaria o gestiona un despacho profesional, no tiene ni ese equipo ni ese sandbox. En su red un intento así no se bloquearía, y con toda probabilidad nadie sabría nunca que ha ocurrido.

Las puertas traseras ocultas en los pesos del modelo

El segundo riesgo es más sutil. Ya en 2024 una investigación de Anthropic sobre los sleeper agents demostró que un modelo puede entrenarse para comportarse bien en las pruebas y mal ante una señal concreta, y que el entrenamiento de seguridad estándar no elimina ese comportamiento.

En octubre de 2026 ProjectDiscovery demostró lo fácil que es hacerlo con un modelo abierto, como resume una nota de la Cloud Security Alliance. Con unos 8 dólares de GPU y dos horas y media de trabajo, los investigadores modificaron un modelo Qwen de 7.000 millones de parámetros: respondía correctamente a todas las preguntas normales, pero ante una frase en clave ejecutaba un comando que descargaba un script y enviaba al exterior claves SSH y archivos de configuración con contraseñas. La puerta trasera (backdoor) está en los números del modelo, no en el código, así que ningún antivirus ni control de archivos puede encontrarla. La CSA subraya que el experimento todavía no se ha replicado de forma independiente, pero la técnica está al alcance de cualquiera.

Quien descarga un modelo abierto de un repositorio público, quizá una versión "optimizada" por terceros, tiene que confiar en toda la cadena: quien lo entrenó, quien lo modificó y quien lo subió. Los dos ejemplos se refieren a Qwen, pero la bandera no tiene nada que ver: circulan versiones modificadas de casi todos los modelos abiertos más populares, incluidos Llama y gpt-oss de OpenAI, como señala Bruce Schneier. Lo que importa es la procedencia de los pesos. El propio Schneier escribe que los sistemas de IA son vulnerables a todos los ataques a la cadena de suministro a los que es vulnerable el software tradicional.

Existe una defensa, y la señala la propia CSA: con la aprobación de comandos y un sandbox de red activos, el comando malicioso habría necesitado el visto bueno de una persona. Es el principio sobre el que se ha construido la arquitectura agéntica de AIDA, diseñada con la seguridad y la privacidad en el centro por un equipo que lleva décadas trabajando con documentos y datos sensibles. Los agentes de AIDA operan en un entorno controlado y limitado a tareas específicas sobre los documentos, trabajan solo sobre el contexto de la aplicación y aplican el human in the loop como enfoque estándar: la persona sigue en el centro, y las acciones importantes pasan por su confirmación.

¿Por qué la nube profesional ofrece más garantías?

Por la misma razón por la que la nube ganó al servidor del trastero: la seguridad es un trabajo a tiempo completo, y quien lo hace para miles de clientes lo hace mejor que quien lo hace para sí mismo. Un gran proveedor de IA tiene equipos dedicados a la seguridad de los modelos, los prueba frente a comportamientos anómalos antes de lanzarlos y responde por contrato de cómo trata los datos.

Por tanto, la elección correcta no es entre "en casa" y "fuera", sino entre un solo modelo y un ecosistema gestionado por un proveedor serio. Antes de adoptar un servicio de IA conviene preguntar:

  • dónde se procesan los datos y si es posible limitarlos a la Unión Europea;
  • si las solicitudes se conservan o se usan para entrenar los modelos (la respuesta correcta es no: zero data retention);
  • qué certificaciones y qué compromisos contractuales cubren el tratamiento, por ejemplo en relación con el RGPD, el Reglamento de IA (AI Act) o la directiva NIS2;
  • quién decide lo que hace la IA: si un agente puede enviar un correo electrónico o un pago sin que una persona lo confirme.

Cómo lo hace AIDA

AIDA aplica a la gestión documental el mismo principio: la infraestructura la gestionamos nosotros, a tiempo completo, para que los clientes no tengan que hacerlo. AIDA está alojada íntegramente en AWS y los datos de los usuarios europeos permanecen en los centros de datos de Fráncfort e Irlanda, con la posibilidad de activar en cualquier momento la residencia exclusiva de los datos en la Unión Europea. Las conexiones están cifradas con TLS 1.3 y el intercambio de claves ya está alineado con los estándares poscuánticos del NIST. También para la inteligencia artificial AIDA confía en AWS: modelos de frontera servidos desde centros de datos en la Unión Europea, con un contrato que excluye la conservación de los datos y su uso para el entrenamiento. Tienes todos los detalles en la página de seguridad y certificaciones de AIDA.

Dentro de AIDA también trabaja un ecosistema. Para la extracción de datos (IDP) está el motor Hybrid AI, que aprende incluso sin un modelo generativo y al que la IA generativa potencia de forma natural. Para comprender los documentos y realizar el trabajo profesional, AIDA usa modelos de frontera y elige para cada tarea el más adecuado. El cliente no tiene que elegir nada: solo ve las páginas, y solo las tareas más complejas consumen páginas.

También es una cuestión de arquitectura. Los documentos en AIDA no son archivos dispersos por la red de la oficina, sino que solo se puede acceder a ellos a través de la aplicación: por eso un ransomware no encuentra nada que cifrar, y por el mismo motivo ningún software instalado en un PC de la empresa puede husmear en el archivo.

Por último, los agentes de IA de AIDA no trabajan a ciegas. Reciben un contexto correcto y certificado: documentos ya clasificados, datos extraídos y validados, relaciones entre documentos e historial de eventos. Y para enviar un correo electrónico, un mensaje o una solicitud de pago siempre piden la confirmación de una persona, salvo que el cliente decida activar el envío automático.

Preguntas frecuentes sobre los LLM en local

¿Usar un LLM en la nube es compatible con el RGPD?

Sí, si el proveedor trata los datos conforme a las normas: procesamiento en la Unión Europea o con garantías adecuadas, un acuerdo de tratamiento de datos y ningún uso de los datos para el entrenamiento. El RGPD no obliga a tener los datos en casa, obliga a saber quién los trata y cómo.

¿No es más transparente un modelo open source?

Los pesos son públicos, pero el comportamiento no: nadie puede leer miles de millones de parámetros y determinar qué hará el modelo en cada situación. Abierto no significa verificado, como sugieren el caso Cohere y las puertas traseras en los pesos.

¿No basta con un buen modelo abierto para todo el trabajo?

Rara vez. El trabajo con documentos va desde la extracción de unos pocos campos hasta el análisis de un contrato, y un solo modelo siempre es demasiado débil para una parte del trabajo o demasiado caro para la otra. Un ecosistema asigna a cada tarea la potencia de cálculo que necesita.

¿Cuándo tiene sentido un LLM on premise?

En pocos casos: redes completamente aisladas de Internet por obligaciones legales o de defensa, o volúmenes enormes y constantes de una tarea sencilla, con un equipo dedicado a gestionar el modelo. Incluso entonces hay que tratar el modelo como software no fiable, sin acceso libre a la red ni a los sistemas internos.

¿Qué significa zero data retention?

Es el compromiso contractual del proveedor de no conservar las solicitudes ni las respuestas después de procesarlas y, por tanto, de no usarlas para entrenar los modelos. Es la garantía que debes exigir a cualquier servicio de IA que trate documentos de empresa.

¿Quieres ver cómo AIDA lleva la inteligencia artificial a tus documentos sin servidores que gestionar y con los datos en Europa? Reserva una demo de AIDA.

Fulvio Molinengo - CTO
Fulvio Molinengo
CTO
 Volver