Cuando la información sensible no puede salir de la empresa
IA privada cloud y local para empresas
Modelos de código abierto en servidores cloud o alojados en tu empresa, conectados a tu información. Ni los datos ni las preguntas salen de la organización.
¿Qué es una IA privada?
Una IA privada es un sistema de inteligencia artificial que funciona dentro de una infraestructura que controla la empresa, en lugar de enviar la información a un servicio externo. El modelo se ejecuta en un servidor privado o en una nube privada, y los datos que procesa no salen de ahí.
No es lo contrario de usar ChatGPT o Gemini: en muchos proyectos lo razonable es combinar los dos, decidir para cada proceso qué información puede salir y cuál no, y dejar la aplicación preparada para cambiar de modelo sin modificar el código.
Por qué una empresa quiere una IA privada
Los datos no salen de la empresa
Contratos, documentación técnica, datos de clientes o información económica se procesan dentro de la infraestructura de la empresa.
Cumplimiento normativo
Mantener datos y procesos en servidores privados facilita cumplir el RGPD y las normas internas sobre dónde puede estar la información.
Independencia
La empresa decide qué modelo usa, en qué versión y cuándo se actualiza, sin depender de que un proveedor cambie el servicio, el precio o las condiciones. Antes lo que no queríamos era depender de un software cerrado; ahora el riesgo es depender de un proveedor de IA.
Licencia de uso comercial
Hay modelos de código abierto con licencias que permiten el uso comercial sin pagar por consulta, y otros que ponen condiciones. Por eso la licencia se revisa al elegir el modelo.
Coste alto pero previsible
La inversión está en la máquina, no en el consumo por consulta. Con un uso intensivo y continuado, el coste no crece con cada pregunta, hasta que el volumen requiere más capacidad.
Funciona sin conexión externa
Instalada en local, sigue respondiendo aunque se caiga la conexión a internet o el servicio de un proveedor.
IA privada o IA comercial: qué hace cada una
No compiten en lo mismo. Un modelo comercial es generalista; una IA privada se dimensiona para lo que necesita la empresa.
IA comercial: generalista
Por ejemplo, ChatGPT, Gemini o Claude
Modelos enormes que funcionan en centros de datos con un coste de infraestructura muy alto, repartido entre millones de usuarios. Por eso se pagan por uso.
- Saben de casi todo: redactan, programan, traducen y razonan en tareas largas.
- Procesan texto, imágenes y audio.
- La información que se les envía sale de la empresa.
IA privada: especializada
Modelos de código abierto, más pequeños
La mayoría de empresas no tiene presupuesto para una infraestructura equivalente a la de un modelo comercial, ni le hace falta. Se elige un modelo más pequeño, centrado en las tareas que necesita.
- Si solo hay que entender textos, no hace falta que procese imágenes.
- Si hay que analizar datos numéricos, no hace falta que conozca la historia del mundo.
- Con menos parámetros, funciona en un servidor asequible y responde bien en su ámbito.
- La información no sale de la empresa.
Qué información puede ir a un modelo comercial y cuál no
Con un servicio comercial, el RGPD se cumple por contrato: el proveedor actúa como encargado del tratamiento (artículo 28), y en ese contrato queda fijado dónde procesa los datos, si los usa para entrenar sus modelos y cuánto tiempo los guarda. Con una IA privada, todo eso depende solo de la empresa.
Información que puede ir a un modelo comercial
Redactar un texto de marketing, resumir un artículo público, traducir una ficha de producto, generar ideas o código genérico. Ninguna de estas tareas identifica a personas ni compromete a la empresa.
Información que no debería salir de la empresa sin revisar RGPD y normas internas
Currículums, expedientes, fichas de cliente, historiales, informes internos con cifras reales o cualquier documento con datos de categorías especiales.
Tres formas de implantar una IA privada
En una nube privada
El modelo se ejecuta en una infraestructura dedicada a la empresa, en un proveedor que no comparte recursos con otros clientes. Es el punto intermedio: no hay que comprar servidores, pero los datos no van a un servicio público.
En local, en los servidores de la empresa
El modelo se instala en servidores de la empresa, con la GPU que requiera el volumen de uso. Es la opción con más control: la información no sale de la red, ni siquiera cifrada. Requiere invertir en máquina y en mantenimiento.
Arquitectura mixta
Lo más habitual en la práctica: los procesos con información sensible se quedan dentro y el resto usa modelos comerciales, que suelen ser más capaces y no requieren infraestructura. La frontera se decide proceso a proceso.
Una IA que conoce la documentación de tu empresa
Es uno de los casos que más piden las empresas: poder preguntar en lenguaje natural sobre los manuales, los procedimientos, las fichas técnicas o los contratos, y que la respuesta proceda de sus documentos, no del conocimiento general del modelo.
Para eso no hace falta entrenar un modelo desde cero, que exige cantidades enormes de datos y de cálculo. Se utiliza un modelo existente y se le proporciona acceso a la documentación de la empresa en el momento de responder: cuando un procedimiento o una tarifa cambia, no hay que reentrenar el modelo.
Los seis componentes de una IA privada sobre documentación interna
Del documento a la respuesta, todo dentro de la infraestructura de la empresa. Las tecnologías de cada componente son ejemplos: en cada proyecto se escogen según el tipo de documentación, el volumen y la máquina disponible, y se pueden sustituir cuando aparece una alternativa mejor.
1. Repositorio de documentos
Por ejemplo, ownCloud o Nextcloud
El gestor documental de la empresa: manuales, procedimientos, contratos, expedientes. Los documentos se quedan donde están.
2. Fragmentación y embeddings
Por ejemplo, bge-m3
Los documentos se dividen en fragmentos y cada uno se convierte en un vector (embedding), que representa su significado, no sus palabras exactas.
3. Base de datos vectorial
Por ejemplo, Qdrant
Guarda esos vectores y, ante una pregunta, devuelve los fragmentos que más se le parecen en significado.
4. Modelo de lenguaje
Por ejemplo, gpt-oss, Mistral o Qwen
Un modelo de lenguaje de código abierto, con una licencia que permita el uso comercial, que redacta la respuesta con esos fragmentos delante.
5. Servidor del modelo
Por ejemplo, Ollama o vLLM
Ejecuta el modelo y los embeddings en la GPU del servidor. Se elige según cuántas personas lo usan a la vez, y se puede cambiar sin modificar el resto.
6. Interfaz de consulta
Por ejemplo, AnythingLLM o una interfaz a medida
La interfaz de chat: quién accede, sobre qué espacios de trabajo (colecciones de documentos) pregunta y de qué documentos procede cada respuesta.
Caso real: IA privada en una entidad social
Cuando la información no puede salir de la organización
Una entidad sin ánimo de lucro quería consultar con IA su documentación: expedientes con datos muy sensibles, protocolos internos y códigos de conducta. Es justo la información que no puede salir de la entidad.
La IA funciona en un servidor de la entidad: los documentos siguen en su gestor documental, el modelo es de código abierto y se ejecuta en ese mismo servidor, y cada equipo pregunta desde una interfaz de chat sobre los espacios de trabajo que tiene asignados. Nada sale de la entidad.
Permisos gestionados en un solo sistema
Usuarios, espacios y permisos se gestionan en el gestor documental. Un servicio que hemos desarrollado los replica en la interfaz de consulta en cuanto cambian, y cada documento que se sube se indexa automáticamente en su espacio.
Validada con una GPU de consumo
Una tarjeta gráfica de consumo, no de centro de datos, ejecuta el modelo, reducido para ocupar menos memoria, y los embeddings, para pocas conversaciones a la vez. Con más memoria se puede ampliar el contexto y recuperar más fragmentos en cada respuesta.
Indexación en segundo plano
Los documentos se indexan sin interrumpir el uso del asistente. En las pruebas, indexar varios miles de documentos públicos llevó casi un día, sin que el servidor se quedara sin memoria.
Cómo implantamos una IA privada en una empresa
Antes de empezar: la información, bien organizada
Una IA privada trabaja con los datos de la empresa tal como están. Antes de empezar hay que tener claro qué información hay, dónde está, en qué estado y quién puede verla. Si no está bien organizada, el primer paso es de gobierno del dato y, si se trata de documentos, de gestión documental.
Análisis del uso y los procesos
Para qué se va a usar: consultar documentación, clasificar información o trabajar dentro de agentes y automatizaciones. Con ese análisis se decide si hace falta un servidor en la empresa, una nube privada o una arquitectura mixta.
Elección del modelo y la infraestructura
Qué modelo encaja con el uso y el idioma, y qué máquina necesita para responder en un tiempo razonable.
Conexión con los datos, sin entrenar el modelo
El modelo no se entrena con la información de la empresa: se conecta a ella. Si tiene que responder con documentación, los documentos se dividen en fragmentos, se convierten en vectores y se indexan por espacios de trabajo; si trabaja con el ERP o el CRM, consulta sus datos con los permisos de cada usuario.
Integración con las herramientas de la empresa
La interfaz de consulta, los accesos por usuario o la conexión con las aplicaciones, los agentes y las automatizaciones que la vayan a usar. Los usuarios y los permisos se sincronizan desde el sistema donde ya se gestionan, para no tener que mantenerlos dos veces.
Pruebas y ajustes
Con casos reales de la empresa, comprobando que cada respuesta es correcta y, cuando procede de un documento, que cita su fuente.
Preguntas frecuentes sobre IA privada
¿Qué diferencia hay entre una IA privada y una IA en local?
¿Alguna norma obliga a tener la IA en servidores privados?
¿Con una IA privada, cada persona consulta solo su documentación?
¿Una IA privada sirve también para agentes y automatizaciones?
¿Qué máquina hace falta para una IA privada?
¿Cuánto cuesta una IA privada?
¿Qué documentación debería poder consultar tu equipo?
Cuéntanos qué documentación hay y qué se quiere poder preguntar. Te decimos qué hace falta y si conviene un servidor en la empresa o una nube privada.