Quan la informació sensible no pot sortir de l'empresa
IA privada al núvol i local per a empreses
Models de codi obert en servidors al núvol o allotjats a l'empresa, connectats a la seva informació. Ni les dades ni les preguntes surten de l'organització.
Què és una IA privada?
Una IA privada és un sistema d'intel·ligència artificial que funciona dins d'una infraestructura que controla l'empresa, en lloc d'enviar la informació a un servei extern. El model s'executa en un servidor privat o en un núvol privat, i les dades que processa no en surten.
No és el contrari de fer servir ChatGPT o Gemini: en molts projectes el més raonable és combinar-los, decidir per a cada procés quina informació pot sortir i quina no, i deixar l'aplicació preparada per canviar de model sense modificar el codi.
Per què una empresa vol una IA privada
Les dades no surten de l'empresa
Contractes, documentació tècnica, dades de clients o informació econòmica es processen dins de la infraestructura de l'empresa.
Compliment normatiu
Mantenir dades i processos en servidors privats facilita complir l'RGPD i les normes internes sobre on pot residir la informació.
Independència
L'empresa decideix quin model fa servir, en quina versió i quan s'actualitza, sense dependre que un proveïdor canviï el servei, el preu o les condicions. Abans el que no volíem era dependre d'un software tancat; ara el risc és dependre d'un proveïdor d'IA.
Llicència d'ús comercial
Hi ha models de codi obert amb llicències que permeten l'ús comercial sense pagar per consulta, i d'altres que hi posen condicions. Per això la llicència es revisa en escollir el model.
Cost alt però previsible
La inversió es fa en la màquina, no en el consum per consulta. Amb un ús intensiu i continuat, el cost no creix amb cada pregunta, fins que el volum requereixi més capacitat.
Funciona sense connexió externa
Instal·lada en local, continua responent encara que caigui la connexió a internet o el servei d'un proveïdor.
IA privada o IA comercial: què fa cadascuna
No competeixen en el mateix terreny. Un model comercial és generalista; una IA privada es dimensiona segons el que necessita l'empresa.
IA comercial: generalista
Per exemple, ChatGPT, Gemini o Claude
Models enormes que funcionen en centres de dades amb un cost d'infraestructura molt alt, repartit entre milions d'usuaris. Per això es paguen per ús.
- Saben de gairebé tot: redacten, programen, tradueixen i raonen en tasques llargues.
- Processen text, imatges i àudio.
- La informació que se'ls envia surt de l'empresa.
IA privada: especialitzada
Models de codi obert, més petits
La majoria d'empreses no té pressupost per a una infraestructura equivalent a la d'un model comercial, ni li cal. S'escull un model més petit, centrat en les tasques que necessita.
- Si només ha d'entendre textos, no cal que processi imatges.
- Si ha d'analitzar dades numèriques, no cal que conegui la història del món.
- Amb menys paràmetres, funciona en un servidor assequible i respon bé en el seu àmbit.
- La informació no surt de l'empresa.
Quina informació pot anar a un model comercial i quina no
Amb un servei comercial, l'RGPD es compleix per contracte: el proveïdor actua com a encarregat del tractament (article 28), i en aquest contracte queda establert on processa les dades, si les fa servir per entrenar els seus models i quant de temps les conserva. Amb una IA privada, tot això depèn només de l'empresa.
Informació que pot anar a un model comercial
Redactar un text de màrqueting, resumir un article públic, traduir una fitxa de producte, generar idees o codi genèric. Cap d'aquestes tasques no identifica persones ni compromet l'empresa.
Informació que no hauria de sortir de l'empresa sense revisar l'RGPD i les normes internes
Currículums, expedients, fitxes de client, historials, informes interns amb xifres reals o qualsevol document amb dades de categories especials.
Tres maneres d'implantar una IA privada
En un núvol privat
El model s'executa en una infraestructura dedicada a l'empresa, d'un proveïdor que no comparteix recursos amb altres clients. És el punt intermedi: no cal comprar servidors, però les dades no van a un servei públic.
En local, als servidors de l'empresa
El model s'instal·la en servidors de l'empresa, amb la GPU que requereixi el volum d'ús. És l'opció amb més control: la informació no surt de la xarxa, ni tan sols xifrada. Requereix invertir en màquina i en manteniment.
Arquitectura mixta
El més habitual a la pràctica: els processos amb informació sensible es queden dins i la resta fa servir models comercials, que solen ser més capaços i no requereixen infraestructura. La frontera es decideix procés per procés.
Una IA que coneix la documentació de l'empresa
És un dels casos que més demanen les empreses: poder preguntar en llenguatge natural sobre els manuals, els procediments, les fitxes tècniques o els contractes, i que la resposta provingui dels seus documents, no del coneixement general del model.
Per aconseguir-ho, no cal entrenar un model des de zero, cosa que exigeix quantitats enormes de dades i de càlcul. Es fa servir un model existent i se li dona accés a la documentació de l'empresa en el moment de respondre: quan un procediment o una tarifa canvia, no cal tornar a entrenar el model.
Els sis components d'una IA privada sobre documentació interna
Del document a la resposta, tot dins de la infraestructura de l'empresa. Les tecnologies de cada component són exemples: en cada projecte s'escullen segons el tipus de documentació, el volum i la màquina disponible, i es poden substituir quan apareix una alternativa millor.
1. Repositori de documents
Per exemple, ownCloud o Nextcloud
El gestor documental de l'empresa: manuals, procediments, contractes, expedients. Els documents es queden on són.
2. Fragmentació i embeddings
Per exemple, bge-m3
Els documents es divideixen en fragments i cadascun es converteix en un vector (embedding), que en representa el significat, no les paraules exactes.
3. Base de dades vectorial
Per exemple, Qdrant
Desa aquests vectors i, davant d'una pregunta, retorna els fragments que més s'hi assemblen en significat.
4. Model de llenguatge
Per exemple, gpt-oss, Mistral o Qwen
Un model de llenguatge de codi obert, amb una llicència que permeti l'ús comercial, que redacta la resposta amb aquests fragments al davant.
5. Servidor del model
Per exemple, Ollama o vLLM
Executa el model i els embeddings a la GPU del servidor. S'escull segons quantes persones el fan servir alhora, i es pot canviar sense modificar la resta.
6. Interfície de consulta
Per exemple, AnythingLLM o una interfície a mida
La interfície de xat: qui hi accedeix, sobre quins espais de treball (col·leccions de documents) pregunta i de quins documents prové cada resposta.
Cas real: IA privada en una entitat social
Quan la informació no pot sortir de l'organització
Una entitat sense ànim de lucre volia consultar amb IA la seva documentació: expedients amb dades molt sensibles, protocols interns i codis de conducta. És precisament la informació que no pot sortir de l'entitat.
La IA funciona en un servidor de l'entitat: els documents continuen al seu gestor documental, el model és de codi obert i s'executa en aquest mateix servidor, i cada equip pregunta des d'una interfície de xat sobre els espais de treball que té assignats. Res no surt de l'entitat.
Permisos gestionats en un sol sistema
Usuaris, espais i permisos es gestionen al gestor documental. Un servei que hem desenvolupat els replica a la interfície de consulta tan bon punt canvien, i cada document que es puja s'indexa automàticament en el seu espai.
Validada amb una GPU de consum
Una targeta gràfica de consum, no de centre de dades, executa el model, reduït per ocupar menys memòria, i els embeddings, per a poques converses alhora. Amb més memòria es pot ampliar el context i recuperar més fragments en cada resposta.
Indexació en segon pla
Els documents s'indexen sense interrompre l'ús de l'assistent. En les proves, indexar diversos milers de documents públics va trigar gairebé un dia, sense que el servidor es quedés sense memòria.
Com implantem una IA privada en una empresa
Abans de començar: la informació, ben organitzada
Una IA privada treballa amb les dades de l'empresa tal com estan. Abans de començar, cal tenir clar quina informació hi ha, on és, en quin estat es troba i qui la pot veure. Si no està ben organitzada, el primer pas és de governança de dades i, si es tracta de documents, de gestió documental.
Anàlisi de l'ús i dels processos
Per a què es farà servir: consultar documentació, classificar informació o treballar dins d'agents i automatitzacions. Amb aquesta anàlisi es decideix si cal un servidor a l'empresa, un núvol privat o una arquitectura mixta.
Elecció del model i de la infraestructura
Quin model encaixa amb l'ús i l'idioma, i quina màquina necessita per respondre en un temps raonable.
Connexió amb les dades, sense entrenar el model
El model no s'entrena amb la informació de l'empresa: s'hi connecta. Si ha de respondre amb documentació, els documents es divideixen en fragments, es converteixen en vectors i s'indexen per espais de treball; si treballa amb l'ERP o el CRM, en consulta les dades amb els permisos de cada usuari.
Integració amb les eines de l'empresa
La interfície de consulta, els accessos per usuari o la connexió amb les aplicacions, els agents i les automatitzacions que la facin servir. Els usuaris i els permisos se sincronitzen des del sistema on ja es gestionen, per no haver de mantenir-los dues vegades.
Proves i ajustos
Amb casos reals de l'empresa, comprovant que cada resposta és correcta i, quan prové d'un document, que en cita la font.
Preguntes freqüents sobre IA privada
Quina diferència hi ha entre una IA privada i una IA local?
Alguna norma obliga a tenir la IA en servidors privats?
Amb una IA privada, cada persona consulta només la seva documentació?
Una IA privada serveix també per a agents i automatitzacions?
Quina màquina cal per a una IA privada?
Quant costa una IA privada?
Quina documentació hauria de poder consultar el teu equip?
Explica'ns quina documentació hi ha i què es vol poder preguntar. Et direm què cal i si convé un servidor a l'empresa o un núvol privat.