
Quan la informació sensible no pot sortir de l'empresa
IA privada i RAG al núvol o local per a empreses
Despleguem models d'IA de codi obert en servidors de l'empresa o en un núvol privat, connectats a dades internes i desenvolupem RAG a mida.
Què és una IA privada?
Una IA privada és un sistema d'intel·ligència artificial desplegat dins d'una infraestructura que controla l'empresa, en lloc d'enviar la informació a una IA comercial externa com Claude, ChatGPT o Gemini. El model s'executa en un servidor local o en un núvol privat, cosa que permet mantenir la privacitat de la informació.
No és excloent fer servir també models comercials en un mateix projecte. De vegades és raonable combinar tots dos sistemes, decidir quins processos gestionen informació sensible i treballar de manera diferent per a cada tipologia. En qualsevol cas, en les nostres implantacions deixem les aplicacions preparades per canviar de model sense modificar el codi.
En quins projectes és interessant fer servir una IA privada?
Principalment quan la informació no pot sortir de l'organització o quan la IA forma part d'un producte propi.
Empreses amb control estricte i compliment normatiu
Salut, finances, asseguradores, despatxos o gestories tracten dades de categories especials o protegides pel secret professional. Interessa reduir els possibles riscos de privacitat. Amb una IA privada és possible demostrar on és la informació i qui hi accedeix.
Empreses que ofereixen un producte propi que inclou IA
La IA s'integra com a part de l'eina per potenciar-ne les funcionalitats i s'integra amb la resta del producte mitjançant un desenvolupament a mida. D'aquesta manera, no hi ha una dependència directa del preu, les condicions ni els canvis d'un proveïdor d'IA comercial. Podem determinar en tot moment quin model fer servir i quan actualitzar-lo, tenint en compte a més que les dades no passen per serveis externs. A Gilsys hem desenvolupat productes SaaS per als nostres clients, tenint en compte que el model escollit ha de tenir una llicència que permeti l'ús comercial.
Startups
Les startups valoren poder validar el producte que llançaran amb un cost d'IA previsible. Amb IA privada al núvol, es lloga la GPU, no es paga per cada consulta i el preu depèn de la capacitat de còmput. A més, la IA privada al núvol encaixa molt bé en les fases MVP d'un desenvolupament per fases.
Entitats socials i organitzacions amb dades sensibles
Expedients, informes socials o dades de salut de persones vulnerables, que no poden sortir de l'organització. És el cas real que expliquem més avall.
Indústria
Plantes on la connexió a internet no sempre és fiable poden instal·lar una IA en local, que pot funcionar encara que no disposin de connexió a internet. Ho detallem a IA per a la indústria.
Administracions públiques
Dades de la ciutadania que es prefereixen emmagatzemar sota control, amb un cost previsible que es pot pressupostar.
Diferències entre IA privada i IA comercial
Són solucions que no competeixen en el mateix terreny. Un model comercial és multimodal, amb altes competències en molts àmbits, mentre que una IA privada es dimensiona segons el que necessita l'empresa.
IA comercial: multimodal
Per exemple, ChatGPT, Gemini o Claude
Són models enormes, que funcionen en centres de dades amb un cost d'infraestructura molt alt, però aquest cost queda repartit entre milions d'usuaris que paguen per ús.
- Disposen de coneixements molt avançats en molts àmbits.
- Processen text, imatges, àudio i fins i tot vídeo en molts casos.
- La informació que se'ls envia surt de l'empresa. Cal revisar periòdicament les polítiques de privacitat de cada contracte.
IA privada: especialitzada
Models de codi obert, més petits
La majoria d'empreses no té pressupost per a una infraestructura equivalent a la d'un model comercial, però tampoc no cal. S'escull un model més petit, limitat al màxim a les tasques que es requereixen.
- Per processar únicament text, no cal que tingui capacitats de processament d'imatges.
- Per analitzar dades numèriques, no cal disposar de coneixements d'història.
- Disposa de menys paràmetres (el terme amb què es mesura una IA), però així pot funcionar en un servidor assequible i respondre bé dins del seu àmbit.
- La informació no surt de la infraestructura de l'empresa.
Quina informació compartir amb un model comercial?
Amb un servei comercial, l'RGPD es compleix d'acord amb el contracte que ofereix el proveïdor. Cal revisar on processa les dades, si es fan servir per entrenar models i quant de temps queden emmagatzemades. Amb una IA privada, només es depèn de l'empresa.
Informació que pot anar a un model comercial
Textos de màrqueting, peticions de resum d'articles públics, traduccions de fitxes de producte o dades tècniques, generar idees o codi genèric. Cap d'aquestes tasques no identifica persones ni compromet l'empresa.
Informació que no hauria de sortir de l'empresa sense revisar l'RGPD i les normes internes
Currículums, expedients, fitxes de client, historials, informes interns amb xifres reals o qualsevol document amb dades de categories especials.
Els grans proveïdors, com Microsoft o Google, ofereixen serveis especialitzats per processar documents com factures o tiquets. Els processen a Europa i tenen polítiques de retenció que permeten complir amb la privacitat. Ho expliquem a anàlisi confidencial de documents.
On s'instal·la una IA privada?
IA privada al núvol o en servidor local
Als servidors de l'empresa
Té sentit quan l'empresa ja té infraestructura per allotjar servidors propis i un equip d'IT que els mantingui. A part del nou servidor, no suposa una inversió addicional en hardware. És l'opció amb més control, ja que la informació no surt de la xarxa, ni tan sols xifrada.
En un núvol privat amb GPU de lloguer
Llogar una màquina amb targeta gràfica dedicada a l'empresa és assequible i no obliga a invertir en infraestructura. És l'habitual en un producte SaaS i en les startups que vulguin oferir serveis d'intel·ligència artificial propis.
Sistemes híbrids
Una empresa pot tenir diferents projectes i fins i tot cada projecte pot fer servir diversos models d'IA. Per a cada model, es pot treballar amb un sistema privat local, al núvol o comercial. En aquest escenari, les funcions amb informació sensible es poden encaminar cap a un model privat i les altres poden fer servir un model comercial, que sol ser més capaç i econòmic.
RAG: oferim a la IA el context de l'empresa
Amb un processament previ de la informació, la podem consultar amb llenguatge natural
L'objectiu és poder preguntar en llenguatge natural sobre la informació de l'empresa (manuals, procediments, fitxes tècniques o contractes) i que la resposta provingui dels seus documents, no del coneixement general del model.
No cal entrenar un model des de zero: és inviable, exigeix quantitats enormes de dades i de càlcul. Per fer-ho, s'escull un model (el que es consideri més adequat per a cada cas) i se li dona accés a la documentació de l'empresa en el moment de respondre. Així, quan una dada canvia, la resposta també.
Aquest tipus de sistema es coneix com a RAG (de l'anglès retrieval-augmented generation, generació augmentada per recuperació): el sistema recupera els fragments de la documentació que responen la pregunta i el model redacta la resposta a partir d'aquests fragments. Quan es prepara en servidors de l'empresa, parlem de RAG privat.
La mateixa base vectorial també serveix, sense redactar respostes, per cercar per significat, relacionar dades o detectar duplicats (fitxes de producte, perfils i aptituds, informació tècnica) dins d'una aplicació. Més detalls a IA integrada en aplicacions.
Com plantegem un RAG a Gilsys
Els sis components d'un RAG privat sobre documentació interna
Del document a la resposta, tot dins de la infraestructura de l'empresa. Les tecnologies de cada component són exemples: en cada projecte s'escullen segons el tipus de documentació, el volum i la màquina disponible. Es poden substituir quan apareix una alternativa millor.
1. Repositori de documents
Per exemple, ownCloud o Nextcloud
El gestor documental de l'empresa emmagatzema manuals, procediments, contractes, expedients. Els documents es conserven dins del gestor.
2. Fragmentació i embeddings
Per exemple, bge-m3
Els documents es divideixen en fragments i cadascun es converteix en un vector (embedding), que en representa el significat, no les paraules exactes.
3. Base de dades vectorial
Per exemple, Qdrant
Una base de dades especial desa aquests vectors i davant d'una pregunta retorna els fragments que més s'hi assemblen en significat, filtrats pels permisos de l'usuari que la fa perquè no accedeixi a informació fora del seu abast.
4. Model de llenguatge
Per exemple, gpt-oss, Mistral o Qwen
Un model de llenguatge redacta la resposta a partir d'aquests fragments i se'l parametritza perquè s'hi cenyeixi més o menys o perquè indiqui que no disposa d'informació concreta si no la troba.
5. Servidor del model
Per exemple, Ollama o vLLM
S'executen el model i els embeddings a la GPU del servidor. Segons quantes persones treballin en paral·lel, es requereix més o menys memòria i velocitat de processament.
6. Interfície de consulta
Per exemple, AnythingLLM o una interfície a mida
S'ofereix una interfície de xat des d'on l'usuari accedeix i disposa d'informació acotada al seu espai de treball. Aquesta interfície es pot desenvolupar a mida i integrar funcionalitats avançades amb programació a mida.
Com es fa servir un RAG privat: xat, fluxos i API
Una interfície de xat
Cal oferir una aplicació web interna o canals com Telegram, WhatsApp o Teams. Ha d'integrar memòria privada per a cada conversa.
Fluxos i automatitzacions
Mitjançant n8n o desenvolupaments a mida, automatitzem el flux d'ingesta contínua d'informació: n'extraiem les dades, per exemple d'aplicacions i fitxers, les processem i les indexem en una base vectorial perquè el RAG les pugui consultar sense intervenció manual. Més detalls a automatitzacions amb IA.
Una API a mida
El RAG es pot fer servir com un servei propi, per exemple amb FastAPI o Slim Framework, amb un punt d'accés per indexar documents i un altre per consultar, al qual es connecten eines com un ERP o aplicacions i serveis a mida.
Cas real: IA privada en una entitat social
Quan la informació no pot sortir de l'organització
Una entitat sense ànim de lucre volia consultar amb intel·ligència artificial la seva documentació privada. Parlem d'expedients amb dades molt sensibles, protocols interns i codis de conducta, informació que consideraven sensible i que no volien transferir fora de l'entitat.
En aquest cas, tot funciona en servidors locals a la mateixa entitat. La documentació es centralitza al gestor documental, el model, de codi obert, s'executa localment i, a més, cada departament pot consultar la informació mitjançant un xat restringit dins dels espais de treball que té autoritzats. Cap dada no surt de l'organització.
Permisos gestionats en un sol sistema
La gestió d'usuaris i permisos es concentra al gestor documental i, mitjançant un desenvolupament a mida, el nostre sistema propaga en temps real aquesta estructura d'accessos a la base de dades vectorial. També s'encarrega de reindexar automàticament cada fitxer actualitzat, de manera que ningú no pot consultar informació a la qual no tingui accés.
Validació amb una GPU de consum
El projecte es va validar amb una targeta gràfica de consum, que permetia executar el model, fer els embeddings i provar algunes converses simultànies. El mateix projecte, amb més memòria, podrà oferir més context i recuperar més fragments en cada resposta.
Indexació automàtica
Els documents s'indexen de manera desatesa, sense interrompre l'ús de l'assistent. En les proves, indexar diversos milers de documents públics de mostra va requerir gairebé un dia de processament.
Com implantem una IA privada en una empresa
Analitzem els requisits concrets i oferim diferents alternatives tecnològiques, partint potencialment d'eines de codi obert sense llicències recurrents, amb possibilitat d'ampliar-les mitjançant desenvolupaments a mida.
Abans de començar: la informació, ben organitzada
Una IA privada treballa amb les dades de l'empresa tal com estan. Abans de començar a treballar amb la informació, cal fer un inventari de la informació disponible, la ubicació, la qualitat i els permisos vinculats. Si no està ben organitzada, el primer pas és de governança de dades per organitzar-la i de gestió documental en el cas de documentació.
Anàlisi de l'ús i dels processos
Es determina amb quina finalitat necessita la IA accedir a la informació: consultar documentació, classificar o treballar dins d'agents i automatitzacions. A partir de l'anàlisi es recomana un servidor a l'empresa, un núvol privat, una arquitectura mixta o IA comercial.
Elecció del model i de la infraestructura
Quin model encaixa amb l'ús i l'idioma i quina màquina necessita per respondre en un temps raonable.
Connexió amb les dades, sense entrenar el model
El model no s'entrena amb la informació de l'empresa: s'hi connecta. Si ha de respondre amb documentació, els documents es divideixen en fragments, es converteixen en vectors i s'indexen per espais de treball; si treballa amb eines internes com un ERP o un CRM, la consulta de dades es fa directament, limitant els permisos de cada usuari.
Integració amb les eines de l'empresa
Desenvolupem la interfície de consulta i la connectem amb aplicacions, agents i fluxos de treball. Per evitar duplicitats, els usuaris i els seus permisos se sincronitzen des d'un únic punt.
Proves en tres nivells
Una resposta generada per IA no es valida comparant el text paraula per paraula. Es comprova en tres nivells abans de publicar qualsevol canvi. Primer, tests automàtics que verifiquen que els documents se segmenten bé, que s'apliquen els permisos de cada usuari, que se citen les fonts i que el motor recupera els fragments correctes. Després, una IA de decisió com Jev avalua cada resposta: confirma si el que afirma es troba realment als documents, si respon al que s'ha consultat i si descarta al·lucinacions. Finalment, entre 50 i 100 preguntes reals de l'empresa, validant les respostes de manera manual. Cada vegada que es canvia el model, el prompt o la documentació, cal tornar a executar la bateria de proves per validar que el resultat no es desviï del llindar fixat.
Manteniment
Es pot acotar una partida periòdica amb tasques acotades, tot i que depèn de les capacitats de l'equip d'IT de l'empresa client. És important reiterar que cada vegada que s'actualitzi el model, s'ha de tornar a executar la bateria de proves.
Preguntes freqüents sobre IA privada
Què és una IA local i en què es diferencia d'una IA privada?
Alguna norma obliga a tenir la IA en servidors privats?
Una IA privada serveix també per a agents i automatitzacions?
Quina màquina cal per a una IA privada?
Depèn principalment de dos factors: les persones que faran servir el sistema en paral·lel i la mida del model (nombre de paràmetres). Un model amb més paràmetres és més complet, però necessita més memòria a la targeta gràfica i cada usuari simultani consumeix més càrrega. Com a orientació:
- Tasques bàsiques o un assistent amb poques persones alhora: una targeta gràfica de consum de 24 o 32 GB, on cap un model com gpt-oss-20b, que segons OpenAI funciona amb 16 GB.
- Més usuaris simultanis o models més capaços: una de 48 GB.
- Un model gran, com gpt-oss-120b: una de 80 GB.
Al núvol, a RunPod per exemple, una targeta gràfica de 24 GB costa entre uns 0,30€ i 0,79€ l'hora i una de 80 GB, entre uns 1,06€ i 1,60€ com a dades indicatives. De totes maneres, en cada projecte es valoren diferents alternatives de màquines.
Es pot apagar la màquina al núvol quan no es fa servir?
Quant es triga a implantar una IA privada?
Quant costa una IA privada?
Desplegar una IA privada té dos costos: el d'implantació i el de la màquina. La feina depèn del tipus de projecte:
- Només el model, perquè el facin servir aplicacions, agents o automatitzacions. En aquest cas, s'avalua dins del pressupost de cada aplicació que el requereixi. El cost no és a instal·lar el model, sinó a preparar i protegir l'API que el fa servir i a desenvolupar aquesta API o l'aplicació vinculada corresponent al projecte.
- Un assistent de xat sobre la documentació de l'empresa (RAG): com a ordre de magnitud, de 5.000€ a 12.000€.
- Projectes més amplis, que connecten la IA privada amb diversos sistemes de l'empresa o s'integren dins d'eines i aplicacions com a serveis, es pressuposten a mida, segons requisits específics.
El servidor es compra o es lloga a part, com s'explica a la pregunta sobre la màquina. Són xifres orientatives. Demanar pressupost és gratuït i sense compromís.

Quina documentació hauria de poder consultar l'equip?
Amb la documentació que hi ha i el que es vol poder preguntar, veiem què cal i si convé un servidor a l'empresa o un núvol privat.




