Jev: el model d'IA ràpid i econòmic que decideix

Fins ara, perquè una IA prengués una decisió dins d’un procés, calia utilitzar un model de llenguatge: se li plantejava la pregunta, raonava, contestava amb una frase i, després, un fragment de codi havia de llegir aquesta frase i deduir què havia decidit. Funciona, però és lent, car i fràgil.

Jev, de TypeSafe AI, funciona d’una altra manera: decideix, no redacta. Rep la situació i les respostes possibles, i retorna l’escollida amb el seu nivell de confiança, en un format que el programa següent pot processar directament.

Un model d’IA més ràpid i econòmic que decideix en lloc d’escriure

Un model de llenguatge pensa en veu alta, paraula per paraula. És el que cal per redactar un informe o explicar un raonament, i per això triga i és costós. Però moltes de les decisions d’una empresa no necessiten raonament: aquest correu és una queixa o una comanda? Aquest contacte encaixa amb el que busquem? Aquest valor del sensor és normal? Una persona les contesta en mig segon.

Un model com Jev resol aquest tipus de decisió directament, sense passar per totes les capes de raonament d’un model de llenguatge. És el que s’anomena un model de “Sistema 1”. Per a una empresa, es tradueix en tres avantatges:

• És més ràpid i més barat. Prou per poder-lo utilitzar centenars de vegades seguides amb un cost acceptable, que és el que requereix un procés de gran volum.
• La resposta no s’ha d’interpretar. Arriba com una opció concreta, no com un “Sí, és clar, sembla urgent” que el programa següent no sap llegir. Aquest error, habitual en les automatitzacions amb IA, desapareix.
• La confiança arriba amb la resposta. Permet dissenyar el circuit necessari: per sobre d’un cert nivell de confiança, el sistema decideix sol; per sota, ho revisa una persona.

Jev no substitueix els models de llenguatge: els complementa

Per redactar, resumir o raonar, els models de llenguatge continuen sent l’eina. El que aporta un model que només decideix és obrir casos d’ús que fins ara no es podien resoldre de la mateixa manera: revisar milers d’elements al dia, un per un, amb un model de llenguatge era massa lent i massa car perquè compensés.

Per això el més habitual no és triar entre l’un i l’altre, sinó treballar per capes: el model que decideix filtra i classifica tot el que entra, i el model de llenguatge només treballa amb el que ha passat el filtre. Cadascun fa el que sap fer millor, i els recursos es gasten on aporten valor.

Com beneficia Jev les automatitzacions

En una automatització amb IA, el flux de treball està decidit per endavant (si passa A, després B) i la IA resol passos concrets. Quan un pas és una decisió, un model així hi encaixa de manera natural:

• Classificar i repartir el que entra. Correus, tiquets, incidències o comandes: a quina àrea van i amb quina prioritat.
• Validar dades abans de passar-les a un altre programa. Que el que entra a l’ERP o a la facturació sigui vàlid, no només que el camp estigui emplenat.
• Puntuar els contactes que arriben de la web, perquè l’equip comercial comenci pels que encaixen.
• Filtrar grans volums de convocatòries, notícies, currículums o documents abans que un model de llenguatge en llegeixi res.

Jev en els agents d’IA

Un agent d’IA decideix el camí pel seu compte, i cada pas és una decisió. Amb un model que només decideix, l’agent:

• Tria el pas següent o l’eina sense passar cada vegada per un model de llenguatge.
• Sap quan ha de demanar aprovació. El que és clar continua endavant, i una persona revisa el que és dubtós.
• Té barreres. Les seves accions es revisen abans d’executar-se, i les arriscades s’aturen abans que es produeixin.

Jev amb dades de màquina

En una planta, les dades arriben cada pocs segons i la decisió ha d’arribar amb la mateixa rapidesa: si un valor és normal o si una aturada mereix un avís. És una aplicació clara de la IA a la indústria: en una cadena de muntatge no cal una IA que generi text, sinó una intel·ligència ràpida que revisi i decideixi.

Cas d’ús real: filtrar licitacions públiques per capes amb Jev

Per veure com encaixen les peces, vegem un cas d’ús real aplicat a una eina pròpia, un cercador de licitacions intel·ligent:

1. Un agent cerca. Periòdicament, revisa les convocatòries i licitacions que es publiquen a internet.
2. Jev decideix si encaixa. Compara cada licitació amb els paràmetres de l’empresa que s’hi vol presentar i retorna si encaixa i en quin percentatge. Les que no encaixen es descarten en aquest pas i no es registren a l’eina.
3. Una automatització descarrega els plecs de les licitacions que han passat el filtre.
4. Un model de llenguatge comercial els analitza. Llegeix els plecs, estima el percentatge de dificultat de presentar-s’hi i escriu un resum.
5. I la persona que s’encarrega de les licitacions decideix, amb el resum i els dos percentatges al davant, si val la pena participar-hi.

Jev processa i filtra les dades publicades; el model de llenguatge, que és el car, només llegeix el que ha passat el primer filtre. Per això processar més fonts no multiplica el cost en la mateixa proporció: el filtre inicial és la part barata.

El mateix patró serveix per a qualsevol pregunta del tipus quant s’assembla això al que busco?: proveïdors enfront d’uns requisits, dades noves enfront de les que ja estan emmagatzemades o incidències enfront de les que ja s’han resolt.

Quan no encaixa un model que només decideix

Quan cal escriure: redactar un correu, resumir una acta, mantenir una conversa o explicar un raonament. Aquesta feina continua sent pròpia d’un model de llenguatge.

Tampoc quan la decisió és única i important. Un model així rendeix quan hi ha volum, en milers de petites decisions; per a la que es pren una vegada l’any, el coll d’ampolla no és la velocitat.

On integrar Jev: software a mida, aplicacions mòbils i dades

Jev no és una eina de xat: s’integra en altres programes a través de la seva API. L’aplicació envia la dada i les opcions possibles, i rep l’opció escollida amb la seva confiança en menys d’un segon. Admet tres tipus de pregunta: triar entre diverses opcions, puntuar segons uns criteris i estimar si una afirmació és certa.

En software a mida

Les aplicacions de gestió prenen decisions repetitives que avui depenen d’una persona o d’una regla fixa: assignar una tasca, prioritzar una incidència o marcar una comanda per a revisió. En un software a mida, Jev les pot prendre en el moment en què es registra la dada. Les decisions amb una confiança baixa queden pendents de revisió.

Exemple: en una aplicació d’incidències, cada incidència s’assigna a un tècnic i a una prioritat en crear-la.

En aplicacions mòbils

En una app, la decisió ha d’arribar mentre l’usuari espera: Jev respon en menys d’un segon, i un model de llenguatge en triga diversos. A les aplicacions mòbils, la crida es fa des del servidor de l’aplicació, no des del telèfon, per no exposar la clau d’accés ni enviar més dades de les necessàries.

Exemple: en una app de parts de treball, el tècnic escriu una nota i l’app proposa el tipus d’intervenció (avaria, manteniment o pressupost) i la prioritat.

En la classificació de documents i productes

Jev assigna cada element a una de les categories que defineix l’empresa: tipus de document, famílies de producte o motius de consulta. S’aplica en un gestor documental o en un catàleg de productes.

Exemple: a partir del text de cada document que es puja al gestor documental, Jev indica si és una factura, un contracte, un albarà o un pressupost, i l’aplicació proposa la carpeta on arxivar-lo.

En la neteja i la normalització de dades

En una migració o en una auditoria de la qualitat de les dades, els camps de text lliure passen a ser llistes tancades. Jev assigna cada valor escrit a mà a una opció de la llista.

Exemple: en la migració d’un CRM, el camp “sector” conté centenars de variants, com ara “hostaleria”, “restauració” o “bar-restaurant”. Jev assigna cadascuna a un sector de la llista del sistema nou; les que no tenen una correspondència clara queden pendents de revisió.

En la detecció de dades no vàlides

Les validacions de format comproven que un camp tingui forma de telèfon o d’adreça, però no que el contingut tingui sentit. Per a això, Jev avalua afirmacions com ara “aquesta descripció correspon a aquest producte” o “aquest text és una adreça”, i retorna una probabilitat.

Exemple: en una importació de proveïdors, abans que les dades entrin a l’ERP, es marquen els registres amb el nom de l’empresa al camp de la persona de contacte o amb una descripció que no correspon a la categoria.

Què cal definir abans d’integrar Jev

• Les preguntes. Jev dona millors resultats amb preguntes concretes i separades que amb una pregunta complexa, de manera que cada decisió es descompon en diverses. Les preguntes s’avaluen en paral·lel i, per tant, afegir-ne més gairebé no canvia el temps de resposta.
• Les respostes possibles, tancades i conegudes per endavant.
• El llindar de confiança a partir del qual el sistema actua sense revisió.
• Les dades que s’envien, perquè Jev és un servei extern.

Preguntes freqüents sobre Jev