Rimani aggiornato con WebMasterPoint
Jev propone unintelligenza artificiale che non genera testo e, quindi, non allucina: un modello rapido ed economico, sostenuto da un finanziamento ambizioso e da una scommessa sulle macchine.
TypeSafe AI ha lanciato Jev, un modello che restituisce decisioni strutturate invece di generare testo, con una latenza dichiarata tra 70 e 500 millisecondi. La startup di San Francisco guidata da Diogo Almeida, ex ricercatore di OpenAI, e descrive il sistema come unintelligenza artificiale che non pu allucinare nel senso tradizionale. Non produce frasi libere e, di conseguenza, non inserisce contenuti estranei allo schema stabilito.
La promessa va letta senza allargarne il significato. Jev non un chatbot pi affidabile e non prende il posto di modelli come ChatGPT o Claude quando servono spiegazioni, codice o ragionamenti articolati. Il suo compito pi circoscritto: scegliere rapidamente unopzione, assegnare un punteggio oppure indicare una probabilit dentro un flusso software.
Come funziona Jev e perch non genera testo
Jev parte da dati non strutturati, spesso testo, e li converte in un output tipizzato. Prima della chiamata, lapplicazione definisce le possibilit disponibili. Una singola richiesta pu gestire fino a 255 opzioni predefinite. Il modello pu anche restituire un valore numerico compreso in un intervallo fissato in anticipo, per esempio per classificare o ordinare elementi, oppure per stimare un livello di rischio.
lo schema a stabilire la forma della risposta. Il software che la riceve conosce quindi il tipo di dato atteso e non deve decifrare una frase ambigua. Laddestramento RLCD, cio lapprendimento per rinforzo orientato alle decisioni calibrate, punta a far coincidere la confidenza dichiarata dal modello con la probabilit effettiva che la scelta sia corretta.
Il perimetro chiuso delloutput limita le allucinazioni fattuali: Jev non pu aggiungere una voce che non compare nellelenco predisposto. Il margine derrore resta, per. Tra le opzioni ammesse il sistema pu selezionare quella sbagliata. Limmunit riguarda dunque formato e campo della risposta, non laccuratezza automatica della decisione.
Velocit, costi e differenze rispetto agli LLM
I grandi modelli linguistici generano il testo in modo autoregressivo, un token dopo laltro. Jev lavora invece in un singolo passaggio, con elaborazione parallela. Nei test condotti da TypeSafe sulle decisioni strutturate, i tempi dichiarati sono compresi tra 70 e 500 millisecondi. Non per una misura valida per qualsiasi richiesta, n un benchmark indipendente.
Secondo la startup, nei compiti compatibili Jev pu risultare da 20 a 200 volte pi veloce dei modelli linguistici avanzati e avere un costo compreso tra un quarantesimo e un quattrocentesimo. La tariffa comunicata di 0,042 dollari per milione di token in ingresso; loutput non viene addebitato. Si tratta di valori riferiti alle valutazioni dellazienda, da tenere distinti dalle prestazioni verificate sul mercato.
Il modello si presta allinstradamento delle richieste e alla classificazione. Pu controllare risposte generate da altri sistemi o scegliere quale strumento un agente software debba usare dopo. Quando il lavoro richiede creativit, un contesto ampio o pi passaggi di ragionamento, un chatbot generalista resta la scelta pi adatta.
Il finanziamento e la scommessa sulle macchine
Al lancio, TypeSafe AI ha annunciato un round seed da 40 milioni di dollari guidato da DCVC. Il capitale finanzier l’espansione dell’azienda e lo sviluppo di un’infrastruttura basata su modelli componibili, pensata per l’automazione pi che per il dialogo.
Jev pu operare come strato di controllo: classifica una richiesta, seleziona il percorso operativo e decide quando affidare il caso a un modello pi potente o a una persona. La qualit delle decisioni dipende per dalle opzioni definite dagli sviluppatori e dai dati ricevuti.
La proposta quindi adatta a decisioni ripetitive, delimitate e frequenti, non a sostituire i modelli linguistici generali. I vantaggi dichiarati su velocit, costi e riduzione delle allucinazioni dovranno essere confermati da valutazioni indipendenti, oltre i test condotti da TypeSafe.