Perché il posto dei modelli System One è un cloud decentralizzato
Gran parte dell’IA in produzione risponde a domande semplici. Questa email è spam? Il ticket è una richiesta di rimborso o la segnalazione di un bug? Questo prompt è sicuro? Il 15 settembre TypeSafe AI ha lanciato Jev, un modello pensato solo per questo tipo di domande. Una settimana dopo era già disponibile un’alternativa open.
Questa nuova classe si chiama modello System One, ed è esattamente il carico di lavoro che un cloud decentralizzato gestisce meglio. Ecco perché le decisioni sono il campo in cui l’IA decentralizzata ha più senso, e come funziona su uno smartphone.
Le demo sono online: provale tu stesso su laya.acurast.com.
Il carico di lavoro
Decisioni decentralizzate
Piccola, stateless e privata: l’IA che sta in uno smartphone.
Che cos’è un modello System One
Un’IA conversazionale scrive la risposta una parola alla volta. Un modello System One salta la scrittura. Gli dai un testo e alcune domande con opzioni fisse, e lui risponde a tutte in un colpo solo, con una probabilità per ciascuna:
- Scegline una: rimborso, assistenza tecnica o altro?
- Sì o no: è urgente?
- Valuta: calmo, infastidito o arrabbiato?
Nessun testo da analizzare, nessuno spazio per le allucinazioni. Jev è la versione chiusa, un’API a pagamento che lega ogni app costruita su di essa a un unico fornitore. Laya, di ConvAI Innovations, è quella open: licenza Apache 2.0, circa 800 MB e compatibile con l’API di Jev, quindi un’app creata per l’uno può passare all’altro.
Perché il posto dei modelli System One è un cloud decentralizzato
I modelli linguistici più avanzati richiedono interi rack di GPU, ed è per questo che gran parte della cosiddetta “IA decentralizzata” finisce comunque per affittare data center. Un modello System One è l’opposto: abbastanza piccolo per un solo smartphone, senza memoria tra una richiesta e l’altra, e alimentato con alcuni dei testi più riservati di un’azienda. È esattamente il tipo di lavoro per cui è pensata una rete di smartphone.
Scala in orizzontale, non in verticale
I data center scalano in verticale: una GPU più grande, un edificio più grande. Le decisioni scalano in orizzontale. Ogni richiesta è indipendente, quindi dieci smartphone fanno dieci volte il lavoro, e su Acurast il numero di smartphone è una semplice impostazione.
L’offerta c’è già. Ogni anno si vendono circa 1,39 miliardi di smartphone, e quelli che sostituiscono hanno ancora processori perfettamente validi. Più di 310.000 smartphone si sono già uniti ad Acurast.
310K+
Smartphone attivati
1 Mld+
Transazioni on-chain
0,2 s
Per decisione sugli smartphone più veloci
Accessibile: deploy dal browser
Nessun server da affittare, solo lo smartphone di qualcun altro: il deployment dell’esempio costa meno di 1 ACU al giorno. Nel playground di Acurast Hub, scegli il template Cargo: Laya, indica quanti smartphone usare e fai il deploy. Pochi minuti dopo, il tuo modello di decisione è online.
Privato: le decisioni toccano i tuoi dati più sensibili
Con un’API ospitata, ogni email, messaggio di chat e ticket di assistenza che classifichi passa dai server di qualcun altro. Se esegui il tuo modello, le cose cambiano. Nessuna azienda sta nel mezzo, i pesi del modello sono aperti, l’app di esempio non conserva log e gira solo su smartphone attestati, cioè verificati come hardware autentico.
Reso possibile da Cargo
Acurast Cargo offre a ogni Deployment un ambiente Linux completo sullo smartphone, quindi Laya si installa esattamente come su un server in affitto. Lo stesso runtime ospita già OpenClaw, WordPress e server Minecraft. L’IA cambia nel giro di settimane, e Cargo tiene il passo.
“Quando arriverà la prossima classe di modelli, non servirà una nuova integrazione, solo uno script di avvio da parte di chi vuole eseguirla.”
Guardalo in azione
Gli smartphone di test usati nell’esempio sono distribuiti tra Europa, Stati Uniti e Asia. I più veloci rispondono a una breve domanda sì/no in circa 0,2 secondi e smistano un’intera email in molto meno di un secondo; quelli più lenti impiegano circa un secondo. È più lento di una GPU in un data center, ma per email, moderazione o agenti non conta.
I giochi mostrano a cosa serve questa velocità. Laya guarda il campo di gioco, sceglie una mossa, vede cosa è cambiato e decide di nuovo: da che parte gira il serpente, dove cade un pezzo di Tetris e, in Doom, se mirare, sparare, raccogliere qualcosa o aprire una porta. Lo smistatore di email e il moderatore della chat seguono lo stesso ciclo; cambiano solo le opzioni.
Su Laya girano undici demo, ora anche Doom: uno smistatore di email, un moderatore di chat dal vivo, una redazione che individua il clickbait, una protezione contro la prompt injection, un’app di incontri, Snake, Tetris e altro ancora. Provale dal vivo su laya.acurast.com.
I suoi limiti
Come categoria, i modelli System One hanno appena una settimana di vita, e Laya ha limiti reali. La precisione cala quando una domanda ha più di una ventina di opzioni, il modello base è troppo sicuro di sé finché non viene calibrato, e i testi ingannevoli o avversariali riescono ancora a confonderlo. Consideralo un primo filtro veloce, non la parola definitiva.
Fai il deploy del tuo modello
Nessuna lista d’attesa e nessun provider a cui chiedere l’accesso all’API. Apri il playground dell’Hub, scegli Cargo: Laya e fai il deploy. Il codice, comprese tutte le undici demo, è open source e si trova nelle app di esempio di Acurast su GitHub.
Sviluppi su Acurast? Se esegui i tuoi modelli, backend per agenti o servizi decisionali su smartphone attestati, il Discord di Acurast è il posto dove i builder si confrontano. Unisciti a Discord.
