Warum System-One-Modelle in eine dezentrale Cloud gehören
Ein Großteil der KI im Produktivbetrieb beantwortet einfache Fragen. Ist diese E-Mail Spam? Ist das Ticket eine Rückerstattungsanfrage oder ein Fehlerbericht? Ist dieser Prompt sicher? Am 15. September hat TypeSafe AI Jev vorgestellt, ein Modell, das ausschließlich für diese Art von Fragen gebaut ist. Eine Woche später gab es bereits eine offene Alternative.
Diese neue Klasse heißt System-One-Modell (benannt nach dem schnellen, intuitiven „System 1“ des menschlichen Denkens), und sie ist genau der Workload, den eine dezentrale Cloud am besten bewältigt. Hier erfahren Sie, warum dezentrale KI bei Entscheidungen am meisten Sinn ergibt und wie das auf einem Smartphone aussieht.
Die Demos sind live. Probieren Sie sie selbst aus: laya.acurast.com.
Der Workload
Entscheidungen, dezentral
Klein, zustandslos und privat: die KI, die auf ein Smartphone passt.
Was ein System-One-Modell ist
Chat-KI schreibt ihre Antwort Wort für Wort. Ein System-One-Modell lässt das Schreiben weg. Sie geben ihm einen Text und einige Fragen mit festen Antwortoptionen, und es beantwortet alle auf einmal, jeweils mit einer Wahrscheinlichkeit:
- Eine Option wählen: Rückerstattung, technische Hilfe oder etwas anderes?
- Ja oder nein: Ist das dringend?
- Bewerten: ruhig, verärgert oder wütend?
Nichts zu parsen, nichts zu halluzinieren. Jev ist die geschlossene Variante: eine kostenpflichtige API, die jede darauf gebaute App an einen einzigen Anbieter bindet. Laya von ConvAI Innovations ist die offene: Apache-2.0-lizenziert, rund 800 MB groß und kompatibel mit der API von Jev, sodass eine App, die für das eine Modell gebaut wurde, zum anderen wechseln kann.
Warum System-One-Modelle in eine dezentrale Cloud gehören
Frontier-Sprachmodelle brauchen ganze Racks voller GPUs, deshalb mietet die meiste „dezentrale KI“ am Ende doch wieder Rechenzentren. Ein System-One-Modell ist das Gegenteil: klein genug für ein einzelnes Smartphone, ohne Gedächtnis zwischen den Anfragen und gefüttert mit einigen der vertraulichsten Texte, die ein Unternehmen hat. Genau für diese Art von Arbeit ist ein Netzwerk aus Smartphones gebaut.
Skalierung in die Breite statt in die Höhe
Rechenzentren skalieren in die Höhe: eine größere GPU, ein größeres Gebäude. Entscheidungen skalieren in die Breite. Jede Anfrage steht für sich, also leisten zehn Smartphones die zehnfache Arbeit, und auf Acurast ist die Zahl der Smartphones eine einzige Einstellung.
Das Angebot ist längst vorhanden. Jedes Jahr werden rund 1,39 Milliarden Smartphones verkauft, und die Smartphones, die sie ersetzen, haben noch völlig brauchbare Prozessoren. Über 310.000 Smartphones sind bereits in Acurast eingebunden.
310K+
Eingebundene Smartphones
1B+
On-Chain-Transaktionen
0,2 s
Pro Entscheidung auf den schnellsten Smartphones
Zugänglich: Deployment direkt aus dem Browser
Kein Server zum Mieten, nur das Smartphone eines anderen: Die Deployment-Kosten des Beispiels liegen unter 1 ACU pro Tag. Wählen Sie im Playground von Acurast Hub die Vorlage Cargo: Laya, legen Sie die Anzahl der Smartphones fest und deployen Sie. Wenige Minuten später ist Ihr eigenes Entscheidungsmodell online.
Privat: Entscheidungen betreffen Ihre sensibelsten Daten
Bei einer gehosteten API läuft jede E-Mail, jede Chatnachricht und jedes Support-Ticket, das Sie klassifizieren, über die Server eines anderen. Mit Ihrem eigenen Modell ändert sich das. Kein Unternehmen sitzt dazwischen, die Gewichte des Modells sind offen, die Beispiel-App speichert keine Logs, und sie läuft nur auf attestierten Smartphones, also auf Smartphones, deren Hardware als echt verifiziert wurde.
Möglich durch Cargo
Acurast Cargo stellt jedem Deployment eine vollständige Linux-Umgebung auf dem Smartphone bereit, sodass sich Laya genau so installieren lässt wie auf einem gemieteten Server. Dieselbe Laufzeitumgebung hostet bereits OpenClaw, WordPress und Minecraft-Server. KI entwickelt sich im Wochentakt, und Cargo hält Schritt.
„Wenn die nächste Modellklasse erscheint, braucht sie keine neue Integration, sondern nur ein Startskript von demjenigen, der sie ausführen möchte.“
So läuft es
Die im Beispiel verwendeten Test-Smartphones sind über Europa, die USA und Asien verteilt. Die schnellsten beantworten eine kurze Ja-oder-Nein-Frage in etwa 0,2 Sekunden und sortieren eine ganze E-Mail in deutlich unter einer Sekunde; langsamere Smartphones brauchen etwa eine Sekunde. Das ist langsamer als eine GPU im Rechenzentrum, doch für E-Mail, Moderation oder Agenten spielt das keine Rolle.
Die Spiele zeigen, wofür diese Geschwindigkeit gut ist. Laya betrachtet das Spielfeld, wählt einen Zug, sieht, was sich verändert hat, und entscheidet erneut: in welche Richtung die Schlange abbiegt, wo ein Tetris-Stein landet und in Doom, ob gezielt, geschossen, etwas aufgehoben oder eine Tür geöffnet wird. Der Mail-Sortierer und der Chat-Moderator durchlaufen dieselbe Schleife; nur die Optionen ändern sich.
Elf Demos laufen auf Laya, inzwischen auch Doom: ein Mail-Sortierer, ein Live-Chat-Moderator, eine Nachrichtenredaktion, die Clickbait erkennt, ein Prompt-Injection-Schutz, eine Dating-App, Snake, Tetris und mehr. Probieren Sie sie live aus: laya.acurast.com.
Wo die Grenzen liegen
System-One-Modelle gibt es als Kategorie erst seit einer Woche, und Laya hat echte Grenzen. Die Genauigkeit sinkt, sobald eine Frage mehr als etwa 20 Optionen hat, das Basismodell ist übermäßig selbstsicher, bis es kalibriert ist, und knifflige oder gezielt manipulierte Texte täuschen es nach wie vor. Nutzen Sie es als schnellen ersten Filter, nicht als letztes Wort.
Ihr eigenes Modell deployen
Es gibt keine Warteliste und keinen Anbieter, den Sie um API-Zugang bitten müssten. Öffnen Sie den Hub-Playground, wählen Sie Cargo: Laya und deployen Sie. Der Code, einschließlich aller elf Demos, liegt als Open Source in den Acurast-Beispiel-Apps auf GitHub.
Sie bauen auf Acurast? Wenn Sie eigene Modelle, Agent-Backends oder Entscheidungsdienste auf attestierten Smartphones betreiben: Im Acurast Discord tauschen sich Entwickler aus. Treten Sie dem Discord bei.
