Dezentrale, vertrauliche KI-Inferenz auf Smartphones

Acurast, Pocket Network und NodeGhost erkunden dezentrale, vertrauliche KI-Inferenz auf Smartphones

Acurast, Pocket Network und NodeGhost haben gemeinsam ein frühes Experiment durchgeführt, um zu sehen, wie ein vollständig dezentraler KI-Stack in der Praxis aussieht. Drei Protokolle, jedes für eine eigene Schicht: Acurast liefert die dezentrale Rechenleistung, Pocket Network das dezentrale Routing, und NodeGhost stellt das KI-Gateway für Entwickler bereit, das alles zusammenführt.

 

Die ersten Ergebnisse sind vielversprechend. In einem einstündigen Test packte NodeGhost seine Gateway-Logik in einen einzigen Cargo-Build, der sowohl das Relaying von KI-Inferenz als auch die Websuche abdeckte, und schickte alle 30 Sekunden eine Anfrage, abwechselnd aus beiden Bereichen. Jede Anfrage kam an, keine einzige ging während des gesamten Laufs verloren.

 

Nach aktuellem Kenntnisstand ist dies eines der ersten Male, dass ein vollständiges KI-Gateway komplett auf TEE-gesicherten Smartphones lief, ohne einen einzigen klassischen Cloud-Server in der Pipeline.

 

Es handelt sich um eine explorative Zusammenarbeit, noch ist nichts in Stein gemeißelt. Die Grundzüge sind es aber wert, geteilt zu werden.

Was NodeGhost auf Acurast getestet hat

NodeGhost packte seine gesamte Gateway-Logik in einen einzigen Cargo-Build und führte ihn direkt auf den attestierten Android-Smartphones von Acurast aus. Das Paket umfasste sowohl das Inferenz-Relaying als auch die Websuche. Das deutet darauf hin, dass ein voll ausgestattetes KI-Gateway auf Smartphone-Hardware innerhalb eines Trusted Execution Environment laufen kann.

 

Der Test lief eine volle Stunde. Alle 30 Sekunden ging eine Anfrage hinaus, abwechselnd Inferenz-Aufrufe und Websuchen, und das System bewältigte sie alle ohne einen einzigen Fehler.

 

Besonders auffällig war für das NodeGhost-Team, wie selbstverständlich die Teile ineinandergriffen. Bevor das Team auf Acurast stieß, hatte es von der anderen Seite her am selben Problem gearbeitet. Die Routing-Schicht war über Pocket Network abgedeckt, aber eine passende Compute-Schicht fehlte noch. Acurast schloss diese Lücke. Es war, in den Worten des Teams, genau die Art von Infrastruktur, für die sein Dienst konzipiert wurde.

Warum das wichtig ist

Es ist ein frühes Signal dafür, dass die Smartphone-Compute-Schicht von Acurast echte, dauerhafte KI-Workloads bewältigen kann. Die Gateway-Logik läuft in Trusted Execution Environments auf Hardware-Ebene. Der Code wird also vertraulich ausgeführt und kann nicht manipuliert werden, nicht einmal von der Person, die das Smartphone betreibt.

 

NodeGhost musste weder seine Architektur ändern noch Abstriche bei der Funktionalität machen, um auf Acurast zu laufen. Es wurde kompiliert, lief und verhielt sich genau wie vorgesehen.

Die Rolle von Acurast

Acurast stellt die Compute-Infrastruktur hinter dem Test bereit. Statt Server bei Hyperscalern oder einem anderen zentralen Anbieter zu mieten, lief das Gateway von NodeGhost auf der globalen Flotte von Acurast mit über 260.000 Smartphones in über 175 Ländern. Jedes Smartphone ist durch ein hardwarebasiertes Trusted Execution Environment gesichert, das Vertraulichkeit, Integrität und Attestierung jedes Workloads sicherstellt.

 

Speziell für KI-Inferenz bringt diese Architektur einige echte Vorteile:

Global verteilt

Das Netzwerk bringt Rechenleistung nah an die Endnutzer, was die Latenz verringert.

 

Auf Hardware-Ebene geschützt

Workloads sind auf Hardware-Ebene abgeschirmt, nicht nur per Software. Selbst sensible KI-Anfragen sind so vor Einsicht und Manipulation geschützt.

 

Horizontal skalierbar

Da Acurast auf Consumer-Smartphones statt auf Rechenzentrums-Hardware läuft, wächst das Netzwerk mit jedem neuen Smartphone, ohne die hohen Anschaffungskosten zentraler Cloud-Infrastruktur.

 

Dieser frühe Lauf zeigt, dass Acurast nicht auf leichte Aufgaben beschränkt ist. Ein vollständiges KI-Gateway mit dauerhaftem Inferenz- und Websuche-Traffic ist ein ernstzunehmender Workload, und das Netzwerk hat ihn über den gesamten Testzeitraum ohne einen einzigen Fehler getragen.

Wie NodeGhost auf Pocket Network arbeitet

NodeGhost ist ein dezentrales Gateway für KI-Inferenz, das live im Shannon-Mainnet von Pocket Network läuft. Entwickler erhalten damit einen direkten Ersatz für die OpenAI API mit derselben Schnittstelle und derselben Kompatibilität. Der Unterschied: Jede Anfrage läuft über die dezentrale Relay-Infrastruktur von Pocket Network statt über das Rechenzentrum eines Konzerns.

 

Pocket Network ist ein dezentraler Marktplatz für offenen Datenzugriff. Wenn NodeGhost eine Anfrage über das Protokoll sendet, wird sie über Tausende unabhängige Node-Betreiber weltweit geleitet. Anbieter werden Sessions über deterministische, manipulationsresistente Algorithmen zugewiesen, ohne zentralen Scheduler und ohne Single Point of Failure. Jedes Relay wird kryptografisch on-chain verifiziert, und die Anbieter staken POKT-Token als Sicherheit für ihre Dienstqualität.

Was das bedeutet

Zusammen bilden diese drei Protokolle einen von Grund auf dezentralen KI-Stack. Acurast ersetzt die zentrale Cloud durch ein globales Netzwerk TEE-gesicherter Smartphones. Pocket Network ersetzt zentrales API-Routing durch einen Blockchain-verifizierten Relay-Marktplatz. NodeGhost ersetzt das zentrale KI-Gateway durch einen genehmigungsfreien Inferenzdienst, bei dem Privatsphäre an erster Stelle steht und der niemals Prompts oder Antworten protokolliert.

 

Kein einzelnes Unternehmen kontrolliert an irgendeiner Stelle der Pipeline die Rechenleistung, das Netzwerk oder die Daten. Im Prinzip bedeutet das KI-Inferenz über eine vertraute, OpenAI-kompatible API, zu einem Bruchteil der Kosten zentraler Alternativen und mit überprüfbarer Gewissheit, dass keine Instanz den Traffic überwachen oder zensieren kann.

 

Das sind frühe Ergebnisse, kein fertiges Produkt, aber ein konkreter erster Schritt. Beide Seiten wollen weiter ausloten, was gemeinsam möglich ist, während beide Netzwerke weiter wachsen.

Über NodeGhost

NodeGhost ist ein dezentrales Gateway für KI-Inferenz, das live im Shannon-Mainnet von Pocket Network läuft. Es bietet eine OpenAI-kompatible API, die KI-Anfragen über ein dezentrales Netzwerk leitet, ohne zentrale Protokollierung, ohne Überwachung und ohne Single Point of Failure. NodeGhost unterstützt Bring-Your-Own-Model-Deployments und bietet Inferenz, Websuche und Vektorspeicher über eine einzige API mit pauschalen, planbaren Preisen pro Relay. Mehr unter https://nodeghost.ai

Über Pocket Network

Pocket Network ist ein dezentrales Infrastrukturprotokoll, das Anwendungen, die Datenzugriff benötigen, mit unabhängigen Anbietern zusammenbringt, die ihn bereitstellen. Das Protokoll übernimmt Session-Zuweisung, Relay-Routing, kryptografische Verifizierung und ökonomische Abrechnung ohne zentralen Koordinator. Mit über 5.000 Node-Betreibern weltweit und bislang Milliarden bedienter Relays ist das Shannon-Mainnet von Pocket Network für Workloads mit hohem Durchsatz ausgelegt, darunter KI-Inferenz. Mehr unter https://pocket.network

Über Acurast

Acurast ist ein dezentrales physisches Infrastrukturnetzwerk (DePIN): eine globale Flotte von Smartphones, die verteilte, sichere Edge-Rechenleistung bereitstellt. Acurast definiert dezentrale Rechenleistung neu – mit Smartphones, praxiserprobter Hardware, der Milliarden Menschen vertrauen. Mit Acurast lassen sich KI/ML-Inferenz-Workloads sicher auf ein globales Netzwerk von über 260.000 attestierten Edge-Smartphones in über 175 Ländern deployen. Trusted Execution Environments auf Hardware-Ebene ermöglichen dabei datenschutzfreundliche Aufgaben nah an den Datenquellen. Mehr unter https://acurast.com

Related Blogs