為什麼System One模型適合去中心化雲端

 

實際上線運作的AI，大多在回答簡單的問題。這封電子郵件是垃圾郵件嗎？這張工單是退款申請還是錯誤回報？這個提示詞安全嗎？9月15日，TypeSafe AI推出了Jev，一個專為這類問題打造的模型。一週後，開放的替代方案就問世了。

 

這個新類別稱為System One模型（得名於心理學中快速、直覺的「系統一」思考），而它恰好正是去中心化雲端最擅長處理的工作負載。以下說明為什麼決策是去中心化AI最能發揮價值的領域，以及它在手機上執行時的樣貌。

 

示範已經上線：歡迎親自到laya.acurast.com試用。

什麼是System One模型

 

聊天型AI一次寫出一個字來組成答案。System One模型則省去了書寫。您提供一段文字和幾個帶有固定選項的問題，它會一次回答所有問題，並為每個答案附上機率：

 

• 單選：退款、技術協助，還是其他？
• 是非題：這件事緊急嗎？
• 評分：平靜、不滿，還是憤怒？

 

沒有需要解析的內容，也沒有產生幻覺的空間。Jev是封閉版本：一個付費API，會把所有建構在其上的應用程式綁定在單一供應商身上。Laya由ConvAI Innovations推出，是開放版本：採用Apache 2.0授權，大小約800 MB，並與Jev的API相容，因此為其中一個打造的應用程式可以切換到另一個。

 

為什麼System One模型適合去中心化雲端

 

前沿語言模型需要一整排機架的GPU，這也是為什麼大多數「去中心化AI」最後仍在租用資料中心。System One模型正好相反：小到一支手機就能執行，請求之間不保留記憶，而且處理的是企業最私密的一些文字。這正是手機網路生來要處理的工作型態。

 

向外擴展，而非向上擴展

 

資料中心是向上擴展：更大的GPU、更大的建築。決策則是向外擴展。每個請求都各自獨立，所以十支手機就能完成十倍的工作，而在Acurast上，手機的數量只是一項設定。

 

供給早已存在。全球每年售出約13.9億支智慧型手機，而被它們汰換下來的手機仍有完全堪用的處理器。已有超過31萬支手機加入Acurast。

易於使用：直接從瀏覽器部署

 

不必租用伺服器，只需使用別人的手機，這個範例的部署成本每天不到1 ACU。在Acurast Hub Playground中選擇Cargo: Laya範本，選好手機數量後即可部署。幾分鐘後，您自己的決策模型就上線了。

 

私密：決策涉及您最敏感的資料

 

使用託管API時，您分類的每一封電子郵件、每一則聊天訊息和每一張客服工單，都會經過別人的伺服器。自行執行模型，情況就不同了。中間沒有任何公司，模型權重是開放的，範例應用程式不保留任何記錄，而且只在經認證的手機上執行，也就是經驗證為真實硬體的手機。

 

由Cargo實現

 

Acurast Cargo為每個部署在手機上提供完整的Linux環境，因此Laya的安裝方式與在租用的伺服器上完全相同。同一套執行環境已經承載了OpenClaw、WordPress與Minecraft伺服器。AI以週為單位演進，而Cargo跟得上。

實際執行

 

範例中使用的測試手機分布在歐洲、美國與亞洲。最快的手機回答一個簡短的是非題約需0.2秒，分類一整封電子郵件也遠不到一秒；較慢的手機則需要一秒左右。這比資料中心的GPU慢，但對電子郵件、內容審核或AI代理而言並無影響。

 

這些遊戲展示了這種速度的用途。Laya觀察盤面、選擇一步、查看變化，然後再次決策：貪食蛇要往哪個方向轉、俄羅斯方塊要落在哪裡，以及在Doom中要瞄準、射擊、撿拾物品還是開門。郵件分類器與聊天審核員執行的是同樣的迴圈，差別只在選項。

 

共有十一個示範在Laya上執行，現在也包括Doom：郵件分類器、即時聊天審核員、能識破標題黨的新聞編輯室、提示詞注入防護、交友應用程式、貪食蛇、俄羅斯方塊等等。歡迎到laya.acurast.com即時試用。

 

不足之處

 

System One模型作為一個類別才問世一週，而Laya確實有其限制。當一個問題的選項超過約20個時，準確度就會下降；基礎模型在校準之前會過度自信；棘手或刻意設計的對抗性文字仍能騙過它。請把它當作快速的第一道篩選，而不是最終裁決。

 

部署您自己的模型

 

沒有候補名單，也不必向任何供應商申請API存取權限。開啟Hub Playground，選擇Cargo: Laya並部署。程式碼（包含全部十一個示範）都公開在GitHub上的Acurast範例應用程式中。

正在Acurast上開發嗎？如果您在經認證的手機上執行自己的模型、代理後端或決策服務，Acurast Discord就是開發者交流心得的地方。加入Discord。

Related Blogs