为什么System One模型适合去中心化云

生产环境中运行的许多AI都在回答简单的问题:这封邮件是垃圾邮件吗?这张工单是退款申请还是错误报告?这个提示词安全吗?9月15日,TypeSafe AI发布了Jev,一个专为这类问题打造的模型。一周后,一个开放的替代方案随之问世。
这一新类别被称为System One模型(名称源自心理学中负责快速、直觉判断的“系统1”),而它恰好是去中心化云最擅长处理的工作负载。下文将说明,为什么决策是去中心化AI最合适的用武之地,以及它在手机上运行时是什么样子。
演示已经上线:请前往laya.acurast.com亲自体验。
工作负载
决策,去中心化
小巧、无状态、注重隐私:一部手机就能容纳的AI。
什么是System One模型
聊天AI逐词写出回答。System One模型则跳过了写作这一步:您提供一段文本和几个带固定选项的问题,它会一次性回答所有问题,并为每个答案给出概率:
- 单选:退款、技术支持,还是其他?
- 是或否:这件事紧急吗?
- 评级:平静、恼火还是愤怒?
无需解析,也不会产生幻觉。Jev是封闭版本:一个付费API,会把基于它构建的每个应用都锁定在同一家供应商上。来自ConvAI Innovations的Laya则是开放版本:采用Apache 2.0许可,大小约800 MB,并与Jev的API兼容,因此为其中一个构建的应用可以切换到另一个。
为什么System One模型适合去中心化云
前沿大语言模型需要成排的GPU机架,这也是为什么大多数“去中心化AI”最终仍在租用数据中心。System One模型恰恰相反:小到一部手机即可运行,请求之间不保留任何记忆,处理的却是一家公司最私密的一些文本。这正是手机网络天生适合的工作形态。
横向扩展,而非纵向扩展
数据中心靠纵向扩展:更大的GPU,更大的机房。决策则靠横向扩展。每个请求相互独立,因此十部手机就能完成十倍的工作,而在Acurast上,手机数量只是一项设置。
供给早已存在。全球每年售出约13.9亿部智能手机,被替换下来的旧手机仍然拥有完全够用的处理器。已有超过310,000部手机加入Acurast。
310K+
已接入手机
1B+
链上交易
0.2秒
最快手机上的单次决策耗时
易于上手:直接在浏览器中部署
无需租用服务器,只需借用别人的手机,该示例的部署费用每天不到1 ACU。在Acurast Hub Playground中,选择Cargo: Laya模板,设定手机数量,然后部署。几分钟后,您自己的决策模型就会上线。
隐私:决策涉及您最敏感的数据
使用托管API时,您分类的每一封邮件、每一条聊天消息和每一张客服工单都要经过别人的服务器。自行运行,情况就不同了:没有任何公司居中经手,模型权重是开放的,示例应用不保留日志,并且只在经过证明的手机上运行,即经验证为真实硬件的手机。
由Cargo实现
Acurast Cargo为每个部署在手机上提供完整的Linux环境,因此Laya的安装方式与在租用服务器上完全相同。同一运行时已经承载着OpenClaw、WordPress和Minecraft服务器。AI以周为单位演进,而Cargo能跟上这一节奏。
“当下一类模型出现时,无需新的集成,只需想运行它的人提供一个启动脚本。”
看它运行
示例中使用的测试手机分布在欧洲、美国和亚洲。最快的手机回答一个简短的是非题只需约0.2秒,分类整封邮件也远不到一秒;较慢的手机需要一秒左右。这比数据中心的GPU慢,但对于邮件、内容审核或智能体来说无关紧要。
这些游戏展示了这种速度的用途。Laya观察游戏画面,选择一步,查看发生了什么变化,然后再次决策:蛇往哪个方向转,Tetris方块落在哪里,在Doom中是瞄准、射击、拾取物品还是开门。邮件分类器和聊天审核员运行的是同一个循环,只是选项不同。
Laya上运行着十一个演示,现已包括Doom:邮件分类器、实时聊天审核员、识别标题党的新闻编辑室、提示词注入防护、约会应用、Snake、Tetris等。请前往laya.acurast.com实时体验。
不足之处
System One模型作为一个类别才出现一周,Laya也有实实在在的局限。当一个问题的选项超过约20个时,准确率会下降;基础模型在校准之前会过度自信;刁钻或对抗性的文本仍能骗过它。请把它当作快速的第一道过滤器,而不是最终结论。
部署您自己的模型
无需排队等候,也无需向任何服务商申请API访问权限。打开Hub Playground,选择Cargo: Laya并部署。包含全部十一个演示在内的代码已在GitHub上的Acurast示例应用中开源。
在Acurast上构建?如果您正在经过证明的手机上运行自己的模型、智能体后端或决策服务,欢迎加入Acurast Discord,与其他构建者交流经验。加入Discord。


