了解

认识Acurast。了解我们的故事,深入阅读技术文档,看看我们在生态系统中与哪些伙伴合作。

A smartphone glowing lime green on a black background with three floating decision cards, illustrating a System One AI model running on a decentralized cloud of phones.

为什么System One模型适合去中心化云

黑色背景上一部发出青柠绿光的智能手机,周围漂浮着三张决策卡片,寓意在由手机组成的去中心化云上运行的System One AI模型。

 

生产环境中运行的许多AI都在回答简单的问题:这封邮件是垃圾邮件吗?这张工单是退款申请还是错误报告?这个提示词安全吗?9月15日,TypeSafe AI发布了Jev,一个专为这类问题打造的模型。一周后,一个开放的替代方案随之问世。

 

这一新类别被称为System One模型(名称源自心理学中负责快速、直觉判断的“系统1”),而它恰好是去中心化云最擅长处理的工作负载。下文将说明,为什么决策是去中心化AI最合适的用武之地,以及它在手机上运行时是什么样子。

 

演示已经上线:请前往laya.acurast.com亲自体验。

工作负载

决策,去中心化

小巧、无状态、注重隐私:一部手机就能容纳的AI。

什么是System One模型

 

聊天AI逐词写出回答。System One模型则跳过了写作这一步:您提供一段文本和几个带固定选项的问题,它会一次性回答所有问题,并为每个答案给出概率:

 

  • 单选:退款、技术支持,还是其他?
  • 是或否:这件事紧急吗?
  • 评级:平静、恼火还是愤怒?

 

无需解析,也不会产生幻觉。Jev是封闭版本:一个付费API,会把基于它构建的每个应用都锁定在同一家供应商上。来自ConvAI Innovations的Laya则是开放版本:采用Apache 2.0许可,大小约800 MB,并与Jev的API兼容,因此为其中一个构建的应用可以切换到另一个。

 

为什么System One模型适合去中心化云

 

前沿大语言模型需要成排的GPU机架,这也是为什么大多数“去中心化AI”最终仍在租用数据中心。System One模型恰恰相反:小到一部手机即可运行,请求之间不保留任何记忆,处理的却是一家公司最私密的一些文本。这正是手机网络天生适合的工作形态。

 

横向扩展,而非纵向扩展

 

数据中心靠纵向扩展:更大的GPU,更大的机房。决策则靠横向扩展。每个请求相互独立,因此十部手机就能完成十倍的工作,而在Acurast上,手机数量只是一项设置。

 

供给早已存在。全球每年售出约13.9亿部智能手机,被替换下来的旧手机仍然拥有完全够用的处理器。已有超过310,000部手机加入Acurast。

310K+

已接入手机

1B+

链上交易

0.2秒

最快手机上的单次决策耗时

易于上手:直接在浏览器中部署

 

无需租用服务器,只需借用别人的手机,该示例的部署费用每天不到1 ACU。在Acurast Hub Playground中,选择Cargo: Laya模板,设定手机数量,然后部署。几分钟后,您自己的决策模型就会上线。

 

隐私:决策涉及您最敏感的数据

 

使用托管API时,您分类的每一封邮件、每一条聊天消息和每一张客服工单都要经过别人的服务器。自行运行,情况就不同了:没有任何公司居中经手,模型权重是开放的,示例应用不保留日志,并且只在经过证明的手机上运行,即经验证为真实硬件的手机。

 

由Cargo实现

 

Acurast Cargo为每个部署在手机上提供完整的Linux环境,因此Laya的安装方式与在租用服务器上完全相同。同一运行时已经承载着OpenClaw、WordPress和Minecraft服务器。AI以周为单位演进,而Cargo能跟上这一节奏。

“当下一类模型出现时,无需新的集成,只需想运行它的人提供一个启动脚本。”

看它运行

 

示例中使用的测试手机分布在欧洲、美国和亚洲。最快的手机回答一个简短的是非题只需约0.2秒,分类整封邮件也远不到一秒;较慢的手机需要一秒左右。这比数据中心的GPU慢,但对于邮件、内容审核或智能体来说无关紧要。

 

这些游戏展示了这种速度的用途。Laya观察游戏画面,选择一步,查看发生了什么变化,然后再次决策:蛇往哪个方向转,Tetris方块落在哪里,在Doom中是瞄准、射击、拾取物品还是开门。邮件分类器和聊天审核员运行的是同一个循环,只是选项不同。

 

Laya上运行着十一个演示,现已包括Doom:邮件分类器、实时聊天审核员、识别标题党的新闻编辑室、提示词注入防护、约会应用、Snake、Tetris等。请前往laya.acurast.com实时体验。

 

不足之处

 

System One模型作为一个类别才出现一周,Laya也有实实在在的局限。当一个问题的选项超过约20个时,准确率会下降;基础模型在校准之前会过度自信;刁钻或对抗性的文本仍能骗过它。请把它当作快速的第一道过滤器,而不是最终结论。

 

部署您自己的模型

 

无需排队等候,也无需向任何服务商申请API访问权限。打开Hub Playground,选择Cargo: Laya并部署。包含全部十一个演示在内的代码已在GitHub上的Acurast示例应用中开源。

在Acurast上构建?如果您正在经过证明的手机上运行自己的模型、智能体后端或决策服务,欢迎加入Acurast Discord,与其他构建者交流经验。加入Discord。