System One 모델이 탈중앙화 클라우드에 어울리는 이유

 

프로덕션 환경에서 실행되는 AI의 상당수는 단순한 질문에 답합니다. 이 이메일은 스팸인가요? 이 티켓은 환불 요청인가요, 버그 신고인가요? 이 프롬프트는 안전한가요? 9월 15일, TypeSafe AI는 바로 이런 질문만을 위해 만든 모델 Jev를 출시했습니다. 일주일 뒤에는 오픈 대안이 나왔습니다.

 

이 새로운 모델 유형은 System One 모델(빠르고 직관적인 판단을 뜻하는 심리학 용어 ‘시스템 1’에서 따온 이름)이라고 불리며, 마침 탈중앙화 클라우드가 가장 잘 처리하는 워크로드이기도 합니다. 이 글에서는 판단 작업이 왜 탈중앙화 AI에 가장 잘 맞는지, 그리고 휴대폰에서 실행하면 어떤 모습인지 살펴봅니다.

 

데모는 지금 바로 사용할 수 있습니다. laya.acurast.com에서 직접 사용해 보세요.

System One 모델이란

 

채팅 AI는 답변을 한 단어씩 써 내려갑니다. System One 모델은 이 글쓰기 과정을 건너뜁니다. 텍스트와 함께 선택지가 정해진 몇 가지 질문을 주면, 모든 질문에 한 번에 답하고 각 답에 확률을 붙여 줍니다.

 

• 하나 고르기: 환불, 기술 지원, 아니면 기타?
• 예 또는 아니요: 긴급한 건인가요?
• 평가하기: 차분함, 짜증, 분노 중 어느 쪽인가요?

 

파싱할 것도, 환각을 일으킬 것도 없습니다. Jev는 폐쇄형 버전으로, 이를 기반으로 만든 모든 앱을 한 공급업체에 묶어 두는 유료 API입니다. ConvAI Innovations가 만든 Laya는 오픈 버전입니다. Apache 2.0 라이선스에 크기는 약 800MB이며 Jev의 API와 호환되므로, 한쪽에 맞춰 만든 앱을 다른 쪽으로 전환할 수 있습니다.

 

System One 모델이 탈중앙화 클라우드에 어울리는 이유

 

최첨단 대형 언어 모델에는 GPU 랙이 필요하며, 그래서 대부분의 ‘탈중앙화 AI’도 결국 데이터 센터를 빌리게 됩니다. System One 모델은 정반대입니다. 휴대폰 한 대에 들어갈 만큼 작고, 요청 사이에 아무것도 기억하지 않으며, 기업이 가진 가장 민감한 텍스트를 다룹니다. 휴대폰 네트워크에 딱 맞는 형태의 작업입니다.

 

스케일 업이 아닌 스케일 아웃

 

데이터 센터는 더 큰 GPU, 더 큰 건물로 스케일 업합니다. 판단 작업은 스케일 아웃합니다. 모든 요청이 독립적이므로 휴대폰 10대는 10배의 작업을 처리하며, Acurast에서는 휴대폰 수를 설정 하나로 정할 수 있습니다.

 

공급은 이미 충분합니다. 매년 약 13억 9천만 대의 스마트폰이 판매되며, 새 스마트폰에 자리를 내준 기존 휴대폰도 여전히 충분히 쓸 만한 칩셋을 갖추고 있습니다. 이미 310,000대가 넘는 휴대폰이 Acurast에 합류했습니다.

손쉬운 접근: 브라우저에서 배포

 

빌릴 서버 없이 다른 사람의 휴대폰만 있으면 되며, 이 예제의 배포 비용은 하루 1 ACU 미만입니다. Acurast Hub 플레이그라운드에서 Cargo: Laya 템플릿을 선택하고, 사용할 휴대폰 수를 정한 뒤 배포하세요. 몇 분 뒤면 나만의 판단 모델이 온라인 상태가 됩니다.

 

프라이버시: 판단은 가장 민감한 데이터를 다룹니다

 

호스팅 API를 쓰면 분류하는 모든 이메일, 채팅 메시지, 지원 티켓이 다른 누군가의 서버를 거칩니다. 직접 실행하면 달라집니다. 중간에 끼어드는 회사가 없고, 모델 가중치는 공개되어 있으며, 예제 앱은 로그를 남기지 않고, 증명(attestation)을 거쳐 정품 하드웨어로 확인된 휴대폰에서만 실행됩니다.

 

Cargo로 가능해집니다

 

Acurast Cargo는 모든 배포에 휴대폰 위의 완전한 Linux 환경을 제공하므로, Laya는 임대 서버에 설치할 때와 똑같이 설치됩니다. 같은 런타임에서 이미 OpenClaw, WordPress, Minecraft 서버가 실행되고 있습니다. AI는 몇 주 단위로 발전하며, Cargo는 그 속도를 따라갑니다.

실행 모습 보기

 

예제에 사용된 테스트 휴대폰은 유럽, 미국, 아시아에 흩어져 있습니다. 가장 빠른 휴대폰은 짧은 예/아니요 질문에 약 0.2초 만에 답하고, 이메일 한 통 전체를 1초보다 훨씬 짧은 시간에 분류합니다. 느린 휴대폰은 1초 정도 걸립니다. 데이터 센터 GPU보다는 느리지만, 이메일, 모더레이션, 에이전트 용도라면 문제가 되지 않습니다.

 

게임은 그 속도가 어디에 쓰이는지 보여 줍니다. Laya는 게임 화면을 보고, 수를 고르고, 무엇이 바뀌었는지 확인한 뒤 다시 판단합니다. 뱀이 어느 쪽으로 돌지, Tetris 블록이 어디에 떨어질지, Doom에서는 조준할지, 쏠지, 아이템을 주울지, 문을 열지를 정합니다. 메일 분류기와 채팅 모더레이터도 같은 루프로 돌아가며, 선택지만 바뀝니다.

 

Laya에서 실행되는 데모는 이제 Doom을 포함해 11개입니다. 메일 분류기, 실시간 채팅 모더레이터, 낚시성 기사를 가려내는 뉴스룸, 프롬프트 인젝션 방어 도구, 데이팅 앱, Snake, Tetris 등이 있습니다. laya.acurast.com에서 직접 사용해 보세요.

 

아직 부족한 점

 

System One 모델은 하나의 범주로 등장한 지 일주일밖에 되지 않았고, Laya에도 분명한 한계가 있습니다. 질문의 선택지가 약 20개를 넘으면 정확도가 떨어지고, 기본 모델은 보정(calibration) 전까지 지나치게 확신하는 경향이 있으며, 까다롭거나 악의적인 텍스트에는 여전히 속습니다. 최종 판단이 아니라 빠른 1차 필터로 활용하세요.

 

직접 배포하기

 

대기자 명단도 없고, API 접근 권한을 요청할 공급업체도 없습니다. Hub 플레이그라운드를 열고 Cargo: Laya를 선택해 배포하세요. 11개 데모를 모두 포함한 코드는 GitHub의 Acurast 예제 앱에 공개되어 있습니다.

Acurast로 개발하고 계신가요? 증명된 휴대폰에서 자체 모델, 에이전트 백엔드, 판단 서비스를 운영하고 있다면, 빌더들이 서로 경험을 나누는 Acurast Discord를 찾아 주세요. Discord 참여하기

Related Blogs