이더리움 비탈릭 부테린, '로컬 AI' 개인정보 보호와 속도 두마리 토끼 잡는다

이더리움의 공동 창립자인 비탈릭 부테린이 로컬 인공지능(AI)이 속도 저하 없이 개인정보를 보호할 수 있다는 가능성을 제시하며 암호화폐 업계에 새로운 화두를 던졌다.

부테린은 최근 자신의 Strix Halo 노트북에서 Qwen 3.8 Flash와 같은 로컬 AI 모델이 상당수의 AI 작업을 처리할 수 있다고 밝혔다. 이는 고성능 AI 작업을 위해 반드시 클라우드 기반의 원격 모델에 의존할 필요가 없으며, 개인 데이터의 프라이버시를 강화하면서도 효율적인 AI 활용이 가능하다는 점을 시사한다.

그는 개인정보가 포함된 민감한 정보는 로컬에서 처리하고, 더 복잡하거나 연산량이 많은 작업은 필요한 정보만을 선별적으로 원격 모델에 전달하는 하이브리드 방식의 AI 활용을 제안했다. 이는 사용자 데이터의 외부 유출 위험을 최소화하면서도 AI의 강력한 성능을 활용할 수 있는 혁신적인 접근 방식이다.

부테린은 9월 17일(현지시간) 게시한 글에서 Qwen 3.8 Flash와 llama.cpp의 최근 개선 사항 덕분에 로컬 AI 모델들이 자신의 Strix Halo 노트북에서 "상당한 비중"의 작업을 처리할 수 있는 수준에 근접했다고 설명했다. 실제로 첨부된 벤치마크 이미지에 따르면, 입력 처리 속도는 초당 109.82~373.22 토큰, 출력 생성 속도는 초당 18.42~33.37 토큰에 달하는 것으로 나타났다. 이러한 수치는 고성능 노트북 환경에서 AI의 실질적인 응답성을 뒷받침하며, 로컬 AI의 실용적인 가능성을 보여준다.

하지만 부테린은 이러한 로컬 AI의 발전에도 불구하고, 암호화폐 자산을 직접 관리하는 지갑 소프트웨어의 경우 여전히 훨씬 더 높은 수준의 보안 기준이 요구된다고 강조했다. 현재의 AI 모델 수준으로는 고정된 정책, 트랜잭션 증명, 그리고 인간의 최종 승인이라는 복잡한 과정을 거치지 않고는 암호화폐 자산 통제권을 AI에 위임하기 어렵다는 것이다.

그는 개인정보 보호를 강화하는 로컬 추론(local inference)과 별도로, 자금 이동 권한은 분리되고 강제 가능한 통제 장치 뒤에 남아 있어야 한다고 덧붙였다. 즉, AI는 개인 정보 보호와 효율성 증대에 기여할 수 있지만, 금융 거래와 같이 민감하고 중요한 결정에 있어서는 인간의 개입과 엄격한 보안 프로토콜이 필수적임을 명확히 한 것이다.

**로컬 AI의 진화: 4월과 9월의 변화**

부테린은 지난 4월에도 로컬 AI 설정에 대한 자신의 의견을 공유한 바 있다. 당시 그는 Qwen3.5:35B와 같은 모델이 제한된 작업과 익숙한 프로그래밍 업무를 처리할 수 있지만, 복잡한 코드를 지속적으로 수정하고 개발하는 독립적인 에이전트는 노트북의 실질적인 처리 능력을 넘어선다고 평가했다. 더 어려운 코딩이나 지적인 작업은 여전히 강력한 원격 모델이 필요하다고 보았다.

하지만 9월에 발표된 내용은 이러한 평가에 상당한 변화를 가져왔다. 이제 로컬 모델은 단순히 텍스트 요약이나 정보 기록과 같은 제한적인 작업에 국한되지 않고, 더 넓은 범위의 활동에 대한 주요 인터페이스 역할을 수행하며 원격 모델의 필요성을 판단하는 주체로 발전할 수 있게 되었다. 새로운 설명에 따르면, 로컬 시스템은 사용자의 전체 상황을 이해하는 데 필요한 모든 파일, 메시지, 지갑 정보 대신, 로컬 모델이 선별한 질문이나 맥락만을 원격 서비스에 전달하게 된다. 이는 로컬 시스템이 정보 게이트키퍼 역할을 동시에 수행함을 의미한다.

4월과 9월의 평가는 사용된 모델의 세대와 작업 종류가 달랐다. 9월 게시물은 토큰 수와 처리량을 구체적으로 제시했지만, 프롬프트 내용, 양자화(quantization) 선택, 그리고 전체 런타임 구성에 대한 정보는 포함하지 않았다. 따라서 제시된 수치는 특정 환경에서의 성능을 보여주는 예시로 해석해야 한다.

**Qwen 3.8 Flash: 로컬 AI의 핵심 모델**

알리바바의 Qwen 팀이 공개한 Qwen3.8-Flash-Next 모델은 오픈 가중치(open-weight) 기반의 멀티모달 혼합 전문가(mixture-of-experts) 모델이다. 이 모델은 메인 모델에 1250억 개의 파라미터와 510억 개의 n-gram 임베딩 테이블을 추가로 보유하고 있으며, 토큰당 60억 개의 파라미터가 활성화된다. 이는 적은 리소스로도 높은 성능을 발휘할 수 있는 효율적인 구조를 갖추고 있음을 나타낸다.

공식 저장소는 양자화된 GGUF 빌드를 사용하여 llama.cpp를 통해 로컬 텍스트 및 비전 추론을 지원한다고 명시하고 있다. 이는 개발자들이 비교적 쉽게 로컬 환경에서 Qwen 3.8 Flash 모델을 활용하여 다양한 AI 애플리케이션을 구축할 수 있음을 의미한다.

부테린의 이번 발언은 개인 정보 보호라는 중요한 가치를 지키면서도 AI 기술의 발전과 활용 범위를 넓힐 수 있는 새로운 가능성을 제시했다는 점에서 주목받고 있다. 특히 암호화폐 업계에서 개인 정보 보호는 매우 중요한 이슈인 만큼, 그의 제안은 향후 암호화폐 지갑 및 관련 서비스 개발에 중요한 영향을 미칠 것으로 예상된다. 로컬 AI 기술의 발전은 사용자들에게 더욱 안전하고 편리한 암호화폐 경험을 제공할 수 있는 길을 열어줄 것으로 기대된다.