Sui, AI 에이전트 보안 강화를 위한 '집행 가능한 지출 한도' 도입

블록체인 플랫폼 수이(Sui)가 인공지능(AI) 에이전트의 안전한 설계를 위한 새로운 접근 방식을 제시하며 업계의 주목을 받고 있다. 수이 재단이 지난 10월 28일 발표한 설계 노트는 AI 에이전트가 임무를 수행하는 데 필요한 권한을 시스템 차원에서 명확히 통제하고, 그 기록을 검증 가능하게 관리해야 한다고 강조한다. 이는 AI 에이전트가 오용되거나 오해로 인해 잘못된 행동을 했을 경우 발생할 수 있는 위험을 최소화하려는 시도다.

현재 많은 AI 에이전트들은 사용자의 명확한 지시를 따르도록 설계되어 있다. 하지만 이러한 방식은 에이전트가 지시를 잘못 해석하거나, 외부에서 제공되는 정보가 오해의 소지가 있을 경우 예상치 못한 결과를 초래할 수 있다. 수이는 이러한 한계를 극복하기 위해, 에이전트가 기억해야 하는 지시 사항으로만 통제하는 대신, 에이전트가 사용하는 시스템 자체에서 권한을 강제로 집행하는 방식을 제안한다. 이는 단순한 '규칙 준수'를 넘어 '권한 부재'를 통해 위험을 원천적으로 차단하겠다는 의미다.

예를 들어, 결제 시스템에서 '지출 한도 이하로만 사용하라'는 지시를 내리는 것과, '해당 한도를 초과하는 결제를 승인할 수 없는 자격 증명'을 부여하는 것은 근본적인 차이가 있다. 전자는 에이전트의 해석에 의존하지만, 후자는 에이전트의 실수 자체를 시스템이 거부할 수 있다. 수이가 제안하는 방식은 효과적인 AI 에이전트 배포를 위해 합리적인 목표 설정과 함께 강력한 실행 제어 메커니즘이 필수적임을 시사한다.

또한, 수이는 '원자적 트랜잭션(atomic transactions)' 개념을 활용하여 부분적인 결과 발생 가능성을 줄이고자 한다. 이는 여러 개의 명령어를 하나의 그룹으로 묶어, 모든 명령어가 성공적으로 실행되거나, 실패 시 아무런 상태 변화가 없도록 하는 방식이다. 자동화된 워크플로우에서 여러 온체인 단계가 서로 의존적일 때 유용하게 활용될 수 있다. 예를 들어, 자산 구매와 그 자산을 다른 곳으로 이동시키는 작업을 하나의 복합 트랜잭션으로 처리하여, 중간에 실패하여 자산이 불완전하게 처리되는 상황을 방지할 수 있다. 하지만 이러한 원자적 실행 역시 거래 가격의 적정성, 수신자의 적합성, 외부 서비스의 이행 여부 등 근본적인 비즈니스 판단에 대한 보증은 제공하지 못한다는 한계가 있다.

좀 더 복잡한 AI 에이전트의 경우, 다른 서비스를 호출하거나 작업을 위임하는 경우가 발생할 수 있다. 이 과정에서 '권한의 위임' 문제가 발생하며, 다음 참여자가 원래 사용자가 허용한 범위 내에서만 작업을 수행할 수 있는지, 아니면 위임 과정에서 의도치 않게 권한 범위가 확대되는지에 대한 고려가 필요하다. 수이의 설계는 이러한 권한 위임 시에도 원래의 경계를 명확히 유지할 수 있도록 설계될 예정이다. 구체적으로는 예산, 승인된 목적, 만료일, 거래 상대방 제한 등 명확한 권한 설정을 통해 시스템이 이를 검증하게 된다.

이러한 접근 방식은 수이 플랫폼 위에서 구축될 AI 에이전트들의 신뢰성을 높이는 데 기여할 것으로 기대된다. 사용자는 에이전트에게 더 많은 자율성을 부여하면서도, 설정된 안전 장치 안에서만 작동한다는 확신을 가질 수 있게 된다. 이는 금융 거래, 데이터 관리, 콘텐츠 생성 등 다양한 분야에서 AI 에이전트의 활용 범위를 넓히는 중요한 발판이 될 수 있다. 특히, 블록체인 기술의 투명성과 불변성을 활용하여 AI 에이전트의 모든 활동 기록을 검증 가능하게 함으로써, 잠재적인 문제 발생 시 추적 및 해결을 용이하게 할 수 있다. 수이의 이러한 노력은 AI와 블록체인 기술의 융합이 가져올 미래 사회에서 보안과 신뢰를 구축하는 중요한 선례가 될 것으로 보인다.