AI 쇼핑 시대, 결제 후 분쟁 발생 시 책임 소재 불분명 '논란'

인공지능(AI) 에이전트가 사용자를 대신해 상품을 구매하고 결제하는 시대가 빠르게 다가오고 있지만, 결제가 완료된 후 발생하는 분쟁에 대한 책임 소재가 불분명하다는 지적이 제기되며 금융 시스템에 새로운 과제를 안겨주고 있습니다.

아마존의 베드락 에이전트코어(Bedrock AgentCore)는 코인베이스(Coinbase) 및 스트라이프(Stripe)와 협력하여 AI 에이전트가 사전에 설정된 지출 한도 내에서 스테이블코인 등을 사용하여 유료 서비스를 탐색, 인증하고 결제할 수 있도록 지원합니다. 이는 AI 에이전트가 이미 인터넷을 통해 주문을 시작하고 있다는 점을 보여줍니다. 하지만 결제가 이루어진 이후, 구매자의 AI 에이전트가 규정된 금액을 정확히 지불했음에도 불구하고 구매자가 환불을 요청하는 상황이 발생하면 문제가 복잡해집니다. 호주 준비은행(RBA)은 지난 10월 6일 이러한 결제 시스템의 허점을 지적하며, 에이전트가 구매자의 권한을 초과했을 경우 발생하는 불분명한 책임 문제를 수면 위로 끌어올렸습니다.

젠레이어 재단(GenLayer Foundation)의 에드가스 넴세(Edgars Nemse) CEO는 이러한 결제 시스템의 한계를 강조합니다. 그는 “결제 자체는 비교적 간단하다. 돈이 이동했는지 여부는 명확하기 때문이다. 하지만 결과에 대한 판단은 다르다”고 지적합니다. 약속된 대로 서비스가 제공되었는지 여부를 판단하는 것은 주관적인 판단이 필요한 영역이며, 이는 AI 에이전트가 처리하기 어려운 문제입니다.

AI 에이전트는 분쟁 발생의 마찰을 줄여줍니다.
넴세 CEO에 따르면, 모든 분쟁 해결 시스템은 분쟁 절차 자체가 매우 번거롭기 때문에 대부분의 사람들이 이를 포기할 것이라는 암묵적인 가정을 기반으로 합니다. 그러나 AI는 이러한 마찰을 이미 줄이고 있으며, 현재는 사람들이 직접 불만을 제기하고 있습니다. 미국 소비자금융보호국(CFPB)에 접수된 민원은 2025년에 두 배로 증가한 660만 건에 달했으며, 규제 당국은 대규모 언어 모델(LLM)과 자율 소프트웨어가 중복되는 제출물로 민원 시스템을 마비시킬 수 있다고 경고했습니다.

네이처 휴먼 비헤이비어(Nature Human Behaviour)에 발표된 한 연구에 따르면, LLM 사용은 CFPB에서 유리한 구제를 받을 확률을 6.9% 포인트 높이는 것으로 추정됩니다. 이러한 수치는 주로 신용 보고와 관련된 민원 시스템을 설명하지만, AI의 영향력을 보여줍니다.

마스터카드(Mastercard)와 데이터스(Datos)가 2025년에 발표한 전망에 따르면, 2028년까지 전 세계적으로 3억 2400만 건의 차지백(chargeback)이 발생할 것으로 예상됩니다. 마스터카드의 2026년 미국 가맹점 기준에 따르면, 차지백당 128달러가 소요되며, 이는 내부 비용과 제3자 수수료를 포함하지만 상품이나 서비스 손실 비용은 제외합니다. 이 미국 기준을 전 세계 발생 건수에 적용하여 추정해 보면, 5% 증가 시 1620만 건의 차지백이 추가되어 약 21억 달러의 운영 비용이 발생하며, 15% 증가 시에는 4860만 건의 차지백과 약 62억 달러의 비용이 발생할 수 있습니다.

넴세 CEO는 이러한 사례들의 후속 처리를 위해 배치된 인력이 이미 과부하 상태이며, “아마존을 포함한 모든 기업이 그렇다”고 언급하며, “그들은 이미 한계에 도달하고 있다”고 덧붙였습니다.

규제 당국, 가맹점 비용 문제 제기
호주 준비은행(RBA)이 10월 6일 발표한 지급결제 협의 결과 요약본에는 75개 이해관계자들의 서면 제출 내용이 포함되었습니다. 가맹점, 지급결제 서비스 제공업체, 카드 발급사들은 에이전트가 승인된 권한을 벗어나 행동했을 때 책임 소재가 불분명해지는 차지백 규정으로 인해 어려움을 겪고 있다고 밝혔습니다. 이들은 에이전트 기반 상거래가 가맹점의 비용을 증가시킬 수 있으며, 결제 네트워크는 에이전트가 고객의 지시를 따랐는지 여부를 판단하는 데 어려움을 겪을 수 있다고 언급했습니다. 일부 이해관계자들은 AI 지원 구매에 대해 추가 4%의 수수료가 부과된다는 보고를 인용하기도 했습니다.

제출된 의견들은 AI 에이전트 상거래의 채택이 초기 단계이며, 피해 사례는 아직 제한적이라고 설명하고 있습니다. 그러나 AI 기술의 발전 속도를 고려할 때, 이러한 문제들이 빠르게 현실화될 수 있다는 점을 시사합니다.

AI 에이전트의 책임 소재 문제는 단순한 기술적 문제를 넘어 금융 시스템의 근간을 흔들 수 있는 중요한 사안입니다. 기존의 법적, 제도적 장치들이 AI 기반 거래의 복잡성과 속도를 따라가지 못하고 있다는 지적이 나오고 있습니다. 이러한 상황에서 소비자와 기업 모두를 보호하고, AI 기반 상거래가 안정적으로 발전하기 위한 새로운 규제와 기술적 해결책 마련이 시급합니다.

가맹점들은 AI 에이전트가 권한을 초과하여 발생한 문제에 대해 책임지지 않으면서도, 높아지는 차지백 비용과 새로운 수수료 부담으로 이중고를 겪을 수 있습니다. 또한, AI 에이전트가 단순히 결제를 넘어 서비스 제공의 품질이나 계약 이행 여부에 대한 판단까지 개입하게 될 경우, 분쟁의 복잡성은 기하급수적으로 증가할 것입니다. 이러한 상황은 결국 AI 에이전트 거래에 대한 가맹점의 부정적인 인식으로 이어져, 특정 플랫폼이나 서비스에 대한 접근을 제한하는 결과를 초래할 수도 있습니다. 넴세 CEO가 언급했듯, AI 에이전트의 '결과'에 대한 판단은 아직 인간의 영역이며, 이 간극을 어떻게 메울 것인지에 대한 해답이 필요합니다.

이번 RBA의 발표는 AI 에이전트가 상용화되기 전에 반드시 해결해야 할 과제를 명확히 제시한 것으로 평가됩니다. 금융 당국, 기술 기업, 소비자 보호 단체 등이 협력하여 AI 에이전트 거래의 투명성과 책임성을 강화하고, 소비자가 안심하고 AI 기술의 혜택을 누릴 수 있는 환경을 구축하는 것이 중요합니다.