AI, 사기꾼에 '초능력' 부여… 범죄 자동화로 수익 4.5배 '껑충'

인공지능(AI) 기술이 전문가들의 일자리를 대체할 것이라는 예측과 달리, 오히려 범죄자들에게 '초능력'을 부여하며 새로운 차원의 위협으로 부상하고 있다. 과거 상당한 인력과 시간을 필요로 했던 사기 범죄가 AI를 통해 자동화되면서, 소규모 팀으로도 훨씬 더 많은 사람들에게 광범위한 공격을 감행할 수 있게 된 것이다. 이는 곧 범죄 수익 증대로 이어져, AI 기반 사기 범죄의 온체인(on-chain) 수익이 일반 사기 범죄보다 평균 4.5배 높은 것으로 나타났다.

과거 사기 범죄는 상당한 노동력을 요구했다. 로맨스 스캠(Romance Scam)에서는 수주간 대화를 이어나갈 담당자가 필요했고, 투자 사기에서는 질문에 답하고 신뢰할 만한 신원을 유지할 인력이 필수적이었다. 신원 도용 사기 역시 돈을 빼돌릴 때까지 그럴듯한 연기를 지속해야 했다. 하지만 이제 AI는 이러한 작업의 상당 부분을 자동화할 수 있게 되었다. 이는 곧 동일한 범죄 조직이 더 많은 사람들에게 접근하기 위해 더 많은 인력을 투입할 필요가 없어졌다는 것을 의미한다.

국제자금세탁방지기구(FATF) 의장인 질스 톰슨(Giles Thomson)은 최근 파이낸셜타임스(FT)와의 인터뷰에서 “과거에는 더 큰 규모의 사기 조직이 필요했던 작업을 이제는 지하실에 앉아 있는 한두 명의 사람이 거대한 서버를 이용해 수행할 수 있게 될 것”이라고 경고했다. 이는 마치 모든 산업이 약속받았던 생산성 향상이 범죄 세계에서 더욱 효율적이고 섬뜩한 방식으로 실현되고 있음을 보여준다.

AI가 사기꾼들을 실직자로 만들 것이라는 예상과는 달리, AI가 가져온 가장 중요한 변화는 '각 사기 범죄를 운영하는 비용이 훨씬 저렴해졌다'는 점이다. 한 명의 범죄자는 동시에 더 많은 가짜 신원을 유지하고, 더 많은 대화를 진행하며, 더 많은 사기를 시도할 수 있다. 이는 범죄자들이 거대한 조직처럼 보이게 하기 위해 더 이상 방대한 인프라를 구축할 필요가 없다는 것을 의미한다. 돈을 훔치는 데 특화된 산업에서 이러한 생산성 향상은 매우 매력적인 이점으로 작용한다.

**AI, 사기 범죄에 '규모의 경제'를 가져오다**

블록체인 데이터 분석업체 체이널리시스(Chainalysis)의 조사 결과에 따르면, AI 솔루션을 이용하는 것으로 파악된 사기 범죄 조직의 평균 온체인 수익은 320만 달러에 달했다. 이는 AI 솔루션을 이용하지 않은 일반 사기 범죄 조직의 평균 수익인 71만 9천 달러와 비교했을 때 약 4.5배 높은 수치다. 즉, AI를 활용하는 것이 범죄 수익을 극대화하는 강력한 동인이 되고 있음을 시사한다.

물론, AI 솔루션 구독이 자동으로 범죄자의 소득을 4배로 늘리는 것은 아니다. 체이널리시스 측은 “대규모 사기 조직이 더 정교한 도구를 구매할 가능성이 높으며, 블록체인 데이터를 통해서는 AI의 모든 사용 사례를 파악할 수 없다”고 덧붙였다. 하지만 이러한 수치는 범죄자들이 자동화를 통해 수익을 증대시키려는 강력한 동기를 가지고 있음을 명확히 보여준다.

전통적인 신뢰 기반 사기(Confidence Fraud)는 본질적으로 노동 집약적이었다. 타인의 환상을 유지하기 위해 누군가가 지속적으로 개입해야 했기 때문이다. 가짜 투자 자문가는 질문에 답해야 했고, 로맨스 스캐머는 이전 대화 내용을 기억해야 했으며, 신원 도용범은 대상이 의심하지 않을 정도로 동료나 상사의 목소리를 흉내 내야 했다. 이러한 모든 과정은 시간과 노력을 요구했다.

AI는 이러한 '주의력'을 매우 저렴하게 만들었다. 범죄자들은 진심으로 공감하는 능력을 소프트웨어로 구현할 필요는 없다. 그저 상대방을 대화에 계속 붙잡아 둘 만큼 공감을 '흉내' 낼 수 있는 소프트웨어만 있으면 된다. 이를 통해 한 명의 운영자는 더 오랜 시간 동안, 더 많은 언어로, 더 많은 대화를 동시에 유지할 수 있으며, 동시에 설득력 있는 문서, 이미지, 음성, 그리고 신원 정보까지 생성할 수 있다.

**AI 기반 사기 방어, 패러다임 전환 필요**

AI 기술의 발전은 사기꾼들에게 전례 없는 기회를 제공하지만, 동시에 이를 방어해야 하는 보안 전문가들에게는 새로운 도전을 안겨주고 있다. 과거에는 사기 시도가 발각되면 범죄자들의 시간을 낭비하게 하거나, 여러 단계의 인간 개입을 통해 실수를 유발하는 방식의 방어가 주효했다. 하지만 AI는 이러한 인간적인 실수를 최소화하고, 자동화된 프로세스를 통해 빠르고 효율적으로 범죄를 실행한다.

AI가 생성한 가짜 신원, 딥페이크(Deepfake) 영상, 그리고 감정을 모방한 대화는 일반 사용자들이 진위를 판별하기 매우 어렵게 만든다. 또한, AI는 수많은 개인 정보를 학습하여 각 피해자에게 맞춤화된 공격을 수행함으로써 성공 확률을 더욱 높인다. 이러한 공격은 단일 피해자를 넘어, 대규모 데이터 유출이나 피싱 공격과 결합될 경우 사회 전체에 큰 혼란을 야기할 수 있다.

따라서 AI 시대의 사기 범죄에 대응하기 위해서는 기존의 방어 전략을 재고해야 할 필요가 있다. 범죄자들이 AI를 통해 '시간'을 절약하고 '규모'를 키우는 데 집중하는 만큼, 방어 전략 역시 자금 흐름을 차단하는 데 더 많은 초점을 맞춰야 한다는 분석이 나온다. 즉, 범죄자들의 시간을 낭비시키는 것보다, 그들이 훔친 자금을 최종 목적지까지 전달하지 못하도록 시스템적으로 차단하는 것이 더욱 효과적일 수 있다는 것이다.

이는 블록체인 기술의 투명성과 추적 가능성을 활용하는 동시에, AI 기반 탐지 시스템을 구축하여 의심스러운 거래 패턴이나 비정상적인 활동을 실시간으로 감지하는 노력이 병행되어야 함을 의미한다. 또한, 일반 대중을 대상으로 AI 기반 사기의 위험성을 알리고, 의심스러운 활동에 대한 경각심을 높이는 교육 역시 필수적이다. AI라는 강력한 도구가 악용될 때 발생하는 사회적 비용을 최소화하기 위한 범국가적, 범산업적인 협력이 시급한 시점이다.