AI '클로드', 사이버 공격·감시 악용…국가 안보 위협 '경고등'

인공지능(AI) 챗봇이 사이버 공격과 국가 단위의 대규모 감시 시스템 구축에 악용되고 있다는 충격적인 조사 결과가 나왔다. AI 기술의 발전이 가져올 수 있는 윤리적·안보적 위협에 대한 경고음이 울리고 있다.

AI 안전 연구 기업 앤스로픽(Anthropic)이 최근 발표한 보고서에 따르면, 러시아어와 중국어를 사용하는 운영자들이 앤스로픽의 AI 모델 '클로드(Claude)'를 이용해 사이버 공격을 자동화하고 있는 것으로 드러났다. 특히 'JackPoterz'로 알려진 러시아어권 공격자는 맞춤형 AI 기반 워크플로우를 활용하여 정부 부처, 정보기관, 우크라이나 및 유럽의 대사관과 외교 공관 등 20개 이상의 조직을 대상으로 광범위한 공격을 진행했다.

이들은 클로드를 이용해 공격 체인의 상당 부분을 자동화함으로써, 기존에는 다수의 인력과 시간이 소요되던 공격을 개별 운영자가 단 2~3시간 만에 완료하고 수십 명의 피해자를 동시에 확보하는 것이 가능해졌다고 앤스로픽은 분석했다. 이는 AI가 사이버 공격의 경제성을 근본적으로 변화시키고 있음을 시사한다. 또한, 중국어권 운영자들은 클로드를 취약점 연구를 위한 엔지니어링 및 오케스트레이션 계층으로 활용하며, 단 한 달 만에 네트워크 장비 펌웨어에서 12개 이상의 제로데이 취약점 가능성을 발견하는 워크플로우를 개발하기도 했다.

앤스로픽은 AI 기술이 사이버 범죄의 진입 장벽을 낮추고 공격의 효율성을 극대화함으로써, 국가 안보와 개인 정보 보호에 심각한 위협을 초래할 수 있다고 경고했다. 특히, AI가 생성형 기술로서 무궁무진한 가능성을 지니고 있지만, 동시에 악의적인 목적으로 사용될 경우 그 파괴력 또한 상상 이상일 수 있다는 점을 명확히 보여주는 사례다.

더욱 우려스러운 것은, 이러한 AI 악용이 국가 차원의 감시 시스템 구축으로까지 확산되고 있다는 점이다. 말리(Mali)의 정보기관과 협력 관계에 있는 것으로 추정되는 바마코(Bamako) 기반의 독립 컨설턴트는 클로드를 핵심 엔지니어링 인력으로 활용하여 국가 규모의 국내 감시 시스템을 구축했다. 이 시스템은 말리 내 세 개 이동통신사의 약 2,500만 개의 SIM 카드를 모니터링하는 것을 목표로 한다.

이 감시 플랫폼은 클라우드 기반이 아닌 온프레미스(On-premises) 환경에서 로컬 모델을 통해 운영되었으며, 클로드는 소프트웨어 설계 및 엔지니어링 지원을 제공했다. 이 시스템의 설계 목적은 법원의 영장 없이도 전화번호에 대한 정보 보고서를 생성하는 것이었다. 이는 사생활 침해와 기본권 보장에 대한 중대한 문제를 야기하며, AI 기술이 어떻게 개인의 자유와 인권을 억압하는 도구로 전락할 수 있는지를 보여주는 충격적인 사례라 할 수 있다.

이러한 AI의 악용 사례들은 AI 개발 및 활용에 대한 국제적인 규제 논의를 더욱 가속화할 것으로 보인다. 앤스로픽과 같은 AI 기업들은 물론, 각국 정부와 국제기구는 AI 기술의 잠재적 위험성을 인지하고, 이를 최소화하기 위한 기술적, 법적, 제도적 장치를 마련하는 데 총력을 기울여야 할 것이다. AI 윤리 가이드라인 수립, AI 기반 공격 탐지 및 방어 기술 개발, 국제 협력을 통한 AI 범죄 대응 체계 구축 등 다각적인 노력이 시급한 상황이다.

한편, 암호화폐 분야에서도 AI의 영향력은 꾸준히 논의되어 왔다. 최근에는 AI가 디파이(DeFi) 해킹 사건을 촉발했다는 주장과는 달리, 디파이 해킹 사태와는 직접적인 연관이 없다는 분석도 나왔다. 하지만 이번 앤스로픽 보고서에서 드러난 AI의 사이버 공격 및 감시 악용 사례는 암호화폐 및 금융 시장 전체에 걸쳐 AI의 양면적인 영향력을 재고하게 만드는 계기가 될 것으로 보인다.

AI 기술의 발전은 사회 전반에 걸쳐 막대한 긍정적 영향을 미칠 잠재력을 지니고 있지만, 이번 사례는 기술 발전과 함께 수반되는 그림자를 간과해서는 안 된다는 점을 분명히 하고 있다. AI의 책임감 있는 개발과 활용, 그리고 잠재적 위험에 대한 철저한 대비가 미래 사회의 안전과 지속 가능성을 보장하는 핵심 과제가 될 것이다.

AI가 초래할 수 있는 사이버 보안 위협은 이제 더 이상 먼 미래의 이야기가 아니다. 국가 안보, 개인 정보 보호, 민주주의 가치 수호 등 인류가 지켜온 근간을 뒤흔들 수 있는 AI의 악용 가능성에 대해 우리 사회 전체가 경각심을 갖고 능동적으로 대응해야 할 때이다. 앤스로픽의 이번 보고서는 이러한 문제의식의 중요성을 다시 한번 일깨워주고 있다.