AI, 익명 온라인 계정 실명 추적 90% 성공…개인정보 보호 '빨간불'
Decrypt2026년 9월 25일 03:311
인공지능(AI) 기술의 급격한 발전이 온라인에서의 익명성마저 위협하고 있다는 경고가 나왔다. 최근 취리히 연방 공과대학(ETH Zurich)과 AI 안전 연구 단체 MATS, 그리고 앤트로픽(Anthropic) 소속 연구진이 발표한 연구 결과에 따르면, AI는 웹 검색, 임베딩(embedding) 모델, 그리고 GPT와 같은 추론 모델을 활용하여 익명으로 활동하는 온라인 계정의 실제 소유주를 최대 90%의 정확도로 식별해낼 수 있는 것으로 나타났다. 이 과정에서 해킹이나 데이터 유출과 같은 불법적인 행위는 전혀 필요하지 않으며, 목표 계정당 약 1~4달러의 비교적 적은 비용으로 수행 가능한 것으로 밝혀져 충격을 주고 있다.
이번 연구 결과는 온라인 상에서 익명성을 유지하며 활동해왔던 수많은 사용자들에게 ‘프라이버시의 종말’이라는 표현까지 등장하며 공포감을 안겨주고 있다. 해당 연구는 지난 2월 발표되었으나, 최근 X(구 트위터)와 레딧(Reddit) 등 주요 온라인 커뮤니티를 중심으로 다시금 화제가 되며 그 파장을 넓혀가고 있다. 연구 논문의 제목은 'LLM을 이용한 대규모 온라인 익명 해제(Large-scale online deanonymization with LLMs)'이며, 이 논문은 취리히 연방 공과대학과 MATS 소속 연구진이 앤트로픽의 연구진과 협력하여 진행했다. 앤트로픽은 최근 강력한 성능으로 주목받고 있는 AI 챗봇 '클로드(Claude)'를 개발한 회사이기도 하다.
연구진은 현재 널리 사용되고 있는 클로드, 챗GPT, 제미나이(Gemini)와 같은 대규모 언어 모델(LLM)이 사용자의 익명 게시물을 분석하여 실제 신원을 파악할 수 있다고 주장한다. 이는 기존의 해킹 기술과는 근본적으로 다르다. AI는 단순히 정보를 읽고, 검색하고, 추론하는 과정만을 통해 이러한 성과를 달성한다. 이는 곧 AI 챗봇들이 일상적으로 수행하는 수많은 ‘단순 반복 작업’과 본질적으로 동일한 방식이다. 연구진은 실제로 익명으로 운영되던 레딧 계정을 단 몇 분 안에, 단 2달러의 비용으로 실명과 연결하는 AI 파이프라인을 구축했다고 밝혔다.
이번 연구는 실질적인 익명성이 온라인에서 더 이상 보장되지 않으며, 온라인 프라이버시에 대한 기존의 위협 모델을 재고해야 할 필요성을 명확히 보여준다. 연구진은 논문에서 “우리의 결과는 온라인에서 가명 사용자를 보호하는 실질적인 은폐가 더 이상 유효하지 않으며, 온라인 프라이버시에 대한 위협 모델을 재고해야 함을 보여준다”고 강조했다. 이 연구는 취리히 연방 공과대학의 윤리 검토 위원회를 통과한 후 발표되었으며, 연구진은 코드, 프롬프트, 그리고 식별된 실제 신원 정보 등은 공개하지 않았다.
AI가 이러한 ‘신원 추적’을 수행하는 과정은 크게 네 단계로 나눌 수 있다. 첫 번째 단계는 ‘추출(Extract)’이다. 이 단계에서 AI는 특정 사용자의 게시물을 입력받아 해당 인물의 특성을 요약한다. 예를 들어, 거주지, 직업, 취미, 혹은 게시물에 스쳐 지나가듯 언급된 영국식 철자 사용 습관이나 반려견의 이름 등 사소한 정보까지도 수집한다.
다음 단계는 ‘검색(Search)’이다. 추출된 요약 정보는 컴퓨터가 이해할 수 있는 숫자 형태의 임베딩으로 변환된다. 이 임베딩은 수천 개의 후보 프로필 중에서 유사한 특징을 가진 프로필을 즉각적으로 찾아내는 데 사용된다. 마치 도서관에서 특정 주제와 관련된 책을 빠르게 찾는 것과 유사한 원리다.
세 번째 단계는 ‘추론(Reason)’이다. 이 단계에서는 더 강력한 AI 모델이 앞선 검색 단계에서 가장 가능성이 높은 몇 개의 후보 프로필을 분석한다. 인간 수사관이 사건의 단서를 조합하듯, AI는 여러 정보들을 교차 검증하며 실제 신원을 추론한다. 이는 기존의 검색 엔진이나 단순 데이터 분석과는 차원이 다른, 보다 정교한 추론 능력을 요구하는 과정이다.
마지막 단계는 ‘보정(Calibrate)’이다. 이 단계에서 AI는 자신이 추론한 결과에 대한 신뢰도를 스스로 평가한다. AI는 자신이 상당히 확신하는 경우에만 추측을 내놓고, 그렇지 않은 경우에는 침묵을 지킴으로써 잘못된 정보가 확산되는 것을 방지한다. 이러한 단계별 접근을 통해 AI는 마치 숙련된 탐정처럼, 혹은 그 이상의 효율성으로 익명 계정의 실소유주를 추적할 수 있게 되는 것이다.
연구진은 실제로 한 실험에서 익명 사용자 338명을 대상으로 실험을 진행했다. 이들은 주로 가명으로 활동하는 하커 뉴스(Hacker News) 게시판 사용자들로, 자신의 프로필에 링크드인(LinkedIn) 계정을 연결해두었다. 연구진은 이들의 식별 가능한 모든 정보를 제거한 후 AI에게 분석을 맡겼고, AI는 놀라운 정확도로 이들의 신원을 특정해냈다. 이러한 기술이 일반화된다면, 온라인에서의 익명성을 기반으로 활동하는 개인들은 물론, 언론의 자유, 사회 운동, 내부 고발 등 다양한 영역에 심각한 영향을 미칠 수 있다는 우려가 제기되고 있다.
AI를 이용한 익명 해제 기술의 발달은 개인정보 보호 및 디지털 프라이버시에 대한 근본적인 재검토를 촉구한다. 과거에는 법 집행 기관이나 해커들의 전유물로 여겨졌던 신원 추적이 일반적인 AI 기술을 통해 누구에게나 가능한 시대가 올 수도 있다는 전망이 나온다. 이에 따라 정부, 기업, 그리고 개인 모두가 온라인에서의 안전한 활동을 위해 어떤 대비책을 마련해야 할지 깊이 고민해야 할 시점이다. 특히, AI 개발 및 활용에 대한 윤리적 가이드라인 마련과 관련 법규 정비의 필요성이 더욱 절실해지고 있다. 이러한 기술이 악용될 경우, 디지털 사회의 신뢰 기반 자체가 흔들릴 수 있다는 점을 간과해서는 안 될 것이다.