오픈AI, 중국 스타트업 '문샷AI'의 AI 모델 정보 빼돌리기 시도 적발

## 오픈AI, 중국 '문샷AI'의 AI 모델 정보 빼돌리기 시도 적발… "비밀 추론 과정 복제 시도"

**[로스앤젤레스=뉴스핌]** 인공지능(AI) 연구 선두 주자인 오픈AI가 경쟁사의 AI 모델 내부 작동 방식, 즉 '숨겨진 추론 과정'을 무단으로 복제하려는 조직적인 시도를 적발하고 이를 차단했다고 밝혔습니다. 오픈AI는 이 활동의 핵심 배후로 중국의 AI 스타트업 '문샷 AI(Moonshot AI)'와 연관된 인물들을 지목하며, AI 기술 탈취 시도가 더욱 정교해지고 있음을 경고했습니다.

오픈AI에 따르면, 이 캠페인은 지난 7월 1일부터 시작되었습니다. 특히 지난 7월 24일부터 25일 이틀 동안 무려 4,000명이 넘는 사용자를 통해 16,000건에 달하는 정보 추출 요청이 발생했습니다. 이는 15,000명 이상의 사용자 클러스터 내에서 이루어진 광범위한 활동의 일부였습니다. 오픈AI는 7월 28일까지 이 모든 활동을 완전히 차단했다고 강조했습니다.

이번 공격의 목표는 AI 모델이 생성하는 최종 답변 자체가 아니었습니다. 대신, AI가 답변을 내놓기 전까지 거치는 내부적인 '추론 과정', 즉 문제 해결을 위한 단계별 사고 과정을 추출하려 했던 것으로 분석됩니다. 오픈AI는 이 과정을 '암호화된 스크래치패드'에 저장되며, 일반적인 답변에서는 드러나지 않는 중요한 정보를 담고 있다고 설명했습니다.

오픈AI는 성명을 통해 “운영자들은 우리의 암호화를 해독하거나, 데이터베이스를 침해하거나, 저장된 사용자 대화에 직접 접근하지 못했다”고 밝혔습니다. 그러면서 “대신, 모델과의 상호작용을 조작하여 보호된 추론 과정이 요청자에게 보이는 형태로, 서비스 약관을 위반하는 조율되고 확장된 방식으로 복제되도록 했다”고 덧붙였습니다. 이는 마치 AI의 뇌 속을 들여다보려는 시도와도 같습니다.

추출 방식의 구체적인 예로는, 한 대화에서 암호화된 추론 과정을 복사한 뒤 다른 대화에서 해당 모델에게 이를 해독하도록 요청하는 방식이 사용되었습니다. 이러한 간접적인 방법을 통해 AI 모델의 핵심적인 작동 방식을 파악하려 한 것입니다.

오픈AI는 이번 활동의 모든 운영자가 단일 행위자로부터 나왔는지 여부는 불분명하지만, “핵심 활동 클러스터는 Kimi 챗봇 개발사인 문샷 AI와 연관된 인물들에게서 비롯된 것”이라고 분석했습니다. Kimi는 중국에서 인기 있는 AI 챗봇으로, 문샷 AI는 최근 대규모 투자를 유치하며 빠르게 성장하고 있는 스타트업입니다.

이번 사건은 AI 기술 경쟁이 심화되면서, 단순한 결과물 베끼기를 넘어 AI 모델 자체의 내부 구조와 작동 원리를 탈취하려는 시도가 나타나고 있음을 시사합니다. 이러한 '적대적 증류(adversarial distillation)'는 새로운 AI 모델을 개발하는 데 드는 시간과 비용을 획기적으로 줄일 수 있다는 점에서 매력적이지만, 동시에 AI 생태계의 건전한 발전을 저해할 수 있다는 우려를 낳고 있습니다.

오픈AI는 이러한 문제점을 해결하기 위해, 과거 사용자의 암호화된 추론 과정을 재사용하여 해당 내용을 복구할 수 있었던 경로를 차단하는 등 보안 강화 조치를 취했습니다.

**AI 모델 증류(Distillation)와 그 의미**

AI 모델 증류는 강력한 AI 모델의 결과물을 학습 데이터로 사용하여, 더 작고 효율적인 새로운 AI 모델을 훈련시키는 기술입니다. 이는 마치 '선생님' AI의 지식을 '제자' AI가 습득하는 것에 비유할 수 있습니다. 이 과정을 통해 적은 컴퓨팅 자원으로도 높은 성능을 내는 AI 모델을 만들 수 있습니다. 하지만 오픈AI가 지적한 '적대적 증류'는 이러한 증류 과정을 '체계적이고 무단으로' 사용하여 경쟁사의 AI를 개선하거나 복제하려는 행위를 의미하며, 이는 AI 기업들의 서비스 약관을 위반하는 행위입니다.

AI 연구자들은 이번 사건이 AI 기술의 윤리적 사용과 지적 재산권 보호에 대한 중요한 질문을 던진다고 말합니다. AI 기술의 발전 속도가 빨라짐에 따라, 모델의 내부 정보 보호 및 공정한 경쟁 환경 조성을 위한 업계 전반의 노력이 더욱 중요해질 것으로 전망됩니다.

이번 사건은 과거에도 비슷한 논란이 있었음을 상기시킵니다. 특히 2025년 1월, 오픈AI는 이미 유사한 사안으로 논란의 중심에 선 바 있습니다. AI 산업의 '무임승차' 혹은 '기술 탈취' 시도는 앞으로도 계속될 가능성이 높으며, 이에 대한 기술적, 법적, 윤리적 대응 방안 마련이 시급한 과제로 떠오르고 있습니다.

AI 모델의 '추론 과정'이라는 민감한 정보를 보호하는 것은 AI 기술의 혁신성과 안전성을 유지하는 데 필수적입니다. 오픈AI의 이번 조치는 이러한 중요성을 다시 한번 부각시키는 계기가 되었습니다.