내 ChatGPT 대화, 사람이 읽는다?… 오픈AI 소송 휩싸여
Decrypt2026년 9월 25일 05:014
오픈AI가 사용자들의 챗GPT 대화 내용을 외부 계약직 직원에게 검토하도록 허용한 사실이 알려지면서 법적 공방에 휘말렸다. 캘리포니아주에 거주하는 두 명의 챗GPT 사용자는 최근 오픈AI를 상대로 집단 소송을 제기하며, 회사가 사용자들에게 명확한 고지 없이 외부 계약자들이 실제 대화를 열람하도록 했다고 주장했다. 이번 소송은 오픈AI의 내부 프로그램인 '프로젝트 릴리(Project Lily)'에 초점을 맞추고 있다. 이 프로그램 하에서 오픈AI는 인력 파견 업체를 통해 고용한 계약직 직원들에게 사용자들의 질문(프롬프트)을 요약하고, 챗봇의 답변을 1점에서 7점까지 평가하도록 했다.
지난 9월 2일, 미국 캘리포니아 북부 지방 법원에 제기된 이 소송은 오픈AI가 실제 사용자들의 대화를 명확한 고지 없이 외부 계약자에게 전달했다는 혐의를 받고 있다. 소송의 핵심은 404 Media가 지난 9월 14일 처음 보도한 오픈AI의 내부 프로그램 '프로젝트 릴리'이다. 고소장에 따르면, 'AI 데이터 검토자' 및 '챗봇 평가자'와 같은 직책으로 제3자 파견 업체를 통해 고용된 계약직 직원들은 실제 챗GPT 사용자들의 질문과 전체 대화 내용을 열람하고, 사용자가 무엇을 시도하려 했는지 요약한 후, 챗봇의 네 가지 답변을 각각 1점에서 7점까지 평가 및 비평한다.
이러한 과정은 챗GPT와 같은 챗봇이 실제로 더 똑똑해지는 기본적인 방법이다. 기본적으로 인간이 AI의 답변을 평가하고, 이 평가 결과는 훈련 데이터로 피드백되어 모델이 인간이 선호하는 응답을 학습하도록 한다. 업계에서는 이를 RLHF(Reinforcement Learning from Human Feedback, 인간 피드백 기반 강화학습)라고 부른다. 소송의 주된 쟁점은 사용자들에게 기계뿐만 아니라 사람이 자신의 대화를 읽을 수도 있다는 사실을 명확하게 알리지 않았다는 점이다.
오픈AI는 어떤 인간이든 대화를 보기 전에 대화 내용을 자동화 시스템을 통해 검토하도록 한다. 그러나 고소장에 따르면, 이 필터가 항상 모든 것을 걸러내지는 못해 개인 정보가 계약자에게 전달되는 경우가 있다고 주장한다. 404 Media의 조사 결과, 검토자들은 '사용자 메모 요약'이라는 대시보드를 통해 작업하며, 이 요약에는 사용자의 과거 대화 기록이 포함될 수 있다. 비록 사용자 이름은 제거되지만, 일반적인 위치, 직업 또는 개인 생활에 대한 세부 정보가 드러날 수 있다. 오픈AI는 이러한 검토가 두 가지 특정 행동을 줄이기 위한 것이라고 밝혔다. 하나는 챗봇이 지나치게 인간처럼 행동하는 것이고, 다른 하나는 AI가 정확한 정보 대신 사용자가 듣고 싶어 하는 것을 말해주는 '아첨' 행위이다.
챗GPT는 주간 활성 사용자 수가 9억 명이 넘으며, 많은 사용자들이 이를 일기장, 상담사, 혹은 자신만 볼 수 있는 검색 엔진처럼 사용한다. 사람들은 건강 증상, 이별 문자, 세금 문제, 법적 어려움 등 민감한 내용을 입력한다. 소송은 오픈AI의 개인정보 보호 정책에 외부 당사자들의 데이터 접근에 대한 일부 범주가 명시되어 있지만, 데이터 주석 작업이나 인간 평가 공급업체를 명시적으로 언급하지 않았다고 주장한다.
이번 소송은 AI 개발 및 활용에 있어 투명성과 개인 정보 보호의 중요성을 다시 한번 부각시킨다. 사용자들은 AI와의 상호작용이 단순히 기계와의 대화가 아니라, 경우에 따라 인간에 의해 검토될 수 있다는 사실을 인지하고, 이에 대한 명확한 동의 절차가 필요하다고 주장하고 있다. 오픈AI 측은 오는 10월 13일까지 법원에 답변해야 하는 상황이며, 원고 측은 '모두를 위한 모델 개선' 설정을 기본값으로 비활성화하고, 인간이 대화를 읽기 전에 반드시 사용자 동의를 받도록 할 것을 요구하고 있다. 이 소송의 결과는 향후 AI 서비스 제공 방식과 개인 정보 보호 정책에 상당한 영향을 미칠 것으로 전망된다.
AI 기술이 발전하고 우리의 일상 깊숙이 파고들면서, AI 서비스 제공 업체들은 사용자 데이터의 처리 방식에 대해 더욱 투명하고 책임감 있는 태도를 보여야 한다는 사회적 요구가 커지고 있다. 이번 오픈AI 소송은 이러한 흐름의 연장선에 있으며, AI 시대의 프라이버시 이슈에 대한 중요한 선례를 남길 가능성이 있다. 법원의 판결은 물론, 오픈AI가 자체적으로 어떠한 정책 변화를 가져올지가 주목된다.