트위치, AI 학습 데이터 기본 제공… "옵트인 안 할 것"

세계 최대 게임 스트리밍 플랫폼 트위치가 아마존의 생성형 AI 모델 학습을 위해 스트리머의 콘텐츠를 기본 설정으로 제공하기 시작하면서 논란이 일고 있습니다. 이용자가 명시적으로 거부하지 않는 한, 스트리머의 영상, VOD, 클립, 하이라이트, 채팅, 텍스트, 이미지 등 모든 콘텐츠가 AI 학습에 사용됩니다.

트위치는 지난 수요일, 이용자들이 아마존 전반의 생성형 AI 모델 학습에 채널 콘텐츠 사용을 거부할 수 있는 설정을 추가했다고 발표했습니다. 그러나 이와 동시에, 이러한 학습이 이미 진행 중이라는 사실이 알려지면서 스트리머들 사이에서는 불만이 터져 나왔습니다. 지난 7월 말부터 복수의 소식통을 통해 이러한 움직임이 임박했다는 이야기가 돌았기 때문입니다.

트위치의 최고 제품 책임자(CPO) 마이크 민턴은 이러한 설정을 '옵트아웃(opt-out)' 방식으로 설정한 이유에 대해 "만약 '옵트인(opt-in)' 방식으로 했다면, 아무도 동의하지 않았을 것"이라고 솔직하게 답변했습니다. 이는 곧 아마존의 AI 학습 데이터 확보에 대한 의지를 단적으로 보여주는 발언으로 해석됩니다.

트위치는 채널 내 모든 콘텐츠를 AI 학습 범위에 포함했습니다. 스트리밍 영상, 다시보기, 짧은 클립, 하이라이트, 채팅 기록, 텍스트, 이미지 등 다양한 형태의 데이터가 모델 학습에 활용됩니다. 트위치 측은 이러한 모델들이 텍스트, 오디오, 이미지, 비디오를 생성하거나 합성하는 것을 목표로 한다고 설명했습니다. 예를 들어, 스트리머의 오디오 데이터가 음성-텍스트 변환 모델을 개선하는 데 사용되어 트위치 및 아마존 전반의 자막 정확도를 높이는 데 기여할 수 있다는 것입니다.

이러한 AI 학습 데이터 사용을 거부하기 위한 설정은 계정 설정 페이지 하단의 '보안 및 개인 정보' 섹션에서 '생성형 AI 학습'이라는 이름으로 확인할 수 있습니다. 하지만 이 설정만으로 AI 학습 데이터 사용을 완전히 막을 수 있는지에 대한 의문도 제기되고 있습니다.

트위치 커뮤니티 책임자인 메리 키쉬와 최고 제품 책임자인 마이크 민턴은 수요일, 약 3,000명의 시청자가 지켜보는 트위치 채널을 통해 이용자들의 질문에 답했습니다. 채팅창에는 AI에 대한 반대 메시지가 쏟아졌습니다. '옵트인' 방식이 아닌 '옵트아웃' 방식을 택한 이유에 대한 질문에 민턴은 앞서 언급한 것처럼 "옵트인 방식이라면 아무도 동의하지 않을 것"이라는 답변을 내놓았습니다.

한 이용자가 자신의 영상이 이미 AI 학습에 사용되었는지 묻자, 민턴은 "솔직히 제가 알지 못한다. 아마존이 모델 학습과 관련하여 무엇을 했는지, 무엇을 사용했고 사용하지 않았는지 모르기 때문"이라고 답했습니다. 키쉬는 개인적으로는 설정을 거부했으며, 이 통제 기능 자체가 생성형 모델 학습을 원하지 않는 커뮤니티의 요구에 대한 응답이라고 설명했습니다. 민턴은 자신이 스트리머였다면 AI 학습에 대해 편안함을 느꼈을 것이며 거부하지 않았을 것이라고 덧붙였습니다.

옵트아웃을 한 이용자가 옵트아웃을 하지 않은 다른 이용자의 스트림에 등장했을 경우 발생하는 상황에 대한 질문에는 명확한 답변을 내놓지 못했습니다. 코타쿠(Kotaku)에 따르면 민턴은 이를 "좋은 질문"이라고만 답했습니다. 그러나 이와 함께 공개된 FAQ에 따르면, 시청자의 채팅 사용 여부는 스트리머의 선호도에 따라 결정된다고 명시되어 있습니다. 또한, 어떤 채널이 AI 학습을 위해 옵트인했는지 사용자들이 확인할 수 있는 계획은 없다고 그는 확인했습니다.

옵트아웃의 범위 또한 예상보다 좁습니다. 트위치는 여전히 AutoMod 기능과 자막 생성 기능을 제공하며, 이는 학습 모델이 새로운 콘텐츠를 생성하는 데 사용되지 않는다고 주장합니다. 회사 측은 이러한 기능 중 일부는 플랫폼 전체를 보호하기 위한 것이므로, 특정 개인을 위해 이 기능을 비활성화하는 옵션은 제공되지 않는다고 밝혔습니다. 즉, AI 학습 데이터 사용을 거부하더라도 플랫폼의 기본적인 기능은 계속 유지되며, 이 과정에서 발생하는 콘텐츠 활용에 대한 통제가 제한적일 수 있음을 시사합니다.

이번 조치는 AI 기업들이 학습에 사용할 데이터를 확보하는 데 어려움을 겪고, 다양한 경로를 통해 데이터를 수집하려는 움직임 속에서 나왔습니다. 특히 아마존은 트위치뿐만 아니라 다른 서비스에서도 AI 학습을 위한 데이터를 적극적으로 활용하려는 경향을 보이고 있습니다. 이러한 배경 속에서 트위치의 이번 결정은 사용자들의 개인 정보 보호 및 콘텐츠 소유권에 대한 우려를 증폭시키고 있습니다.

AI 기술 발전의 속도가 가속화되면서, 생성형 AI 모델의 성능 향상을 위해서는 방대한 양의 데이터가 필수적입니다. 그러나 이러한 데이터를 수집하고 활용하는 과정에서 발생할 수 있는 윤리적 문제, 저작권 침해, 개인 정보 노출 등의 위험에 대한 충분한 논의와 제도적 장치가 필요하다는 목소리가 높아지고 있습니다. 트위치와 아마존의 이번 결정이 앞으로 디지털 콘텐츠의 사용 및 AI 윤리에 대한 새로운 기준을 제시하게 될지 주목됩니다.