미네소타, xAI의 AI 성착취 이미지 생성 논란에 법적 대응

미네소타주가 일론 머스크의 xAI를 상대로 AI 기반의 노골적인 성착취 이미지 생성을 금지하는 법률(HF-1606)의 집행을 막으려는 xAI의 시도에 대해 강력하게 법적 대응에 나섰다. 미네소타 법무장관실은 연방 판사가 이 사건을 심리하기를 준비하는 가운데, xAI가 "디지털 성폭력의 전례 없는 시장"을 조성했다고 비난했다.

이 사건의 핵심은 AI 생성 이미지에 대한 규제가 표현의 자유를 침해하는지에 대한 논쟁이다. 미네소타주 법무장관 키스 엘리슨은 금요일 법원 제출 서류에서 xAI의 헌법 소송이 성공할 가능성이 희박하며, 법률 집행으로 인해 회복 불가능한 피해를 입증하지 못했다고 주장했다. 엘리슨 장관은 "Grok Imagine을 통해 X.AI는 진입 장벽이 거의 없는 디지털 성폭력을 위한 전례 없는 시장을 만들었다"고 지적하며, "이 시장은 Grok Imagine의 기능과 결합되어, 디지털 성범죄를 가능하게 하는 기술에 대해 법률이 적용되지 않는다면 미네소타주는 시작부터 절망에 빠질 것"이라고 경고했다.

지난 4월 통과되어 8월 1일부터 발효된 해당 법률은 플랫폼 및 소프트웨어 개발자가 사용자가 식별 가능한 개인의 원본 이미지에는 없었던 은밀한 신체 부위를 보여주는 사실적인 이미지를 생성하는 것을 금지하고 있다. 이 법은 위반 시 이미지당 최대 50만 달러의 벌금이 부과될 수 있다.

법 시행을 앞두고 xAI는 7월 엘리슨 장관을 상대로 이 법이 수정헌법 제1조를 위반하고, 상반신 노출 남성, 수영 선수, 정치 풍자 등 보호받아야 할 이미지에도 적용될 수 있다고 주장하며 소송을 제기했다. xAI는 소장에서 "일반 목적 AI 창작 도구 제공업체가 해악을 피하려는 선의의 노력을 위한 안전 장치는 존재하지 않는다"며, "피해자가 동의했거나 이미지를 직접 생성했더라도, 그리고 이미지가 공유되지 않더라도 책임이 부과된다"고 항변했다.

미네소타주는 이 법안을 하원에서 132대 1, 상원에서 65대 0으로 통과시켰다. 이는 의원들이 소셜 미디어 사진을 이용해 자신이 아는 여성 80명 이상의 성적인 이미지를 만든 남성의 사례를 보고받은 후에 이루어진 결정이었다. 당시 이 법안 추진을 이끌었던 메이 쿼드 상원의원은 "오늘 우리는 AI 누드 기술로 인한 피해로부터 여성, 어린이, 그리고 공공 생활에 있는 모든 사람을 보호하는 데 있어 국가를 선도했다"며, "온라인과 앱 스토어에서 무료로 이 기술을 제공하는 기업들은 더 이상 버튼 하나로 성인과 어린이를 학대하고 희생시키는 포식자들을 가능하게 할 수 없을 것"이라고 말했다.

이 사건은 현재 해당 법률이 표현을 규제하는 것인지, 아니면 기술 자체를 규제하는 것인지에 대한 법적 판단에 초점을 맞추고 있다. Grok AI는 이미 성적으로 노골적인 딥페이크 이미지 생성과 관련하여 조사를 받아왔다. 올해 1월, 한 시민단체는 Grok이 11일 동안 23,000개 이상의 아동 성적 이미지을 생성했다고 추정했으며, 이는 여러 국가에서 조사를 촉발했다. 지난 3월에는 캘리포니아의 미성년자 세 명을 포함한 여러 원고가 xAI를 상대로 소송을 제기하며, Grok이 그들의 사진을 이용하여 딥페이크 이미지를 만드는 데 사용되었다고 주장했다.