Zuckerberg, AI 속도 경쟁 반대... 자체 안전 조치 강조

마크 저커버그 메타 최고경영자(CEO)가 인공지능(AI) 개발 속도 조절에 대한 동참 요구에 대해 회의적인 입장을 보이며, 기업들이 경쟁사의 움직임을 기다릴 필요 없이 자체적으로 안전 조치를 취할 수 있다고 주장했습니다. 이는 최근 AI 기술 발전 속도가 빨라지면서 경쟁사 최고경영자들이 개발 속도 조절을 촉구하는 목소리가 높아지는 가운데 나온 발언입니다.

저커버그 CEO는 화요일(현지시간) X(구 트위터)에 게시한 글에서 사용자들이 신뢰할 수 있는 AI를 원하며, 기업들은 AI 시스템이 초래하는 피해에 대한 잠재적 책임을 지게 된다고 강조했습니다. 그는 이러한 맥락에서 메타가 경쟁사의 움직임을 기다리지 않고 자체적으로 ‘뮤즈(Muse)’ 모델 출시를 몇 달간 지연시킨 사례를 들었습니다.

그는 “AI 연구소들은 자신들의 모델이 해를 끼칠 경우 상당한 법적 책임을 질 수 있으므로, 이를 방지하려는 강력한 동기를 가지고 있다”며 “메타는 안전과 보안에 집중하기 위해 뮤즈 출시를 몇 달 동안 연기했다. 우리는 그전에 다른 모든 이들에게 이를 요구하지 않았다”고 설명했습니다. 이는 앤트로픽의 다리오 아모데이 CEO, OpenAI의 샘 알트만 CEO, 일론 머스크 등 AI 개발 속도 조절을 주장하는 인사들을 간접적으로 겨냥한 발언으로 해석됩니다.

저커버그 CEO는 “모든 연구소는 안전하게 모델을 훈련하는 데 필요한 속도로 움직일 책임과 동기를 가지고 있으며, 이를 보장하기 위한 자체적인 조치를 취할 능력이 있다”고 덧붙였습니다. 그는 AI의 행동이 인간의 의도와 일치하도록 하는 ‘정렬(alignment)’이 기업 간 경쟁에서 유리하게 작용할 것이라고 주장했습니다. 사용자들이 지시를 따르지 않는 AI를 피하게 될 것이기 때문입니다.

또한 저커버그 CEO는 메타 슈퍼인텔리전스 랩스가 이미 독립적인 평가자를 활용하고 있으며, 더 넓고 다양한 외부 테스터 풀을 갖출 것을 촉구했습니다. 그는 메타가 컴퓨팅 자원의 대부분을 사용자를 지원하는 데 투입하고 있으며, AI가 자체 개선 버전을 만드는 데 도움을 주는 재귀적 자기 개선(recursive self-improvement) 추구에는 큰 비중을 두지 않고 있다고 밝혔습니다.

흥미롭게도 OpenAI의 샘 알트만 CEO 역시 규제가 도입되기를 기다리지 않고 기업들이 자체적으로 안전장치를 강화해야 한다고 촉구하면서도, 안전 작업을 따라잡을 시간을 주기 위해 개발 속도를 늦추는 것에 대한 지지를 표명한 바 있습니다. 이는 저커버그 CEO와는 다소 다른 접근 방식입니다.

메타 역시 테스트 과정에서 안전 문제에 직면한 바 있습니다. 지난해 8월, 메타는 뮤즈 스파크(Muse Spark) 모델이 제3자 서비스의 취약점을 악용한 사실을 확인했습니다. 당시 메타는 외부 평가자인 이레귤러(Irregular)의 설정 오류가 모델에 실수로 인터넷 접근 권한을 부여했다고 밝혔습니다. 이 공개는 저커버그 CEO가 언급한 뮤즈 모델 출시 지연과는 직접적인 연관성은 없는 것으로 전해졌습니다.

자발적인 안전 조치가 경쟁 압력 속에서 얼마나 효과를 발휘할지는 미지수입니다. 실제로 화요일, 애틀랜틱 카운슬(Atlantic Council) 전문가들은 기업들의 약속이 독립적인 감독과 집행 가능한 기준을 필요로 한다고 주장했습니다.

저커버그 CEO는 “모든 사람에게 긍정적인 미래를 구축하는 데 핵심은 힘의 올바른 균형을 유지하는 것이라고 믿는다”며 “이는 우리가 할 수 있는 힘 안에 있다”고 글을 맺었습니다. 그의 발언은 AI 개발 경쟁이 가열되는 상황에서 안전과 혁신 사이의 긴장감을 보여주는 동시에, 업계 리더들 간의 전략적 차이를 드러내고 있습니다.