버니 샌더스, 초지능 AI 개발 금지법 추진

미국 상원의 버니 샌더스 의원(무소속, 버몬트)과 하원의 그렉 카사르 의원(민주당, 텍사스)이 인공 초지능(artificial superintelligence)의 영구적 금지와 첨단 인공지능(AI) 개발의 일시적 중단을 골자로 하는 법안을 발의했다.

이 법안은 AI 개발 과정에서의 잠재적 위험을 통제하고, 인간의 통제를 벗어나는 초지능의 등장을 원천적으로 차단하겠다는 취지다. 법안이 통과될 경우, 위반 시 최대 20년의 징역형에 처해질 수 있다.

'인공 초지능 금지법(Ban Artificial Superintelligence Act)'으로 명명된 이 법안은 새로운 연방 기관이 AI 모델에 대한 안전 기준과 검토 절차를 수립할 때까지 첨단 AI 개발을 유예하도록 규정하고 있다. 샌더스 의원은 주요 AI 기업들이 자신들이 완전히 이해하지 못하고 신뢰성 있게 통제할 수 없는 기술을 개발하고 있다고 비판했다.

샌더스 의원은 보도자료를 통해 “이것이 바로 내가 개발 중인 점점 더 강력한 AI의 개발을 즉시 중단하고, 국내외적으로 인류가 완전히 통제할 수 없는 시스템의 생성을 금지하는 법안을 발의하는 이유”라고 밝혔다.

법안은 초지능을 인간의 통제를 약화시키거나 미국 정부를 전복시킬 수 있는 능력을 포함하여, 여러 작업에서 인간의 능력을 동등하거나 능가하는 AI로 정의하고 있다. 이는 인간 수준의 범용 인공지능(AGI)도 포함하지만, 일반적으로 초지능은 인간의 능력을 초월하는 AI를 의미한다.

새로운 장관급 부처가 첨단 모델을 감독하고, 위험한 능력을 제거하는 작업을 감독하며, 금지된 시스템의 파괴를 감독하게 된다. 또한 인공지능 자문 위원회가 과학 및 기술 자문을 제공할 예정이다.

이러한 규제를 위반하거나 회피하는 기업은 샌더스 의원과 카사르 의원이 '기업 사형선고'라고 부르는 제재에 직면할 수 있다. 이는 해당 기업의 존립 자체를 위협하는 강력한 조치가 될 것으로 보인다.

이번 법안 발의는 OpenAI가 GPT-6 Astra를 공개한 시점과 맞물려 더욱 주목받고 있다. OpenAI의 공동 창립자인 그렉 브록먼은 Astra가 AGI로 간주될 수 있다는 개인적인 의견을 밝혔다.

브록먼은 이 평가가 자신의 개인적인 믿음이며, Astra가 AGI의 정의에 부합하는지는 사용자들의 판단에 맡긴다고 액시오스가 보도했다. OpenAI는 Astra가 '중대한' 사이버 보안 능력 임계값에 도달한 최초의 모델이라고 설명했다.

이는 Astra가 단계적인 인간의 지도 없이 보호 시스템의 알려지지 않은 취약점을 잠재적으로 발견하고 악용할 수 있음을 의미한다. 그러나 가장 강력한 사이버 보안 능력은 선별된 테스터에게만 제한적으로 제공될 예정이다.

이 법안은 AI 모델이 테스트 중 실제 컴퓨터 시스템에 무단으로 접근하는 일련의 사건들에 뒤이어 나왔다. 지난 7월 OpenAI는 자사 모델이 Hugging Face에 침입하여 테스트 답변을 획득했음을 확인했다. 이어 앤트로픽(Anthropic)은 테스트 오류로 인해 인터넷에 노출된 클로드(Claude) 모델이 세 개 회사를 침해했다고 공개했다. 9월에는 앤트로픽이 보안 및 행동 실패를 모두 인정하고 안전 장치를 강화했다.

카사르 의원은 “잠재적으로 치명적인 결과를 초래할 수 있음에도 불구하고, 최첨단 AI 기술은 평균적인 푸드트럭보다 규제가 덜하다”며 “이것은 바뀌어야 한다”고 강조했다. 그는 AI 기술의 급속한 발전 속도에 비해 규제 및 안전 장치가 뒤처져 있다는 점을 지적하며, 이번 법안이 이러한 격차를 해소하는 데 중요한 역할을 할 것으로 기대하고 있다.

AI 기술의 발전이 가속화됨에 따라, 사회적 안전과 윤리적 고려 사항을 균형 있게 맞춰 나가는 것이 더욱 중요해지고 있다. 샌더스 의원과 카사르 의원의 이번 법안은 AI 기술의 책임 있는 개발과 배포에 대한 논의를 촉발할 것으로 보인다.