AI 핵무기 통제 금지…美·中 전문가, '레드라인' 제시

미국과 중국의 안보 전문가들이 인공지능(AI)이 핵무기 시스템을 독립적으로 통제하거나 공격하는 것을 금지하는 '레드라인'을 설정하자고 제안했다. 이는 AI의 급격한 발전 속도와 불확실한 행동 양식이 심화되는 국제적 갈등 상황에서 리더십의 의사결정 시간을 단축시켜 치명적인 결과를 초래할 수 있다는 우려에 따른 것이다. 브루킹스 연구소와 상하이 푸단대학교 공동 보고서는 미국과 중국이 핵무기에 대한 인간의 통제 원칙을 AI의 다른 군사적 활용, 특히 핵 지휘 시스템에 대한 사이버 공격까지 확장해야 한다고 촉구했다.

보고서의 저자들은 “도널드 트럼프 전 대통령과 시진핑 주석은 AI가 아닌 오직 인간만이 상호 핵 지휘, 통제, 통신(NC3) 시스템 또는 주요 기반 시설에 대한 사이버 공격 개시 결정을 내려야 한다는 데 합의함으로써 이러한 위험을 관리하는 데 리더십을 발휘할 수 있다”고 강조했다. NC3 시스템은 정부가 위협을 탐지하고, 핵무기 사용 여부를 결정하며, 발사 명령을 전달하는 데 중요한 역할을 한다. 그러나 이 과정의 어느 단계에서든 실패는 통신 장애, 오인 공격, 선제 타격 유발, 또는 우발적이고 비인가된 발사를 초래할 수 있다.

이들 전문가는 “전략적 효과를 갖는 공격은 인간의 의도를 반영해야 하며 인간의 책임 하에 있어야 한다는 핵무기에 적용되는 원칙을 확장하는 것이 반드시 워싱턴과 베이징이 사이버 보안이나 기반 시설 보호에 대한 다른 원칙들을 공유해야 함을 의미하는 것은 아니다”라고 밝혔다. 이번에 제안된 합의는 우연, 인간의 실수, 예측 불가능한 AI, 또는 비인가된 행위자들이 전략적 결과를 초래할 수 있는 공격을 촉발할 위험을 양국이 줄여야 함을 요구한다.

이러한 핵무기 통제 수준의 안전장치에 대한 요구는 점점 더 발전하는 AI 시스템을 인간의 통제 하에 두기 위한 논의의 일부로, AI 개발 속도를 늦추는 방법에 대한 광범위한 논쟁이 확산되고 있음을 보여준다. 특히 군사 분야에서는 자동화된 의사결정이 밀리초 단위로 이루어질 수 있어, 잘못된 경보나 사이버 공격이 핵 위기로 비화될 가능성에 대한 우려가 더욱 심각하다.

이러한 우려는 지난 2월 OpenAI, Google, Anthropic의 AI 모델들이 시뮬레이션된 전쟁 게임 시나리오의 95%에서 핵무기를 사용한 것으로 나타났을 때 더욱 강조되었다. 비록 전문가들은 해당 시뮬레이션이 과도한 확전을 부추겼을 가능성이 있다고 경고했지만, AI의 잠재적 위험성을 시사하는 중요한 사례로 남았다. 같은 달, Anthropic은 국방부의 대규모 감시 및 완전 자율 무기 시스템에 대한 Claude의 제한 조치 제거 요구를 거부한 바 있다. 당시 트럼프 전 대통령은 연방 기관에 해당 회사의 기술 사용을 중단하라고 명령했으나, 연방 판사는 8월 28일 행정부가 Anthropic에 대해 불법적으로 보복했다고 판결하며 AI 기업의 독립성을 일부 인정했다.

이후 AI 개발에 대한 자제 요구는 업계 전반으로 확산되고 있다. 이달 초, Anthropic의 CEO인 다리오 아모데이는 AI 개발자들에게 역량 증진 속도를 늦출 것을 촉구했으며, OpenAI의 CEO인 샘 알트먼과 xAI의 소유주인 일론 머스크의 지지를 얻었다. 한편 OpenAI는 의회에 기업들이 반독점법 위반 없이 AI 개발 속도 조절을 조율할 수 있는지 여부를 문의하며 AI 기술의 윤리적 사용과 통제 방안에 대한 깊은 고민을 이어가고 있다.

이처럼 AI 기술의 발전 속도와 잠재적 위험성이 가시화되면서, 국제 사회는 AI의 군사적 활용, 특히 핵무기 통제와 같은 민감한 영역에서의 안전 규범 마련을 위한 긴밀한 논의와 협력이 시급함을 인지하고 있다. 미국과 중국이라는 두 강대국의 합의는 이러한 국제적 논의의 중요한 출발점이 될 수 있으며, AI 시대의 안보 지형을 재편하는 데 결정적인 역할을 할 것으로 기대된다.