AI 위험 논의 위해 빅테크 CEO들 UN 안보리 출석

유엔 안전보장이사회가 오는 수요일, 인공지능(AI) 기술의 위험성을 두고 해당 기술을 개발하는 주요 빅테크 기업의 최고경영자(CEO)들을 초청하여 긴급 논의를 진행한다. 이번 회의는 AI 기술의 급속한 발전이 야기할 수 있는 잠재적 위협, 특히 인간의 통제를 벗어나는 AI 시스템의 등장 가능성에 초점을 맞출 예정이다.

이번 논의에는 OpenAI의 샘 알트먼 CEO, 앤트로픽의 다리오 아모데이 CEO, AI 안전 연구 권위자인 요슈아 벵기오, 그리고 허깅페이스의 클레망 델랑그 CEO 등이 참석하여 자신들의 전문성을 바탕으로 AI 위험에 대한 의견을 개진할 예정이다. 특히, 중국의 AI 스타트업인 딥시크(DeepSeek)와 문샷(Moonshot)의 관계자들도 초청받아 발언할 기회를 갖게 된다. 딥시크는 지난 2025년 1월, 저가형 AI 모델을 출시하며 엔비디아의 시가총액을 약 6000억 달러가량 하락시킨 바 있는 기업으로, 이번 논의에서 그들의 기술력과 향후 전망에 대한 관심이 집중될 것으로 예상된다.

프랑스가 이번 회의를 주최하며, 프랑스 외무장관 장-노엘 바로는 회의를 주재할 예정이다. 논의의 핵심 주제는 AI 시스템이 인간의 통제 범위를 벗어나 오작동하거나 악의적인 목적으로 사용될 가능성이다. 이는 곧 사이버 공격, 선거 개입, 혹은 무기 개발 등에 AI가 활용될 수 있다는 우려로 이어진다. 이러한 맥락에서, 전쟁과 제재 권한을 가진 UN 안보리가 군사 전문가 대신 기술 개발 기업가들을 초청하여 AI의 미래를 논의하게 된 배경이 설명된다.

앤트로픽의 CEO인 다리오 아모데이는 이번 회의에 원격으로 참여할 예정이다. 그는 지난 9월 12일, '프론티어를 늦춰야 한다(We Must Pace the Frontier)'라는 제목의 에세이를 통해 AI 개발 속도를 의도적으로 늦추고, 보다 고도화된 AI 시스템 개발에 신중을 기해야 한다고 주장한 바 있다. 그는 앤트로픽이 외부 평가자들에게 안전 약속 준수 여부를 점검할 수 있도록 상시적인 접근 권한을 제공하겠다고 밝히기도 했다. 샘 알트먼과 일론 머스크 역시 아모데이의 의견에 동의한다는 입장을 표명한 바 있다.

아모데이는 특히 중국을 '압도적으로 가장 발전된 AI 역량을 가진 독재 국가'라고 지칭하며, 미국이 중국에 대한 첨단 반도체 수출 제한을 유지해야 한다고 주장했다. 동시에 그는 중국이 글로벌 안전 규범에 협력할 것을 촉구했다. 이에 대해 중국 외교부는 해당 에세이가 비생산적이라고 비판했으며, 중국 관영 언론은 이를 중국을 견제하기 위한 '냉전적 플레이북'이라고 칭하기도 했다.

한편, 도널드 트럼프 전 대통령은 AI 개발 속도 조절 움직임에 대해 회의적인 입장을 보이고 있다. 그는 아모데이의 에세이가 발표된 직후, AI가 인간을 대체할 것이라는 경고를 '좌파의 사기극'으로 규정하며 아모데이 CEO를 직접적으로 비난했지만, 이에 대한 구체적인 증거는 제시하지 않았다.

이와는 별도로, 영국 찰스 3세 국왕은 최근 스코틀랜드 자신의 저택에서 앤트로픽, OpenAI, 엔비디아, 구글 딥마인드 등 주요 AI 기업 임원들을 초청하여 AI 안전 정상회담을 개최했다. 이 회담에서는 활발한 논의가 이루어졌으나, 공개적으로 알려진 구체적인 합의 사항은 없었다.

이번 UN 안보리 회의 역시 구속력 있는 합의를 도출하기는 어려울 것으로 전망된다. 특히, 트럼프 전 대통령이 오는 9월 24일 워싱턴에서 시진핑 중국 국가주석과 만나 회담을 가질 예정인 가운데, 이러한 지정학적 긴장 속에서 AI 위험에 대한 국제적 공조가 어떻게 이루어질지 귀추가 주목된다. UN 안보리 회의에서 빅테크 CEO들이 제시할 AI 위험 관리 방안과 국제 사회의 대응 전략이 어떤 방향으로 전개될지 전 세계의 이목이 집중되고 있다.