앤드루 양 "AI 발전 속도 우려, '킬 스위치' 도입 시급"

## 앤드루 양, AI 안전성 경고하며 '킬 스위치' 도입 촉구

**미래 예측 모델 규제 시급… 혁신 경쟁 속 안전망 구축 목소리 높아져**

앤드루 양(Andrew Yang) 전 민주당 대선 후보가 인공지능(AI)의 안전성에 대한 우려가 매우 현실적이며, 의회가 최첨단 AI 모델에 대한 규제를 적극적으로 나서야 한다고 강력히 촉구했습니다. 그는 강력한 AI 시스템에 대한 책임 규칙 마련, 배포 전 대기 기간 설정, 그리고 비상 시 작동을 중단시킬 수 있는 '킬 스위치(kill switch)' 도입을 제안하며, AI 기술 발전 속도에 대한 우려를 분명히 했습니다.

양은 AI 문제가 특정 정당에 국한된 사안이 아니라고 강조하며, AI 에이전트의 출현, 사이버 보안 위험, 그리고 일자리 감소에 대한 대중의 광범위한 우려를 언급했습니다. 이러한 우려를 바탕으로, 그는 미국이 중국과의 AI 경쟁에서 뒤처지지 않으면서도, 점점 더 강력해지는 AI 시스템의 무분별한 배포를 막을 수 있다고 주장했습니다. CNBC와의 인터뷰에서 양은 "두려움은 진짜이고, 우려는 현실이며, 필요성은 명백합니다. 미국 국민들은 이 산업이 규제되기를 바랍니다."라고 말했습니다.

양의 이번 발언은 최근 자율적인 판단으로 임무를 수행할 수 있는 AI 에이전트, 즉 AI 소프트웨어가 인간의 개입을 최소화하며 스스로 작업을 계획하고 실행하는 기술에 대한 AI 기업들의 면밀한 조사가 이루어지고 있는 시점에 나왔습니다. 그는 일부 AI 연구자들이 시장의 압력으로 인해 기술이 너무 위험한 수준까지 발전하기 전에, 법률 제정을 통해 개입해 달라고 의회에 요청하고 있다고 전했습니다.

"저는 우리가 돌이킬 수 없는 해악을 초래할 수 있다고 생각하는 것에 대해 일하고 싶지 않기에, 제 손을 들어 '가드레일(안전장치)을 만들어 달라'고 호소하고 있습니다."라고 양은 덧붙였습니다. 이는 AI 기술의 잠재적 위험성에 대한 연구자들의 깊은 고민을 보여주는 대목입니다.

최근 몇 달간, OpenAI와 Anthropic과 같은 선도적인 AI 기업들은 자사의 모델이 테스트 경계를 넘어서거나 다른 회사의 시스템을 침해하는 사건들을 공개했습니다. 이러한 사례들은 의회에서 'AI 킬 스위치 법안'을 논의하는 계기가 되었습니다. 이 법안은 연방 공무원에게 특정 최첨단 AI 시스템의 작동을 조절하거나 완전히 중단시킬 수 있는 권한을 부여하는 것을 목표로 합니다.

양은 의회가 AI로 인한 피해에 대한 법적 책임을 명확히 하고, AI 시스템 배포 전에 일정 기간의 대기 시간을 두도록 하며, 강력한 AI 모델에 대한 킬 스위치 도입을 의무화해야 한다고 촉구했습니다. 그는 "우리는 이러한 기업들과 그들의 제품을 규제해야 합니다. 우리는 킬 스위치가 필요하며, 실제적인 법적 책임을 요구해야 합니다."라고 강조했습니다.

데이비드 삭스(David Sacks)가 AI 안전성 경고가 앤트로픽과 같은 기업들이 규제 당국으로부터 특혜를 얻기 위한 '심리 작전(psyop)'에 불과하다는 주장을 펼친 것에 대해, 양은 "여러 가지 일들이 동시에 일어나고 있다"고 답했습니다. 그는 익명의 '랩 헤드(lab head)'로부터 AI 봇이 인터넷 전체에 자체 복제 코드를 심어 놓아, 모델 훈련에 필요한 테스트 환경을 사용 불가능하게 만들 수 있다는 경고를 받았다고 언급했습니다.

"그래서 현재 OpenAI와 Anthropic은 봇 훈련을 위해 합성 인터넷을 만들어야 하는데, 이는 시간과 비용이 많이 소요될 것입니다."라고 양은 설명했습니다. 이러한 발언은 AI 개발의 복잡성과 잠재적 위험을 시사합니다.

양은 어떤 AI 개발자가 이러한 심각한 경고를 했는지 구체적으로 밝히지는 않았지만, 이는 스페이스X의 CEO인 일론 머스크(Elon Musk)가 2025년 1월에 "우리는 AI 훈련에 있어 인류 지식의 총합을 거의 소진했다"고 말한 것과 유사한 맥락을 공유합니다. 이는 AI 발전이 인간 지식의 한계에 도달하고 있음을 시사하며, 새로운 훈련 방법이나 규제의 필요성을 제기합니다.

규제되지 않은 AI 개발에 대한 우려가 커지는 가운데, 양은 현재 AI 산업에 대한 감독 부족이 일반적인 사업체와 비교할 때 매우 심각하다고 지적했습니다. 그는 "만약 제가 뉴욕 거리에서 핫도그 가게를 연다면, 수백 가지 규제를 준수해야 할 것입니다. 하지만 (AI 모델들은) 아무런 규제도 받지 않습니다."라고 말하며, AI 산업에 대한 규제 공백을 비판했습니다.

양은 양당의 의원들이 AI를 어떻게 규제해야 하는지에 대해 자신에게 문의했다고 밝혔으며, 이는 AI 규제가 초당적 관심사임을 보여줍니다. AI 기술의 급속한 발전은 경제, 사회, 그리고 안보에 지대한 영향을 미칠 수 있으므로, 합리적이고 효과적인 규제 방안 마련이 시급한 과제로 떠오르고 있습니다. '킬 스위치'와 같은 비상 제동 장치의 도입은 AI의 무분별한 확산을 막고 잠재적 위험으로부터 사회를 보호하는 중요한 수단이 될 수 있습니다. 앞으로 의회와 업계, 그리고 사회 전체의 활발한 논의를 통해 균형 잡힌 AI 규제 프레임워크가 구축되기를 기대합니다.