샘 알트먼, AI 개발 속도 조절 및 안전 장치 강화 촉구

OpenAI 최고경영자(CEO) 샘 알트먼이 인공지능(AI) 개발 속도를 늦추고 안전 장치를 강화해야 한다고 강력히 주장하며, 기업들이 규제 마련을 기다리기 전에 자체적으로 이러한 노력을 시작해야 한다고 촉구했다.

알트먼 CEO는 지난 14일(현지시간) 자신의 소셜 미디어 X(구 트위터)에 올린 여러 게시물을 통해 AI의 급격한 발전이 미래를 인간의 통제 밖에 두거나, 단일 개인 또는 기업에 과도한 권력을 집중시킬 위험이 있다고 경고했다. 그는 “AI 발전이 매우 잘못될 수 있는 두 가지 방식이 있으며, 우리는 이를 반드시 피해야 한다”고 강조했다.

그가 지적한 첫 번째 위험은 ‘AI에 의해 미래를 통제당하는 것’이다. 알트먼 CEO는 “이는 용납할 수 없다. 우리는 당당하게 인류 팀에 속해 있으며, AI는 항상 사람들에게 봉사해야 한다”고 말했다. 이를 위해 그는 “AI의 능력 향상보다 정렬(alignment) 및 안전 기술이 앞서 나갈 수 있도록 하는 방안이 필요하다”고 덧붙였다.

두 번째 위험으로는 ‘단일 개인 또는 기업에 권력이 집중되는 것’을 들었다. 알트먼 CEO는 이러한 권력 집중이 초강력 AI를 사용하여 잠재적으로 디스토피아적인 결과를 초래하며 자신의 세계관을 모든 사람에게 강요할 수 있다고 우려했다. 그는 “이 두 가지 위협을 피하려면 좁은 중간 경로를 걸어야 한다. 예를 들어, 한 국가가 너무 많은 힘을 얻거나, 한 연구소가 너무 많은 힘을 갖게 되는 것을 피해야 한다”고 설명했다.

알트먼 CEO는 또한 미국 AI 기업들이 기술 발전이 가속화됨에 따라 점점 더 유능해지는 시스템을 책임감 있게 개발할 것이라는 대중의 신뢰를 얻어야 한다고 강조했다. 그의 이러한 발언은 정부가 첨단 인공지능을 어떻게 규제해야 하는지에 대한 논쟁이 격화되는 가운데 나왔다.

그는 ‘속도 조절(pacing)’에 대해 “멈추는 것을 의미하는 것이 아니다”라며 “발전은 빨랐고 앞으로도 계속될 것이다. 하지만 현재보다 더 느릴 수도 있으며, 안전 사례(safety cases)와 모니터링과 같은 개입에는 상당한 비용이 따른다”고 언급했다. 이는 AI 개발 과정에서 안전을 최우선으로 고려해야 함을 시사한다.

알트먼 CEO는 기업들이 AI 개발 및 평가 과정에서 안전을 평가할 수 있는 새로운 도구가 필요하며, 공개를 기다리는 완성된 모델을 넘어선 점검을 확장해야 한다고 주장했다. 그는 “예를 들어 OpenAI에서는 모델 출시 이전에 오랫동안 해왔던 안전 작업 외에도, 기능이 크게 향상될 것으로 예상되는 최첨단 강화 학습 실행(frontier reinforcement learning runs)에 앞서 명시적인 안전 사례를 수립하고 있다”고 밝혔다.

더 나아가 알트먼 CEO는 기업들이 AI 시스템이 인간의 이익과 상반되는 목표를 추구하지 않도록 협력해야 한다고 촉구했다. 그는 “우리의 접근 방식으로부터 다른 기업들이 배우고 자신만의 방안을 제시하기를 바란다. 우리는 정렬 불량, 모니터링, 안전에 대한 공유된 표준이 더 나은 결과를 가져올 것이라고 생각한다”고 말했다.

알트먼 CEO는 연방 규제 도입을 환영하면서도, 기업들이 자체적으로 안전 조치를 강화하는 것이 시급하다고 강조했다. 그는 “우리는 단지 정부가 무엇을 해야 하는지에 대해 이야기하는 데 시간을 보내고 싶지 않다. 우리는 실제로 무엇을 해야 하는지에 대해 이야기해야 한다”며 “AI 개발의 이면에 있는 사람들은 우리가 이것을 책임감 있게 할 것이라는 대중의 신뢰를 얻어야 한다”고 덧붙였다.

그는 AI의 미래가 인류에게 긍정적인 영향을 미칠 수 있도록 안전과 책임감 있는 개발을 최우선 과제로 삼아야 한다는 점을 분명히 했다. 이는 AI 기술이 급속도로 발전함에 따라 사회 전반에 걸쳐 제기되는 윤리적, 안전적 문제에 대한 깊은 고민과 선제적 대응의 필요성을 강조하는 발언으로 해석된다.

알트먼 CEO의 이러한 경고는 AI 기술의 잠재적 위험성에 대한 사회적 논의를 더욱 촉발시킬 것으로 예상되며, 향후 AI 관련 정책 결정 및 기술 개발 방향에 중요한 영향을 미칠 것으로 보인다.