AI 속도 조절 나선 앤트로픽, 액센처와 손잡고 '내부 평가팀' 운영

인공지능(AI) 기술의 급속한 발전 속도에 제동을 걸기 위한 업계의 움직임이 구체화되고 있다. AI 스타트업 앤트로픽(Anthropic)은 AI 모델의 안전성과 통제 가능성을 평가하기 위한 '내부 평가팀' 구성에 착수하며, 이를 위해 글로벌 컨설팅 기업 액센처(Accenture)와 파트너십을 체결했다고 밝혔다. 이는 AI 개발 속도를 늦추고 잠재적 위험에 대한 안전 장치를 마련하려는 다리오 아모데이(Dario Amodei) 앤트로픽 최고경영자(CEO)의 제안에 따른 후속 조치다.

아모데이 CEO는 지난 9월 12일, AI 개발 속도가 너무 빠르며 특히 AI가 스스로 차세대 AI를 개발하는 '재귀적 자기 개선' 현상이 통제 불가능한 수준에 이를 수 있다는 경고와 함께, AI 발전 속도를 늦추고 안전 장치를 마련해야 한다는 3단계 제안을 발표했다. 그의 제안은 오픈AI의 샘 올트먼(Sam Altman) CEO와 스페이스X의 일론 머스크(Elon Musk) CEO로부터 긍정적인 반응을 얻었으나, 엔비디아의 젠슨 황(Jensen Huang) CEO는 규제의 필요성에 대해 회의적인 입장을 보였다.

아모데이 CEO는 AI가 스스로 발전하는 속도가 우리의 이해 및 통제 능력을 앞지를 수 있다는 점을 지적하며, AI의 안전한 발전 속도를 확보하기 위한 노력이 시급하다고 강조해왔다. 그의 제안 중 첫 번째 단계는 '직원과 유사한 접근 권한을 가진 독립적인 평가자'를 두는 것인데, 앤트로픽은 이미 이를 독자적으로 추진하겠다는 의지를 밝힌 바 있다.

이번 액센처와의 파트너십은 이러한 약속을 이행하기 위한 첫걸음이다. 앤트로픽은 액센처의 AI 사업부인 'Faculty'와 협력하여 AI 모델 평가, 레드팀 테스트, 정렬 평가, 모델 안전장치 테스트 등을 진행할 계획이다. 구체적인 운영 방식은 아직 조율 중이지만, '내부 평가'라는 새로운 접근 방식에 대한 기대감을 높이고 있다.

양측은 이 프로젝트에 향후 5년간 각각 최소 10억 달러(약 1조 3천억 원)를 투자할 것으로 예상된다. 앤트로픽은 긴급성을 고려하여 액센처의 작업에 대한 직접적인 자금 지원을 담당할 예정이다. 이는 독립적인 평가 시스템에 대한 기존의 자금 조달 체계가 부재한 상황에서, 앤트로픽이 선제적으로 나서서 AI 안전 연구를 지원하겠다는 의지를 보여주는 대목이다.

이번 파트너십은 비독점적으로 운영되며, 앤트로픽은 향후 몇 주 안에 다른 평가 기관들과의 추가적인 협력 계획도 발표할 예정이다. 액센처의 Faculty는 세계 유수의 AI 연구소들을 위한 모델 테스트 및 평가, 안전하고 윤리적인 AI 시스템 구축 등에서 풍부한 경험을 보유하고 있는 것으로 알려졌다.

줄리 스위트(Julie Sweet) 액센처 회장 겸 CEO는 "내부 평가는 새롭게 떠오르는 분야이며, 우리는 앤트로픽과 협력하여 내부 평가자 개발을 가속화하는 데 기여하기를 기대한다. 이는 미래 AI 안전 환경의 중요한 부분이 될 것"이라고 밝혔다.

AI 기술의 발전 속도가 기하급수적으로 빨라지면서, 그 잠재력만큼이나 예측 불가능한 위험에 대한 우려도 커지고 있다. 앤트로픽과 액센처의 이번 협력은 AI 기술의 책임 있는 발전과 안전성 확보라는 중요한 과제에 대한 업계의 진지한 고민을 보여주는 사례로 평가된다. 단순히 기술 개발 경쟁에만 몰두하는 것이 아니라, 기술의 사회적 영향과 윤리적 측면을 깊이 고려하는 움직임이 확산될지 주목된다. 특히, '내부 평가팀' 운영이라는 혁신적인 접근 방식이 AI 안전성 확보에 어떤 실질적인 기여를 할 수 있을지 귀추가 주목된다.