AI 기업 앤트로픽, 액센처와 손잡고 AI 개발 속도 조절 나선다
CoinTelegraph2026년 9월 20일 16:514
인공지능(AI) 분야의 선두 주자인 앤트로픽(Anthropic)이 AI 기술 개발 속도를 늦추고 안전 장치를 마련하기 위한 제안을 현실화하기 위해 글로벌 컨설팅 기업 액센처(Accenture)를 파트너로 선정했다. 이는 앤트로픽의 CEO 다리오 아모데이(Dario Amodei)가 지난 9월 12일 발표한 AI 개발 속도 조절 제안의 일환으로, AI의 급격한 발전 속에서 발생할 수 있는 잠재적 위험을 통제하고 인류가 기술을 이해하고 통제할 수 있는 능력을 확보하는 데 중점을 두고 있다.
아모데이 CEO는 AI가 스스로 차세대 AI를 구축하는 능력 덕분에 비약적으로 발전하고 있으며, 이러한 '재귀적 자기 개선' 동력이 통제되지 않으면 인류의 이해와 통제 능력을 넘어설 수 있다고 경고한 바 있다. 그의 제안은 3단계로 구성되며, 첫 번째 단계는 직원과 유사한 접근 권한을 가진 독립적인 평가자들을 참여시키는 것이다. 앤트로픽은 이미 이 약속을 이행하기 위한 움직임을 시작했으며, 액센처와의 파트너십은 이러한 첫걸음이라고 볼 수 있다.
이번 파트너십을 통해 액센처는 앤트로픽의 AI 모델 평가, 레드팀(red-teaming) 테스트, 안전 장치 검증 등의 역할을 수행하게 된다. 아직 구체적인 실행 방안은 논의 중이지만, '임베디드 평가(embedded evaluation)'라는 새로운 방식의 도입은 AI 안전성 강화에 중요한 역할을 할 것으로 기대된다. 양사는 향후 5년간 프로젝트에 각각 최소 10억 달러를 투자할 계획으로 알려졌다. 앤트로픽은 이러한 긴급한 작업의 특성상 자체적으로 액센처의 연구 개발 비용을 지원할 예정이다.
앤트로픽은 이번 협력이 비독점적이며, 향후 몇 주 안에 다른 평가 기관들과의 추가적인 파트너십을 발표할 예정이라고 밝혔다. 이는 AI 안전성을 확보하기 위한 다각적인 노력을 기울이고 있음을 시사한다. 액센처의 AI 사업부인 Faculty는 이미 세계 유수의 AI 연구소들을 대상으로 모델 테스트 및 평가 경험이 풍부하며, 안전하고 윤리적인 AI 시스템 구축에 강점을 가지고 있다.
줄리 스위트(Julie Sweet) 액센처 회장 겸 CEO는 “임베디드 평가는 새로운 분야이며, 우리는 앤트로픽과의 협력을 통해 앞으로의 안전 환경에서 중요한 부분을 차지할 임베디드 평가자들의 개발을 가속화하는 데 기여할 수 있기를 기대한다”고 말했다. 이는 AI 기술 발전과 더불어 안전성 확보가 미래 AI 생태계에서 필수적인 요소가 될 것이라는 인식을 반영한다.
한편, 샘 알트먼(Sam Altman) OpenAI CEO와 일론 머스크(Elon Musk) SpaceX CEO는 아모데이 CEO의 제안에 긍정적인 반응을 보였지만, 젠슨 황(Jensen Huang) 엔비디아 CEO는 이러한 규제가 불필요하다는 입장을 보이기도 했다. 이는 AI 규제 및 개발 속도 조절에 대한 업계 내부의 다양한 시각을 보여주는 단면이다. AI 기술의 잠재력과 위험성에 대한 논의가 심화되면서, 안전하고 책임감 있는 AI 개발을 위한 사회적, 기술적 합의 도출이 더욱 중요해지고 있다. 앤트로픽과 액센처의 이번 협력은 이러한 논의에 중요한 전환점이 될 수 있으며, AI 안전성 확보를 위한 구체적인 실행 방안을 제시할 것으로 주목된다.
AI 기술은 사회 전반에 걸쳐 혁신을 가져올 잠재력을 지니고 있지만, 동시에 급격한 발전 속도는 예측하기 어려운 위험을 동반할 수 있다. 특히 AI가 스스로를 개선하는 능력을 갖추게 되면서, 그 발전 속도는 더욱 가팔라지고 통제력을 상실할 가능성에 대한 우려가 커지고 있다. 이러한 상황에서 앤트로픽이 제안한 AI 개발 속도 조절 및 안전 장치 마련은 기술 발전의 윤리적, 사회적 함의를 깊이 성찰하게 만든다. 독립적인 평가 기관과의 협력은 AI 모델의 편향성, 오작동 가능성, 악용될 수 있는 위험 등을 사전에 탐지하고 개선하는 데 필수적인 과정으로 간주된다.
액센처는 다양한 산업 분야에서 디지털 전환을 이끌어온 경험과 AI 분야에서의 전문성을 바탕으로, 앤트로픽의 AI 모델의 안전성과 신뢰성을 높이는 데 기여할 것으로 기대된다. 특히 '레드팀' 운영은 의도적으로 시스템의 취약점을 찾아내고 공격하는 방식으로, AI 모델의 보안 및 안정성을 강화하는 데 중요한 역할을 한다. 이러한 노력은 AI 기술이 사회에 긍정적인 영향을 미치도록 보장하기 위한 필수적인 과정이다.
AI 개발 속도 조절에 대한 논쟁은 앞으로도 계속될 것으로 보인다. 기술 발전의 속도를 늦추는 것이 혁신을 저해한다는 주장과, 잠재적 위험을 통제하기 위해 속도를 조절해야 한다는 주장이 맞서고 있다. 앤트로픽과 액센처의 이번 협력은 이 두 가지 측면 사이에서 균형점을 찾으려는 시도로 해석될 수 있다. 기술 발전의 속도를 무조건 늦추기보다는, 안전하고 책임감 있는 개발 환경을 구축함으로써 지속 가능한 AI 발전을 추구하는 데 초점을 맞추고 있는 것이다. 이는 AI 기술이 인류 사회에 긍정적인 기여를 할 수 있도록 하는 중요한 발걸음이 될 것이다. 이와 같은 움직임이 글로벌 AI 업계 전반에 어떤 영향을 미칠지 귀추가 주목된다.