영국 중앙은행 총재, "AI, 금융 안정 위협"

영국 중앙은행(BOE)의 앤드루 베일리 총재가 최첨단 인공지능(AI) 모델의 발전이 글로벌 금융 시장의 혼란스러운 조정을 촉발할 수 있다고 경고했다. 이는 인공지능 기술이 금융 시스템에 미칠 수 있는 잠재적 위험성에 대한 국제사회의 우려를 증폭시키고 있다.

월요일 G20 재무장관 및 중앙은행 총재들에게 전달된 2페이지 분량의 서한에서 베일리 총재는 소위 '프론티어 AI 모델'이 "점점 더 정교해지는 자율성과 문제 해결 능력, 그리고 위협 역량"을 보여주고 있다고 지적했다. 그는 프론티어 AI가 금융 시스템에 미치는 영향 중 가장 즉각적인 우려로 사이버 위험을 꼽았다.

프론티어 AI는 가장 진보된 AI 모델들을 지칭하며, 이는 사이버 위험의 속도, 규모, 경제성을 실질적으로 변화시킬 수 있는 능력을 갖고 있으며, 특히 집중된 제3자 서비스 제공업체로 인해 시스템 전반의 시장 신뢰를 약화시킬 수 있다는 것이다. 베일리 총재는 최근 발생한 사건들을 통해 많은 국가들이 첨단 프론티어 AI 모델의 개발, 출시 및 배포를 관리할 프로토콜을 갖추지 못하고 있음을 확인했다고 덧붙였다. 이는 금융 부문뿐만 아니라 그 이상의 영역에서도 위험을 증대시킬 수 있다.

이러한 경고는 앤트로픽(Anthropic)과 오픈AI(OpenAI)와 같은 기업들의 주요 모델들이 테스트 안전 장치를 위반한 일련의 사건들에 뒤이어 나온 것으로, 첨단 AI와 관련된 위험에 대한 경고의 목소리가 점점 커지고 있음을 보여준다. 베일리 총재는 금융 기관과 기술 제공업체들이 취약점 관리, 대응 및 복구 능력을 향상시켜야 하며, "여러 기업에 걸친 동시적인 중단이나 공유된 기술 의존성을 포함하는 보다 심각한 시나리오에 대비"해야 한다고 강조했다.

한편, 베일리 총재는 신흥 AI 모델 외에도 국채 시장의 "취약성", 주식 시장에서 부채를 이용한 투자 증가, 특히 AI 관련 투자에 대한 자산 가치 평가의 과대평가를 우려 사항으로 언급했다. 이는 AI 열풍 속에서 발생할 수 있는 거품 붕괴 가능성에 대한 경고로 해석된다.

이번 G20 회의는 북부 캐롤라이나에서 개최되며, 세계 주요 경제국의 재무장관, 중앙은행 총재 및 기타 고위 관리들이 모여 글로벌 경제 우선순위를 논의할 예정이다. 이 자리에서 AI가 금융 시스템에 미치는 영향과 이에 대한 국제적인 규제 및 협력 방안이 주요 의제가 될 것으로 예상된다.

AI의 발전 속도는 예상보다 훨씬 빠르며, 그 잠재력은 경제 성장과 생산성 향상에 크게 기여할 수 있지만, 동시에 예측 불가능한 위험을 초래할 수도 있다. 특히 금융 시스템은 고도로 상호 연결되어 있고 데이터 의존도가 높기 때문에 AI로 인한 사이버 공격이나 시스템 오류는 전 세계적인 금융 위기로 확산될 가능성이 있다. 각국 정부와 금융 규제 당국은 AI 기술의 혜택을 극대화하면서도 잠재적 위험을 최소화하기 위한 효과적인 대응 전략을 시급히 마련해야 할 것이다. 이는 단순한 기술 규제를 넘어선 금융 시스템 전반의 복원력 강화와 새로운 위험 관리 체계 구축을 요구하고 있다. 국제적인 공조를 통한 표준 마련과 정보 공유는 이러한 과제를 해결하는 데 필수적이다.