줌, AI 딥페이크 방지 '인간 증명' 배지 도입

화상 회의 플랫폼 줌(Zoom)이 인공지능(AI) 딥페이크 및 사기 범죄에 맞서기 위해 '인간 증명' 배지 기능을 도입했다. 샘 알트먼이 지원하는 프로젝트 월드(World)는 줌 엔터프라이즈 사용자를 대상으로 생체 인식 기반 신원 확인 배지를 출시한다고 밝혔다.

이제 줌 엔터프라이즈 고객들은 영상 통화에 참여하는 인물이 실제 사람임을 확인할 수 있는 '인간 증명' 배지를 확인할 수 있다. 프로젝트 월드는 이러한 생체 인식 신원 확인 기술의 글로벌 출시를 발표했다.

이 기능은 줌 마켓플레이스에서 월드 ID(World ID)를 통해 이용 가능하다. 시스템은 회사의 홍채 스캔 장치인 오르브(Orb)로 캡처한 이미지, 실시간 셀카, 그리고 참가자의 영상 피드를 비교한 후, 회의 참가자들에게 보이는 '인간 배지'를 표시한다.

프로젝트 월드는 지난 4월, VanEck Funds와의 제한적인 베타 테스트를 통해 줌 통합 기능을 최초로 발표한 바 있다. 이제 이 기능은 전 세계 줌 엔터프라이즈 고객들에게 전면적으로 제공된다. 또한, 프로젝트 월드는 베인 캐피털(Bain Capital), 판테라 캐피털(Pantera Capital) 등 다수의 금융 기업들이 자사의 광범위한 신원 확인 기술을 위한 초기 디자인 파트너로 참여했다고 밝혔다.

이번 기능 도입은 AI 기반의 신원 도용 사례가 증가하는 가운데 이루어졌다. 실제로 2024년에는 한 엔지니어링 회사 직원이 영상 회의 중 스캐머들이 경영진으로 사칭함에 따라 약 2,500만 달러를 송금하는 사건이 발생했다. 또한, 지난 2월에는 북한 연계 해커로 추정되는 집단이 가짜 줌 회의에서 조작된 영상 피드를 사용하여 암호화폐 및 핀테크 기업들을 속여 악성코드를 설치하도록 유도한 바 있다.

프로젝트 월드 측은 발표 자료를 통해 “줌을 위한 월드 ID는 실제적이고 고유한 인간이 존재함을 증명함으로써 민감하고 중요한 대화를 보호하도록 설계되었다”고 설명했다. 이는 최근 급증하는 딥페이크 기술을 악용한 사이버 범죄로부터 기업 및 개인의 보안을 강화하는 중요한 조치로 평가된다.

이러한 움직임은 암호화폐 및 핀테크 산업에서 특히 중요하게 다뤄지고 있다. 해당 산업은 자금 이체 및 민감한 정보 공유가 빈번하게 이루어지기 때문에 딥페이크를 통한 사기 위험에 더욱 노출될 수 있다. 줌과 같은 주요 커뮤니케이션 플랫폼에 이러한 보안 기능이 통합됨으로써, 향후 유사한 범죄 시도가 줄어들 것으로 기대된다.

또한, 생체 인식 데이터의 사용은 개인 정보 보호 및 데이터 보안에 대한 새로운 논의를 촉발할 수 있다. 프로젝트 월드는 사용자의 생체 인식 데이터를 안전하게 처리하고 저장하는 데 중점을 둘 것이라고 밝혔지만, 이러한 기술의 확산은 규제 당국과 사용자들의 지속적인 감시와 검토를 필요로 할 것이다. 줌은 이번 '인간 증명' 배지 도입을 통해 사용자들에게 보다 안전하고 신뢰할 수 있는 커뮤니케이션 환경을 제공하겠다는 의지를 피력했다.