블록의 '사람같은' AI, 경이로움 속 사기 우려 키워

잭 도시가 이끄는 핀테크 기업 블록(Block)이 텍스트 없이 인간의 목소리와 감정을 그대로 담아내는 음성 인공지능(AI) 모델 '데사(Dessa)'를 공개하면서 기술적 경이로움과 동시에 사기 및 오용 가능성에 대한 우려가 교차하고 있습니다. 특히 전직 바이낸스 CEO인 창펑 자오(CZ)는 데사가 어린이 교육에 활용될 수 있다는 가능성을 제시하며 긍정적인 반응을 보였습니다. 하지만 그와 동시에 AI의 인간적인 음성이 사람들을 속이는 데 악용될 수 있다는 비판의 목소리도 높습니다.

블록은 데사 AI가 오직 인간의 음성 데이터만을 학습하여 개발되었으며, 텍스트 변환 과정 없이 음성을 직접 처리한다는 점을 강조했습니다. 이러한 기술 덕분에 데사는 대화 중에 발생하는 갑작스러운 중단, 웃음, 어조 변화 등을 자연스럽게 포착하고 반응할 수 있습니다. 블록 측은 데사가 맥북 프로(M4 Max 칩 탑재)에서도 로컬로 구동될 만큼 컴팩트한 성능을 자랑한다고 밝혔습니다. 또한, 블록은 데사 개발에 단일 엔비디아 GB200 NVL72 컴퓨팅 시스템을 사용했다고 설명했습니다. 아직 모델의 크기, 구체적인 성능 지표, 공개 시점 등은 공개되지 않았으며, 현재는 소수의 AI 안전 연구자들에게만 제한적으로 제공되는 연구 프리뷰 단계에 있습니다.

데사의 시연 영상이 공개되자 소셜 미디어에서는 뜨거운 반응이 쏟아졌습니다. 사용자 알렉산더 호프(Alexander Hoff)는 “인공적인 것이 이렇게까지 인간적으로 들리는 것은 처음 들어본다”며 감탄했고, 헤사메이션(Hesamation)이라는 사용자는 “이것은 완전한 SF”라며 놀라움을 표했습니다. 이러한 반응은 데사 AI가 인간과의 자연스러운 대화 경험을 혁신적으로 개선할 수 있는 잠재력을 가지고 있음을 시사합니다.

한편, 바이낸스의 창업자인 창펑 자오(CZ)는 X(구 트위터)를 통해 데사 AI가 어린이 교육 프로젝트인 'GiggleAcademy'에 긍정적인 영향을 미칠 수 있다고 언급했습니다. 그는 “현재의 'AI 음성'으로 아이들에게 가르치는 것은 어려운 과제였다”며, 데사의 자연스러운 음성 상호작용이 아이들의 학습 효율을 높이는 데 기여할 수 있을 것이라고 기대했습니다. 이는 AI 기술이 교육 분야에서 새로운 지평을 열 수 있음을 보여주는 사례입니다.

그러나 데사 AI의 놀라운 인간적인 특징은 동시에 심각한 우려를 불러일으키고 있습니다. 일부 사용자들은 AI 음성이 너무나 인간적이어서 사람들을 속이고 경계를 낮추게 만들 수 있다고 지적합니다. 영화감독 저스틴 베이먼(Justine Bateman)은 “왜 AI 음성이 인간처럼 들려야 하는지 의문”이라며, “사람들을 속이기 위해 사용될 수 있다”고 우려를 표했습니다. 언론인 시브 아루르(Shiv Aroor) 또한 사기 범죄가 급증할 수 있다는 가능성을 제기하며 “사기 전화가 팬데믹 수준에 도달할 것”이라고 경고했습니다. 이러한 우려는 딥페이크 기술의 발전과 함께 AI가 생성하는 가짜 정보의 확산에 대한 사회적 불안감을 반영하고 있습니다.

블록은 스퀘어(Square), 캐시 앱(Cash App), 비트코인 지갑인 비트키(Bitkey), 그리고 비트코인 채굴 하드웨어 사업부인 프로토(Proto) 등을 운영하는 기업입니다. 블록의 AI 연구소는 잭 도시에게 직접 보고하며, 과거 토론토에 본사를 둔 AI 스타트업 'Dessa' 출신 직원들도 포함되어 있습니다. 이러한 배경은 블록이 AI 기술 개발에 상당한 투자를 하고 있음을 보여주며, 데사 AI의 개발 또한 이러한 맥락 속에서 이루어졌음을 시사합니다.

이번 데사 AI의 등장은 AI 기술의 발전이 가져올 긍정적 측면과 부정적 측면을 동시에 보여주는 단적인 예입니다. 기술의 발전 속도가 매우 빠르기 때문에, AI 기술의 윤리적 사용과 잠재적 위험에 대한 사회적 논의와 제도적 장치 마련이 시급하다는 목소리가 커지고 있습니다. 특히 음성 AI의 발달은 금융 사기, 정치적 선전, 개인정보 침해 등 다양한 분야에서 새로운 위험 요소를 야기할 수 있어, 이에 대한 철저한 대비와 감시가 요구됩니다.