러시아, AI 악용한 가짜 학술단체 운영 적발

러시아발 인플루언스 네트워크가 인공지능 챗GPT를 이용해 가짜 학술단체를 홍보하고 전문가 행세를 해온 사실이 OpenAI 보고서를 통해 드러났습니다. OpenAI는 22일(현지시간) 발표한 보고서에서 러시아발로 추정되는 챗GPT 계정들을 차단했다고 밝혔습니다. 이 계정들은 '인터내셔널 버크 연구소(International Burke Institute, IBI)'라는 이스라엘 기반의 학술 기관을 홍보하는 데 사용되었습니다. 이 가짜 연구소는 학계 전문가들의 이름을 도용해 논문을 복제, 게시하는 방식을 사용한 것으로 확인되었습니다. OpenAI는 이번 캠페인이 상대적으로 적은 수의 사람들에게 도달한 것으로 보이지만, 그 정교한 구축 방식이 우크라이나 전쟁 발발 이후 중단된 다른 러시아 연계 영향력 작전들과 차별화된다고 설명했습니다. 챗GPT는 러시아 내에서 접속이 불가능하기 때문에, 이 단체는 가상사설망(VPN)을 이용해 위치를 위장하고 서비스에 접근한 것으로 파악되었습니다.

이 인플루언스 네트워크는 챗GPT를 이용해 가짜 학술 기관인 IBI를 홍보했습니다. 공식적인 프로필과 일반 사용자로 위장한 계정을 동원했습니다. OpenAI의 조사 결과, IBI 웹사이트에 게시된 36개의 검토 대상 기사 중 34개가 복제된 것으로 나타났으며, 일부는 실제 작성하지 않은 학자들에게 귀속되었습니다. OpenAI는 "일부 기사는 수년 전의 것이었고, 다른 기사들은 잘못된 저자에게 귀속되었다"고 지적했습니다. 예를 들어, 중국-파키스탄 경제 회랑에 관한 한 기사는 케임브리지 대학 출판부의 원본을 복제했지만, 남아시아 정치 전문가인 노팅엄 대학교 교수의 이름으로 잘못 기재된 것으로 보입니다. 이러한 유형의 정치적 영향력 캠페인은 생성형 AI를 활용하는 사례가 늘고 있습니다.

OpenAI는 2024년 들어 '도펠갱어(Doppelganger)'라는 별도의 러시아 연계 캠페인을 식별한 바 있습니다. 이 네트워크는 챗GPT를 이용해 러시아를 찬양하고 우크라이나, NATO, 미국을 공격하는 기사, 소셜 미디어 게시물, 댓글을 생성했습니다. 또한, 러시아 연계 그룹들은 챗GPT를 사이버 작전에 활용하기도 했습니다. OpenAI는 러시아 군사 정보국과 연계된 '포레스트 블리자드(Forest Blizzard)'라는 그룹이 챗GPT를 이용해 공격 대상 조사, 스크립트 작성, 피싱 공격 지원 등에 활용했다고 밝혔습니다.

OpenAI는 해당 IBI 캠페인을 러시아 정부와 직접적으로 연관 짓지는 않았습니다. 다만, 러시아어 프롬프트를 사용한 것으로 보인다고 덧붙였습니다. 이스라엘 내 일부 인사가 학회 발표나 기고를 통해 IBI를 대표했을 가능성이 있지만, 이들의 캠페인과의 관계는 명확하게 밝혀지지 않았습니다. OpenAI는 "이들 개인, IBI, 그리고 러시아 운영자 간의 관계를 판단할 수 있는 위치에 있지 않다"고 설명했습니다. 이번 사건은 생성형 AI 기술이 정보 조작 및 영향력 공작에 악용될 수 있다는 우려를 다시 한번 제기하며, AI 기술의 윤리적 사용과 규제에 대한 중요성을 강조합니다. 또한, 소셜 미디어 플랫폼의 콘텐츠 검증 및 가짜 정보 확산 방지 노력의 필요성도 부각됩니다. 향후 이러한 유형의 영향력 공작에 대한 국제적인 공조와 기술적 대응이 더욱 강화될 것으로 예상됩니다.