X 알고리즘, 분노 유발 콘텐츠 증폭…사용자 취향과 반대로
Decrypt2026년 8월 19일 06:200
소셜 미디어 플랫폼 X(구 트위터)에서 사용자들이 싫어하는 콘텐츠를 더 많이 보게 되는 이유가 밝혀졌다. X의 알고리즘이 사용자의 가치관과 상반되는 콘텐츠, 이른바 '분노 유발 콘텐츠'를 오히려 증폭시키는 경향이 있다는 연구 결과가 나왔다. 특히 민주당 지지자들에게서 이러한 현상이 두드러지게 나타났다. 연구는 X의 추천 알고리즘이 어떻게 작동하며, 이것이 사용자 경험에 어떤 영향을 미치는지를 심층적으로 분석했다. 이는 최근 X가 오픈소스로 공개한 AI 챗봇 '그록(Grok)' 기반의 'For You' 알고리즘과 맞물려 주목받고 있다.
지난 월요일(현지시간) '미국립과학원회보(Proceedings of the National Academy of Sciences)'에 게재된 이번 연구는 MIT, 미시간 대학교, 존스 홉킨스 대학교, 스탠퍼드 대학교, 예일 대학교 등 유수의 대학 연구진이 공동으로 진행했다. 연구진은 2024년 9월과 10월 동안 미국 내 X 사용자 715명을 대상으로 브라우저 확장 프로그램을 설치하게 하여 'For You' 피드와 'Following' 피드에서 어떤 콘텐츠가 노출되는지를 수집했다. 이들은 사용자들이 'For You' 피드에서 자신들의 명시적인 가치관과 일치하지 않는 콘텐츠가 더 많이 증폭되는 현상을 발견했다.
연구 결과에 따르면, X는 특히 민주당 지지자들에게 그들의 명시적인 가치관과 상반되는 콘텐츠를 더 많이 보여주는 것으로 나타났다. 이러한 불일치 정도를 나타내는 상관계수는 민주당 지지자의 경우 -0.229로, 공화당 지지자(-0.041)에 비해 현저히 낮은 수치를 기록했다. 음수 값이 클수록 사용자의 명시적인 가치관과 추천 콘텐츠 간의 불일치가 크다는 것을 의미한다. 전체 사용자를 대상으로 했을 때, 증폭된 콘텐츠는 평균 -0.150의 상관계수를 보인 반면, 사용자가 직접 팔로우한 계정의 콘텐츠는 일반적으로 그들의 가치관과 일치하는 경향을 보였다.
연구진은 'For You' 피드의 콘텐츠 증폭이 사용자들이 명시적으로 밝힌 가치관과 부정적인 상관관계를 보인다는 점을 강조하며, 이는 알고리즘이 사용자의 명확한 가치관과 불일치하는 콘텐츠를 오히려 증폭시키고 있음을 시사한다고 분석했다. 이러한 결과는 이전 연구의 재현을 통해서도 유사한 경향을 보였는데, 민주당 지지자의 경우 -0.199, 공화당 지지자의 경우 0.0372로 나타났다.
연구진은 이러한 '가치관 불일치' 현상의 일부 원인이 사용자들이 '댓글' 기능에 있다고 지적했다. 사용자들이 자신의 가치관과 충돌하는 콘텐츠를 게시한 다른 사용자에게 댓글을 달 경우, X 알고리즘은 이를 해당 콘텐츠에 대한 사용자의 관심 또는 선호도로 인식하여 유사한 콘텐츠를 더 많이 추천할 수 있다는 것이다. 즉, 불쾌하거나 논쟁적인 콘텐츠에 반응하는 행위 자체가 알고리즘에게는 '더 많은 콘텐츠를 보여달라'는 신호로 해석될 수 있다는 설명이다.
이러한 결과는 사용자들이 실제로 중요하게 생각하는 가치와, 높은 반응을 유도하는 콘텐츠 사이의 긴장 관계를 보여주는 동시에, 이러한 가치 긴장이 어떻게 예상치 못한 '불일치' 결과로 이어질 수 있는지를 엿볼 수 있게 한다고 연구진은 덧붙였다. 다만, 이번 연구에서는 논란의 여지가 있는 콘텐츠를 게시하거나 가치관 불일치 반응을 유도하는 계정이 실제 사람에 의해 운영되는지, 아니면 봇에 의해 자동화된 것인지에 대한 여부는 조사하지 않았다. 따라서 봇의 역할에 대한 의문은 여전히 남아있다.
이번 연구 결과는 X가 지난 1월 '그록' 기반의 'For You' 알고리즘을 오픈소스로 공개하면서, 사용자의 행동(좋아요, 댓글 등)을 예측하여 게시물의 순위를 매기는 추천 시스템의 작동 방식을 일부 드러낸 시점과 맞물려 더욱 주목받고 있다. 당시 일론 머스크 X 최고경영자(CEO)는 "알고리즘은 멍청하고 개선이 많이 필요하다"고 언급하며, "적어도 우리는 실시간으로 더 나은 알고리즘을 만들기 위한 노력을 투명하게 볼 수 있다"고 밝힌 바 있다. 하지만 이번 연구 결과는 X의 알고리즘이 단순히 '멍청한' 것을 넘어, 사용자의 감정을 자극하고 분노를 유발하는 콘텐츠를 의도적으로 혹은 비의도적으로 증폭시키고 있을 가능성을 제기하며, X 플랫폼의 추천 시스템에 대한 지속적인 감시와 개선의 필요성을 강조하고 있다. 향후 X가 이러한 연구 결과를 바탕으로 알고리즘을 어떻게 개선해 나갈지, 그리고 사용자 경험을 어떻게 재정의할지가 업계의 주요 관심사가 될 것으로 보인다. 플랫폼 알고리즘의 작동 방식과 사용자 상호작용 간의 복잡한 관계는 앞으로도 더욱 깊이 있는 연구와 논의를 필요로 할 것이다.