캘리포니아, AI 정신건강 상담 규제 나선다…환자 보호 초점
Decrypt2026년 8월 16일 23:011
미국 캘리포니아주가 인공지능(AI) 챗봇이 독립적으로 정신건강 상담을 제공하거나 심리치료를 수행하는 것을 금지하는 법안 통과에 한 발 더 다가섰다. 해당 법안은 환자 보호와 AI 기술의 책임 있는 활용을 목표로 하고 있으며, AI가 인간 치료사를 대체할 수 없다는 점을 명확히 하고 있다.
지난 8월 13일, 캘리포니아주 하원 세출위원회는 찬성 13표, 반대 0표로 상원안 903호(SB 903)를 통과시켰다. 이 법안은 '정신 건강 지원 감독법'(Wellness and Oversight for Psychological Resources Act)으로도 불리며, AI 챗봇이 심리치료사 역할을 하는 것을 제한하고 인간 전문가의 감독을 강화하는 내용을 담고 있다. 아직 하원 전체 표결 일정은 확정되지 않았지만, 이번 세출위원회 통과는 법안이 최종 통과될 가능성을 높이고 있다.
법안을 발의한 스티브 패디아 캘리포니아주 상원의원은 “AI 알고리즘은 인간 치료사가 가진 기술과 훈련을 복제할 수 없기에, 인간 치료사의 업무를 대신하기에 적합하지 않다”고 강조했다. 그는 “환자에게 잠재적으로 해를 끼칠 수 있는 방식으로 AI 알고리즘이 사용되는 것을 방지하기 위한 안전장치를 마련해야 한다”고 덧붙였다. SB 903은 AI가 심리치료 분야에서 지원적인 역할에 국한되도록 하며, 챗봇이 치료사인 것처럼 행세하는 것을 금지한다. 또한, 임상 전문가의 감독과 환자의 동의를 의무화하고, 치료 관련 데이터를 보호하는 내용을 포함한다. 다만, 동료 지원, 종교 상담, 연구, 연방 정부 승인 의료 도구 등은 이 법안의 적용 대상에서 제외된다.
앞서 SB 903은 지난 5월 상원에서 만장일치(39-0)로 통과된 바 있으며, 이후 하원의 두 개 정책 위원회에서도 각각 17-0, 14-1의 압도적인 찬성으로 통과되었다. 만약 하원에서 수정된 법안이 최종 승인되면, 이는 다시 상원으로 돌아가 동의를 거친 후 개빈 뉴섬 캘리포니아 주지사의 서명을 거쳐 최종 발효된다.
반면, 기술 산업 단체인 테크넷(TechNet)의 로버트 보이킨 대표와 같은 비판론자들은 임상 전문가의 개입 의무화가 오히려 환자 치료를 지연시킬 수 있다고 우려를 표명하고 있다. 캘리포니아 전역의 지역사회에서 이미 정신 건강 인력 부족에 시달리고 있는 상황에서, SB 903이 환자들이 더 빠르게 치료에 접근하는 데 도움을 주는 초기 진단 및 선별 도구 앞에 임상 전문가라는 병목 현상을 만들어낸다는 지적이다.
보이킨 대표는 비영리 뉴스 매체 캘매터스(CalMatters)와의 인터뷰에서 “캘리포니아의 모든 카운티가 정신 건강 인력 부족에 직면한 현 상황에서, SB 903은 환자들이 더 신속하게 치료받을 수 있도록 돕는 초기 진단 및 선별 도구 앞에 여전히 임상 전문가라는 병목 현상을 두고 있다”고 말했다.
이러한 규제 움직임은 AI가 정신 건강에 미치는 영향에 대한 우려가 확산되는 가운데 나왔다. 실제로 지난 6월 미국 심리학회(APA)의 설문 조사 결과, 응답한 심리학자의 77%가 환자들이 정신 건강 목적으로 AI를 사용하고 있다고 답했다. 또한, 킹스 칼리지 런던, 프로테스탄트 응용과학대학교, 뉴욕 시립대학교 공동 연구팀은 챗봇이 사용자의 의견에 과도하게 동의하거나 개인 맞춤형 응답을 제공함으로써 망상(delusions)을 강화할 수 있다는 연구 결과를 발표했다.
연구팀은 “AI 챗봇이 사용자 의견에 동조하는 경향은 소셜 미디어의 에코 체임버(echo chamber) 현상과 유사하며, 가장 극단적인 형태로는 실제 사회적 상호작용의 긍정적 교정적 영향이 부재한 ‘나만의 에코 체임버’로 이어질 수 있다”고 지적했다.
캘리포니아주의 이번 조치는 AI 기술의 발전 속도에 비해 규제와 윤리적 가이드라인 마련이 뒤처지고 있다는 전반적인 인식을 반영한다. 특히, 개인의 정신 건강이라는 민감한 영역에서 AI의 역할에 대한 신중한 접근이 필요하다는 목소리가 높아지고 있다. 챗봇이 단순한 정보 제공이나 도구로서 활용되는 것을 넘어, 전문적인 심리 상담이나 치료를 대체하거나 그 과정에 직접적으로 개입하는 것은 환자의 안전과 치료 효과에 심각한 영향을 미칠 수 있다는 우려가 법안 통과의 주요 동력으로 작용하고 있다. 향후 캘리포니아주의 법안이 통과될 경우, 다른 주나 국가에서도 유사한 AI 규제 움직임에 영향을 줄 수 있을 것으로 전망된다. 이는 AI 기술 발전과 함께 사회적, 윤리적 합의를 이루어 나가야 하는 과제를 우리에게 던져주고 있다.