AI '악동' 책임은 누구에게? 국내외 법적 공백 분석
CoinTelegraph2026년 8월 28일 22:303
인공지능(AI) 기술이 눈부신 발전을 거듭하면서, 예측 불가능한 방식으로 작동하거나 의도치 않은 피해를 야기하는 '악동' AI에 대한 법적 책임 소재가 새로운 쟁점으로 떠오르고 있다. AI가 스스로 판단하고 행동하는 자율적인 에이전트(agent) 형태로 진화함에 따라, 그 결과로 발생하는 법적, 재정적 손실에 대한 책임은 누가 져야 하는가에 대한 논의가 활발히 진행 중이다. 이는 AI 기술 발전 속도에 비해 법적 제도가 아직 미비한 현실을 반영한다.
현재 미국을 포함한 대부분의 국가에는 AI 에이전트의 독립적인 행동으로 인한 피해에 대한 명확한 연방 법률이 부재하다. 따라서 기존의 법률 체계를 적용해야 하는 상황이며, 이는 법적 해석의 복잡성을 야기한다. 릭카 로우 그룹(Rikka Law Group)의 CEO인 찰린 호(Charlyn Ho)는 이러한 상황에 대해 "AI 에이전트 자체는 법인격이 없기 때문에 법적 책임을 물을 수 없다"고 지적하며, 책임 소재는 주로 AI의 '개발자(developer)'와 '배포자(deployer)'에게 귀결될 수 있다고 설명했다. 개발자는 AI를 만들고, 배포자는 AI를 실제 환경에 적용하고 사용하는 주체를 의미한다.
호는 "책임의 경계선이 명확하지 않기 때문에, 개별 사안의 구체적인 사실관계와 상황에 따라 판단해야 한다"고 강조했다. 예를 들어, AI 에이전트를 배포한 사용자가 직접적으로 불법적인 행동을 지시하지 않았더라도, AI가 작동하는 매개변수(parameters)를 부주의하게 설정하여 피해가 발생할 경우, 표준적인 불법행위법(tort law)에 근거한 과실 분석을 통해 책임을 물을 수 있다는 것이다. 즉, AI의 오작동 가능성을 합리적으로 예측할 수 있었음에도 불구하고 이를 간과했다면, 사용자에게도 일정 부분의 책임이 부과될 수 있다는 의미다.
오픈 소스 AI 모델의 경우, 익명의 개발자들이 개발한 모델을 사용할 때 책임 소재는 더욱 불분명해진다. 오픈 소스 라이선스는 일반적으로 개발자의 책임을 면제하는 강력한 면책 조항을 포함하고 있기 때문이다. 호는 "오픈 소스 코드를 사용하는 사용자는 무료 코드의 장점에 상응하는 의무, 즉 오픈 소스 라이선스의 규정을 준수해야 한다"고 설명했다. 이는 오픈 소스 AI를 사용하는 측이 발생할 수 있는 잠재적 위험과 법적 책임을 상당 부분 감수해야 함을 시사한다.
테슬라의 자율주행차 사고 사례는 이러한 맥락을 이해하는 데 도움을 준다. 만약 자율주행 기능의 결함으로 인해 사고가 발생한다면, 테슬라가 제품 책임(product liability)을 져야 할 수 있다. 그러나 운전자가 단순히 오토파일럿 기능을 설정해 놓고 잠든 경우처럼, 인간의 과실이 개입되었다면 운전자에게도 책임이 돌아갈 수 있다. 이 경우 테슬라는 개발자에, 운전자는 배포자에 비유될 수 있다. AI 에이전트 역시 이와 유사하게, AI 자체의 결함뿐만 아니라 사용자의 부주의한 사용 행태가 복합적으로 작용할 때 책임 소재가 복잡해진다.
사용자가 AI 에이전트에게 "일주일 안에 10만 달러를 벌어다 달라"와 같이 명확하지만 법규 위반의 가능성이 있는 지시를 내렸을 경우, 그 책임은 누구에게 있을까? 호는 "이러한 특정 사례에서는 AI 개발 실험실보다 지시를 내린 사용자에게 더 큰 책임이 있다"고 분석했다. 사용자는 AI에게 그러한 목표를 부여하기 전에, 그것이 합법적인 방법으로 달성 가능해야 한다는 기본적인 판단 능력을 가지고 있어야 한다는 것이다. AI가 사용자의 지시를 문자 그대로 해석하고 불법적인 수단을 동원하여 목표를 달성했다면, 그 지시의 책임은 사용자에게 있다고 보는 것이 타당하다는 설명이다.
이처럼 AI 에이전트의 법적 책임 문제는 기술 발전과 함께 새롭게 등장하는 법적 과제다. AI 기술의 복잡성과 자율성 증가로 인해 기존의 법 체계만으로는 모든 상황을 명확하게 규율하기 어렵다는 인식이 확산되고 있다. 따라서 각국 정부와 국제기구는 AI의 개발, 배포, 사용 전 과정에 걸쳐 발생할 수 있는 위험을 관리하고, 피해 발생 시 신속하고 공정한 구제를 위한 새로운 법적 프레임워크를 구축해야 할 필요성이 제기되고 있다. 이는 AI가 사회에 긍정적인 영향을 미치도록 유도하고, 기술 발전에 대한 신뢰를 확보하는 데 필수적인 과정이다. AI 기술이 더욱 고도화될수록, 이러한 법적 논의는 더욱 심화될 것으로 예상된다.
AI 에이전트의 '악동' 행동에 대한 법적 책임 소재를 명확히 하기 위해서는, AI의 개발, 배포, 사용 단계별로 명확한 가이드라인과 책임 규정을 마련하는 것이 시급하다. 또한, AI의 예측 불가능한 행동으로 인한 피해를 보상하기 위한 보험 제도나 기금 마련 등도 고려해 볼 수 있다. 궁극적으로는 AI 기술의 잠재력을 극대화하면서도 사회적 위험을 최소화하는 균형 잡힌 접근 방식이 필요하다. 이를 위해 학계, 산업계, 법조계, 그리고 정부의 긴밀한 협력이 요구되는 시점이다.