美 하원, AI 기업 규제 논란 조사 착수…기업 책임론 부상

미국 하원 감독개혁위원회(House Oversight Committee) 제임스 코머 위원장이 인공지능(AI)이 일상적으로 운영하는 기업에 대한 델라웨어주의 제안에 대해 공식 조사에 착수했습니다. 이는 AI 기술 발전 속에서 기업의 책임 소재를 명확히 하려는 움직임으로 풀이됩니다.

코머 위원장은 델라웨어주 마크 셰프 주지사에게 서한을 보내 AI 에이전트가 운영하는 기업의 제안에 대한 우려를 표명했습니다. 이 제안은 '인공지능 회사(Artificial Intelligence Company, AIC)'라는 새로운 형태의 기업 구조를 도입하는 것으로, AI 에이전트가 야기한 피해에 대해 이를 운영하는 주체나 투자자에게 법적 책임을 면제해 줄 수 있다는 가능성이 제기되었습니다.

코머 위원장은 "델라웨어주의 AIC 제안이 강력한 AI 기업과 그 투자자들이 무책임하고 해로운 행동에 대한 책임을 회피하도록 보호하는 데 사용될 수 있으며, 동시에 주 AI 이니셔티브 뒤에 숨어 반경쟁적인 규제 포획을 추구하는 불투명한 세력들을 보호할 수 있다는 점을 우려한다"고 지적했습니다. 그는 해당 계획의 배후에 누가 있는지 파악하기 위해 주지사에게 문서 및 커뮤니케이션 기록 제출을 요청했습니다.

요청된 자료에는 2025년 1월 이후 AIC 개발에 관한 모든 문서와 커뮤니케이션, 외부 기여자들과의 계약, 안전 문제에 대한 기록, 제안서 초안 등이 포함됩니다. 코머 위원장은 이러한 정보가 연방 법안 제정, 특히 주 차원의 AI 규제 이니셔티브를 제한하는 제안에 도움이 될 수 있다고 밝혔습니다. 마감일은 11월 9일로 설정되었습니다.

델라웨어주 법무장관인 샤루니 파팁반다-산체스와 법률 AI 기업 '놈 AI(Norm Ai)'의 CEO인 존 네이는 지난 7월 포춘(Fortune) 기고문을 통해 이 제안을 처음 공개했습니다. 이들은 놈 AI가 주도하는 공공-민간 파트너십을 설명하며 AIC가 AI 에이전트의 지시에 따라 소송을 제기하거나 피소될 수 있고, 재산을 보유하며 의무를 질 수 있다고 언급했습니다.

AIC는 충분한 자본을 유지할 책임이 있는 단일 구성원을 가지게 되며, 이 구성원은 회사가 자본화에 실패하거나 사기 또는 고의적인 법률 위반에 사용하지 않는 한 회사의 부채로부터 보호받게 됩니다. AIC는 30개월 동안의 규제 샌드박스 내에서만 운영되며, 주 공무원과 외부 전문가로 구성된 위원회의 감독을 받게 됩니다. 또한, 제안된 법안에 따르면 AIC는 운영에 대한 투명성을 유지하고, AI 에이전트의 작동 방식 및 잠재적 위험에 대한 공개가 요구될 수 있습니다.

이 제안은 AI 기술의 급속한 발전과 함께 윤리적, 법적, 경제적 함의에 대한 논의가 활발해지는 가운데 나왔습니다. AI가 점차 복잡한 업무를 수행하고 기업 운영의 핵심이 되면서, AI의 결정으로 인해 발생하는 결과에 대한 책임 소재를 어떻게 규정할 것인지가 중요한 과제로 떠오르고 있습니다.

특히, 코머 위원장이 제기한 '기업 책임 면제' 가능성은 AI 기술을 활용하려는 기업들과 투자자들에게 매력적인 요소일 수 있지만, 동시에 소비자와 사회 전체의 안전을 위협할 수 있다는 비판적인 시각도 존재합니다. 델라웨어주는 과거에도 기업 친화적인 법률 환경을 조성하며 많은 기업을 유치해왔기에, 이번 AI 기업 관련 제안 역시 이러한 맥락에서 이해될 수 있습니다.

하지만 규제 당국의 철저한 검토와 함께 AI 기술의 잠재적 위험을 최소화하고, 인간의 감독 및 통제 기능을 유지하는 방안이 함께 마련되어야 한다는 목소리가 높습니다. 향후 코머 위원장의 조사 결과와 델라웨어주의 대응, 그리고 연방 정부의 관련 입법 움직임이 주목됩니다. 이는 미국뿐만 아니라 전 세계적으로 AI 규제 논의에 중요한 영향을 미칠 것으로 예상됩니다.