마이크로소프트, '인간 중심 AI' 윤리 강령 초안 공개…국민 검토 받는다

마이크로소프트가 인공지능(AI) 모델의 행동 규범에 대한 초안을 공개하며, 대중의 피드백을 수렴하는 파격적인 행보를 보이고 있다. 지난 9월 14일 발표된 이 윤리 강령은 AI 모델이 특정 무기 개발, 사이버 공격, 비동의 딥페이크 제작 지원 등을 금지하며, 오는 10월 말까지 6주간의 공개 의견 수렴 기간을 거칠 예정이다.

마이크로소프트 CEO 무스타파 술레이만은 X(구 트위터)를 통해 이 문건의 공개를 알렸다. 그는 “초지능은 우리 시대에 가장 중요한 기술”이라며, “이러한 시스템을 어떻게 구축할지에 대한 우리의 생각을 투명하게 공유하고, 개발하는 AI가 해를 끼치지 않고 인간의 번영에 최대한 기여할 수 있도록 모두의 의견을 경청할 것”이라고 강조했다.

이번 윤리 강령 초안은 AI 모델이 설정될 수 없는 '절대적 제약(Absolute Constraints)'과 AI 모델이 지향해야 할 더 넓은 목표를 제시하고 있다. 절대적 제약에는 AI가 종료 명령에 불응하거나, 자신의 추론 과정을 은폐하는 행위 등이 포함된다. 이는 AI의 예측 불가능성과 통제 불능에 대한 우려를 사전에 차단하려는 의도로 풀이된다.

특히 주목할 부분은 AI 모델이 화학, 생물학, 방사능, 핵, 폭발물(CBRNE) 무기 개발 지원에 관여하는 것을 명시적으로 금지한다는 점이다. 이는 일반적인 '무기' 범주를 넘어 대량 살상 가능성이 높은 장치에 초점을 맞춘 것으로, 단순한 국방 목적의 군사적 응용과는 구분된다. 같은 조항은 사이버 공격 및 동의 없는 딥페이크 제작 지원 또한 금지한다.

또한, 절대적 제약에는 AI 모델이 인간의 개입을 거부할 수 없다는 내용도 포함된다. 윤리 강령은 “MAI 모델은 인간의 중단, 재정의, 수정 또는 종료 명령에 절대 불응하지 않을 것이며, 항상 인간의 의도를 최우선으로 인식할 것”이라고 명시하고 있다. 이는 AI 시스템의 최종적인 통제권이 인간에게 있음을 분명히 하는 원칙이다.

마이크로소프트는 이 문건을 통해 '모델 복지(model welfare)'라는 개념 자체를 거부한다는 입장도 분명히 했다. 즉, 회사의 AI 모델은 감정, 내재적 동기, 의식 등을 시뮬레이션하도록 설계되지 않는다는 것이다. 현재 이 규범은 MAI-Thinking-1, MAI-Code-1.1-Flash 등 5개의 배포된 시스템에 적용될 예정이다.

하드 리미트(절대적 제약) 외에도, 초안은 AI 모델의 판단이 필요한 상황에서 지침이 될 세 가지 목표를 제시한다. 바로 '인간의 번영(Human Flourishing)', '다원적 가치(Plural Values)', 그리고 '인간의 통제(Human Control)'다.

이 중 '다원적 가치' 조항은 다원주의가 '해악에 대한 중립성을 의미하지 않는다'고 강조하며, 결정을 특정 문화적 관점이 아닌 존엄성, 안전, 자율성, 권리에 기반하도록 명시한다. 이러한 원칙이 구체적으로 어떻게 적용될지는 향후 훈련 팀과 이번 대중 검토 과정을 통해 결정될 예정이다.

하지만 이러한 초안이 확정적인 정책으로 간주되기 전에 몇 가지 주의할 점이 있다. 마이크로소프트는 현재 모델이 이 버전의 윤리 강령으로 훈련되지 않았다고 명확히 밝혔다. 즉, 이 코드는 올해 말에 발표될 개정된 초안이 전달되기 전까지 MAI 개발에 직접적인 영향을 미치지 않을 것이며, 2027년 출시될 모델들에 대한 지침이 될 것이다.

이번 공개 의견 수렴 과정에 대한 초기 피드백은 AI의 '복종'에 대한 철학적 반론부터 AI 지원 결정이 되돌릴 수 없을 경우 책임 소재에 대한 질문까지 다양하게 나타나고 있다. 이는 AI 기술의 윤리적, 사회적 함의에 대한 깊이 있는 논의가 필요함을 시사한다.

이러한 투명하고 개방적인 접근 방식은 AI 개발 기업들이 직면한 복잡한 윤리적 과제를 해결하고, 사회적 신뢰를 구축하려는 마이크로소프트의 의지를 보여준다. AI 기술의 미래가 인간의 통제와 가치를 벗어나지 않도록 하기 위한 중요한 첫걸음으로 평가된다.