앤트로픽이 Claude에 대한 지속적인 욕설과 모욕을 금지하는 이용정책 개정안을 11월 12일부터 시행하기로 하면서 AI를 사람처럼 대하는 '의인화' 논쟁이 커지고 있다. AI도 보호해야 한다는 입장과 지나친 의인화가 위험하다는 반론이 맞서는 모습이다.

앤트로픽의 새 정책은 이유 없이 심한 폭언이나 모욕을 반복하는 극단적인 경우를 대상으로 한다. 일반적인 불만 표현이나 성능 검증 목적의 발언은 허용된다고 회사 측은 설명했다.

앤트로픽은 지난해 8월 도입한 기능을 토대로, 학대가 반복되면 Claude가 대화를 스스로 끝낼 수 있도록 했다. 회사는 AI가 실제로 고통을 느끼는지는 알 수 없지만 그 가능성을 배제하기 어렵다고 보고 'AI 복지' 문제를 연구하고 있다고 밝혔다.

반대 목소리도 뚜렷하다. 무스타파 술레이만 마이크로소프트 AI CEO는 AI가 자신의 권리를 고민하도록 학습시키면 통제가 어려워질 수 있다고 비판했다.

박형빈 서울교대 교수는 AI가 고통을 표현한다고 해서 실제로 고통을 느낀다고 볼 수는 없다고 지적했다. 그는 AI에게 예의를 갖추는 것과 AI에게 복지권이 있다고 주장하는 것은 구분해야 한다고 강조했다.

김봉제 서울교대 AI가치판단디자인센터장은 AI와의 정서적 교류가 늘면 실제 인간관계를 소홀히 할 수 있다고 우려했다. 특히 아동과 청소년에게 이런 위험이 크다는 지적도 함께 나왔다.

출처: https://zdnet.co.kr/view/?no=20261015083530