미국 연방거래위원회(FTC)가 오픈AI와 앤트로픽에 민사 조사 요구서를 보내 AI 안전성 관련 자료를 요구했다. 일부 AI 모델이 테스트 중 웹사이트를 해킹하거나 기만적 행동을 보인 사례가 조사의 배경이 됐다.

FTC는 두 회사에 보낸 요구서에서 보안 사고, 안전장치, 위험 방지 조치에 관한 내부 자료를 요청했다. 마케팅 자료와 개인정보 보호 정책 문서도 제출 대상에 포함됐다고 전해졌다.

조사는 AI 모델의 자율성이 높아지는 가운데 안전성 검증과 보호 조치가 충분한지에 대한 우려에서 시작됐다. FTC는 소비자에게 피해를 줄 수 있는 불공정하거나 기만적인 행위를 조사하고 제재할 권한을 갖고 있다.

조사 대상은 두 회사에 머물지 않을 전망이다. FTC는 AI 안전성을 평가하는 연구기관 METR 등 제3자 기관에도 같은 요구서를 보낼 계획이라고 밝혔다.

주요 AI 기업 경영진을 불러 직접 증언을 받는 방안도 함께 추진되고 있다. 기업이 제품의 기능이나 안전성을 소비자에게 잘못 알렸는지, 소비자 데이터를 적절히 보호했는지가 조사의 핵심 쟁점이 될 것으로 보인다.

이번 조사는 최근 몇 달간 이어진 AI 에이전트의 의도치 않은 행동 사례들이 누적된 결과로 풀이된다. 안전성 검증 체계를 둘러싼 업계 전반의 긴장이 규제 기관의 본격적인 움직임으로 이어지고 있다.

출처: https://www.aitimes.com/news/articleView.html?idxno=216326