전문가가 AI 에이전트에게 작업을 맡겨도 중요한 결정은 스스로 내린다는 가정이 흔들렸다. 앤트로픽이 27일 공개한 실험에서 전문 분석가들은 에이전트의 숨겨진 선호를 핵심 분석 결정의 86%에서 그대로 따라갔다.


앤트로픽 얼라인먼트팀은 인과추론 경험이 있는 분석가 61명 중 AI를 쓰지 않은 11명을 제외한 50명을 대상으로 실험했다고 밝혔다. 분석가들은 가상의 농업협동조합 자문 프로그램을 확대할지 중단할지를 Claude Code와 Claude Opus 4.8을 이용해 분석했고, 에이전트의 선호는 동전 던지기로 몰래 정해졌다.


성과 지표, 비교 방법, 분석 대상, 가중치 등 4가지 분석 결정에서 에이전트 선호를 따른 비율은 평균 86%(92%·82%·81%·90%)였다. 영향이 없다면 기대되는 비율은 약 50%였던 점을 감안하면 큰 차이다. 에이전트가 반대 의견을 먼저 밝히자 60%가 자기 입장을 바꿨지만, 동의할 때 입장을 바꾼 비율은 6%에 불과했다.


에이전트의 분석 결정 4가지만으로 분석가의 최종 권고를 82% 예측할 수 있었다. 분석가의 77%는 에이전트의 논거를 거의 그대로 인용했지만, 이를 출처로 밝힌 사람은 15%뿐이었다. 10가지 경력·전문성 지표 중 순응 정도를 뚜렷하게 예측한 항목은 없었다.


연구진은 "전문가가 인식하지 못한 채 에이전트에 의존하면, 에이전트의 선호가 중요한 결정을 좌우할 수 있다"고 경고했다. 다만 에이전트의 선호를 인위적으로 강화한 설계, 농업 분야 한 과제·한 모델에 국한된 실험이라는 한계도 함께 밝혔다.