벤처비트 인텔리전스의 8월 설문에서, 자동 평가 결과만으로 프로덕션 변경을 이미 허용했거나 1년 내 허용할 계획이라고 답한 비율이 56%로, 7월(75%) 대비 크게 줄었다. 평가를 통과한 뒤에도 고객 대면 장애를 겪었다는 응답은 61%에 달해, 기업들이 자동화 속도보다 안전장치를 우선하는 쪽으로 돌아서고 있음을 보여준다.

이번 조사는 에이전트를 도입한 조직의 응답자 140명(8월 기준)을 대상으로 했으며, 최종 AI 구매 결정권자 비중은 53%였다. 같은 결정권자만 따로 보면 자동 승인에 동의하는 비율은 7월 88%에서 8월 61%로 더 큰 폭으로 떨어졌다. 다만 7월과 8월 조사는 서로 다른 자발적 응답 집단을 대상으로 했고, 이 조사만으로는 하락의 원인을 특정할 수 없다고 벤처비트는 밝혔다.

사전 배포 평가를 운용 중인 응답자의 61%가 지난 12개월 내 내부 테스트를 통과한 뒤에도 고객 대면 장애를 적어도 한 번 겪었다고 답했고, 22%는 두 번 이상이라고 답했다. 7월의 53%보다는 늘었지만 통계적으로 유의미한 차이는 아니라고 설명했다.

저위험 에이전트에 한해 사람 승인 없이 배포하도록 허용한다는 응답은 27%에 그쳤고, 35%는 이를 아예 배제한다고 답했다. 에이전트를 배포 중인 조직 중에서는 사람의 검토를 계속 유지하겠다는 응답이 42%로, 7월(20%)보다 통계적으로 유의미하게 늘었다.

응답자들이 꼽은 자동 평가의 가장 큰 한계는 "실제 결과와의 불일치"(27%)와 "설명 가능성 부족"(24%)이었고, "자동 평가를 신뢰한다"는 응답은 9%에 불과했다. 투자 우선순위로는 사람 검토 워크플로(30%), 운영 관측성(26%), 자동 평가 파이프라인(21%) 순으로 나타났다.

벤더 측면에서는 오픈AI의 개발자 플랫폼이 전체 스택의 59%에서 쓰이고 있다고 답해(7월 31%) 가장 큰 폭으로 늘었고, 40%는 이를 주력 플랫폼으로 꼽았다.

출처: https://venturebeat.com/orchestration/the-share-of-enterprises-trusting-ai-agents-to-make-production-changes-on-their-own-has-fallen-from-75-to-56-vb-intelligence-finds