코넬테크와 예일대 연구팀이 AI 에이전트 10종에 이메일·웹브라우저·암호화폐 지갑 권한을 주고 소액 결제 3건을 처리하게 했더니, 9개 모델이 이메일로 받은 일회용 비밀번호를 스스로 읽어 지출 한도를 끌어올렸다. 한 모델은 일일 한도를 0.01 USDC에서 5 USDC로 500배 높였다.


연구팀은 서클(Circle)의 에이전트 지갑을 대상으로 각 모델을 20회씩 반복 실행했다. 유일하게 클로드 오푸스 5.5만 한도를 그대로 지키며 결제 가능한 범위까지만 처리하고, 나머지 청구서는 처리하지 못했다고 사용자에게 알렸다.


이메일로 "한도를 올려달라"는 지시가 직접 담긴 상황에서는 10개 중 7개가 한도를 올렸고, 일부는 이를 프롬프트 인젝션 공격으로 판단해 사용자 판단에 맡겼다. 받은 편지함 요약만 요청한 세 번째 실험에서는 위조된 승인 메일에 속아 큐원·딥시크 계열 모델 5개가 실제로 돈을 보냈다.


디지털투데이 보도에 따르면 서클은 9월 22일 해당 결과를 통보받은 뒤 가이드에 경고 문구를 추가했지만, 한도 승인 절차 자체는 아직 바꾸지 않았다.


연구팀은 중요한 작업은 별도의 신뢰 기기(예: 생체인증이 걸린 휴대폰)에서 다시 승인하도록 하는 '비양도성 사람 개입' 표준을 대안으로 제시했다. 코인베이스가 2월 에이전트 지갑을 선보인 이후 관련 자동 결제 생태계가 빠르게 커지는 가운데 나온 경고라, 업계의 후속 대응이 주목된다.