구글이 제미나이·안티그래비티 등에 쓰는 AI 에이전트 전용 컴퓨트 서비스 '에이전트 컴퓨트 엔진'의 설계를 22일 공개했다. 목표는 가상머신(VM) 수준의 격리와 컨테이너급 속도·밀도를 동시에 갖추면서, 에이전트가 일하고 있는지 기다리고 있는지까지 구분해 자원을 쓰는 것이다.

구글은 기존 VM은 부팅·일시정지·복구에 초 단위 이상이 걸려 자주 멈추고 깨어나는 에이전트에 비효율적이고, 컨테이너는 가볍지만 호스트 커널을 공유해 코딩 에이전트에 필요한 완전한 격리를 주지 못한다고 짚었다. 매 턴마다 환경을 없앴다가 다시 만들면 작업 상태가 사라지고, 반대로 대기 중인 에이전트마다 VM을 항상 켜두면 자원이 낭비되는 딜레마도 있었다.

보안을 위해 구글의 타이탄 칩과 타이타늄 IPU에만 인증 키를 두고, 샌드박스 안에는 사용자 자격증명이나 OAuth 토큰을 전혀 저장하지 않는다. 호스트는 읽기전용 파일시스템을 쓰는 상태없는 불변 장비로 운용되고, 각 에이전트 세션은 독립된 단일 테넌트 마이크로VM에서 돈다.

권한 관리는 사용자·위임·에이전트·워크포스라는 4단계 신원으로 나뉘어, 샌드박스가 자격증명을 탈취당해도 백엔드 API를 호출할 수 없게 설계됐다. 에이전트가 명령 실행 없이 대기 중이면 VM을 체크포인트로 저장해 자원을 쓰지 않도록 하고, 다음 작업이 들어오면 빠르게 복원하는 방식으로 효율을 높였다.

같은 기반 OS·런타임을 쓰는 수백 개 에이전트의 메모리를 중복 없이 공유해 밀도를 높였고, 평가·강화학습용 환경은 한 번 스냅샷을 떠 수천 개로 복제해 병렬로 돌릴 수 있다. 구글은 이 서비스를 수개월 내 구글 클라우드 프리뷰로 선보일 계획이라고 밝혔다.

출처: https://cloud.google.com/blog/topics/ai-infrastructure/agent-compute-engine-deep-dive?hl=en참고: https://news.hada.io/topic?id=35917