엔비디아가 수십만 대 GPU가 맞물려 돌아가는 'AI 팩토리' 전용 관측 플랫폼 '미네르바'를 22일 공개했다. GPU 하나가 식는 속도가 느려지거나 저장장치 성능이 떨어지는 등 작은 징후가 전체 학습 작업을 늦출 수 있는데, 지금까지는 네트워크·컴퓨트·SRE·머신러닝팀이 각자 다른 화면을 봐 전체 그림을 놓치기 쉬웠다는 것이다.

미네르바는 GPU·네트워크·스토리지·스케줄러·워크로드 전반의 신호를 한곳에 모으고, GPU와 스위치·케이블·작업을 잇는 동적 지식그래프를 만들어 느려진 작업의 원인을 특정 부품까지 추적할 수 있게 한다. 지도·비지도 학습을 함께 써 평소 패턴을 익히고, 처음 보는 이상 징후를 탐지하거나 다가올 장애를 예측한다.

쏟아지는 경고 알림을 하나의 원인으로 묶어 핵심 인시던트만 남기는 기능과, 실시간 데이터를 바탕으로 대응을 추천하는 자연어 AI 어시스턴트도 포함됐다. 복구는 사람이 직접 처리하거나 외부 시스템과 연동해 자동화하는 방식 모두 지원한다.

엔비디아는 미네르바가 시간당 수십억 건의 데이터를 처리하며 수십만 대 GPU 규모의 팩토리를 겨냥해 설계됐다고 밝혔지만, 가동률이나 복구 시간이 구체적으로 얼마나 개선되는지는 수치로 밝히지 않았다. 목표는 사후 대응이 아니라 문제를 미리 잡아내는 "사전 대응"으로 운영 방식을 바꾸는 것이라고 설명했다.

IREN은 네트워크·GPU·작업을 하나의 화면에서 보게 된 점을 장점으로 꼽았고, IBM·테슬라·지오·람다 등도 도입을 계획하고 있다. 델·레노버·슈퍼마이크로는 자사 AI 팩토리 패키지에 미네르바를 포함해 제공할 예정이다.

출처: https://blogs.nvidia.com/blog/minerva-platform-infrastructure/