https://x.com/AIatMeta/status/2112265822274302066

메타AI가 에이전트 작업에 특화된 300억 파라미터 오픈웨이트 모델 '뮤즈 글리머(Muse Glimmer)'의 기술보고서를 공개했다. 소비자용 GPU 한 장으로도 돌릴 수 있도록 설계된 점이 특징이다.

뮤즈 글리머는 4비트 정밀도로 양자화하면 일반 소비자용 GPU를 탑재한 맥이나 PC 한 대에서 구동할 수 있다. 메타는 이 모델을 Apache 2.0 라이선스로 공개해 누구나 자유롭게 쓰고 수정할 수 있도록 했다.

모델은 클라우드 연결 없이도 로컬 환경에서 에이전트 작업(파일 처리, 자동화 작업 등)을 수행하도록 훈련됐다. 메타는 이를 통해 개발자와 애호가들이 직접 자신의 하드웨어에서 에이전트를 실험할 수 있게 하는 것이 목표라고 설명했다.

같은 날 메타는 오하이오주 뉴올버니에 있는 기가와트급 슈퍼클러스터 '프로메테우스'에서 더 큰 규모의 '뮤즈 원더(Muse Wonder)' 계열 모델들도 훈련했다고 밝혔다. 수십만 개의 GPU가 동원된 이 훈련은 뮤즈 글리머와 대조적으로 대규모 클라우드 인프라를 활용한 사례다.

메타는 로컬에서 돌아가는 소형 모델과 대규모 클라우드 모델을 함께 선보이며, 사용 환경에 따라 다른 선택지를 제공하려는 전략을 보이고 있다.

출처: https://x.com/AIatMeta/status/2112265822274302066참고: https://aiweekly.co/node/9642