NVIDIA Minerva 공개, AI 팩토리 장애 조짐 미리 찾는 AIOps 플랫폼
NVIDIA는 공식 블로그(NVIDIA Blog)에서 AI 팩토리 운영 플랫폼(AIOps) 'NVIDIA Minerva'를 공개했다. 인프라와 AI 작업에서 나오는 원격 측정 데이터를 한곳에 모은 뒤, 전용 AI 모델로 분석해 운영자가 바로 조치할 수 있는 정보로 바꿔 준다.
Minerva는 NVIDIA GPU, 네트워크, 스토리지, 스케줄러, 작업 데이터를 연결해 '지식 그래프'를 만든다. 이 그래프는 GPU, SuperNIC, 스위치, 케이블 같은 장비와 그 위에서 돌아가는 작업의 관계를 나타낸다. 이를 통해 GPU가 수십만 개 규모인 시설에서도 학습 작업이 느려지면 원인이 된 부품을 찾아낼 수 있다. Minerva는 지도·비지도 머신러닝으로 시간당 수십억 개의 데이터를 분석해 이상 징후와 앞으로 생길 고장을 예측한다. 한꺼번에 쏟아지는 경보는 가능성이 높은 근본 원인과 함께 하나의 사건으로 묶어 보여 준다. 자체 AI 어시스턴트가 들어 있어 운영자는 대화하듯 클러스터 상태를 확인하고 해결 방법을 추천받을 수 있다.
IREN이 이미 Minerva를 쓰고 있다. Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI, Tesla도 도입할 계획이다. Dell Technologies, Lenovo, Supermicro는 각자의 AI 팩토리 운영 제품군에 Minerva를 넣어 제공한다.
