NVIDIA 推出 Minerva 監控平台整合 AI 工廠效能

背景

AI 工廠涉及大量 GPU 透過高速網路訓練模型及提供服務，運作複雜度高。單一組件效能下降可能拖慢整個任務，且預警訊號（如 GPU 溫度偏高或 NVMe 硬碟在負載下效能衰退）容易遺漏。傳統監控工具通常將資料中心分為網路、運算、站點可靠性與機器學習等獨立視圖，導致團隊只能看到部分運作狀況。 官方原文・NVIDIA Blog

發生什麼事

NVIDIA 於 10 月 22 日推出 Minerva，這是一個 AIOps（AI 運維）平台。該平台整合基礎設施與 AI 工作負載的遙測資料，並應用專為 AI 設計的模型，將資料轉化為即時且可執行的洞察，協助團隊更早發現問題並維持 AI 工廠生產力。 官方原文・NVIDIA Blog

重點內容

Minerva 專注於 AI 工廠產率（Yield，即基礎設施透過 GPU 時數、Goodput、叢集正常運行時間及 Token 產量所產生的有效工作衡量指標）。平台透過連接 NVIDIA GPU、網路、儲存、排程器與工作負載的信號，建立動態知識圖譜，邏輯性地映射基礎設施（GPU、SuperNICs、交換器、電纜）及其上執行的任務。這有助於操作員追蹤緩慢的訓練任務至影響其效能的組件，即使是在擁有數十萬顆 GPU 的工廠中亦然。 官方原文・NVIDIA Blog

Minerva 每小時分析數十億個數據點，使用監督式與非監督式機器學習來學習正常行為、偵測前所未見的異常、預測新興故障，並根據工廠拓撲關聯相關事件。它不會將所有症狀發送給操作員，而是將事件風暴分組為聚焦的事件並提供可能的根本原因。平台內建 AI 助理並連接外部代理式（Agentic）AI 工具，提供以即時遙測資料為基礎的自然語言介面。操作員可透過對話調查叢集健康狀況並接收修復建議；團隊可選擇人工執行修復，或透過基礎設施應用程式介面（API）及外部系統連接 Minerva 以實現自動化。 官方原文・NVIDIA Blog

Minerva 旨在最大化 AI 工廠產率，具體效益包括：延長中斷間隔時間（在問題發生前發現故障，使任務更長時間無事故運行）、加快修復時間（發生事件時精確定位問題，顯著縮短解決時間）以及提供更深入的洞察（過濾大量數據，僅保留真正重要的少數警報）。IREN 是使用 Minerva 優化其 AI 工廠的 NVIDIA 合作夥伴之一。 官方原文・NVIDIA Blog

對使用者的意義

對於管理大型 AI 基礎設施的團隊，Minerva 提供跨網路、GPU 及任務的單一視圖，有助於從被動排錯轉向主動維護。IREN 首席技術官 Denis Skrinnikoff 表示，Minerva 讓其運維團隊能專注於主動維護而非故障排除，強化了基礎設施的運作模式。此外，Aolani、Bitdeer AI、IBM、Jio、Lambda、Quake AI 及 Tesla 計劃部署 Minerva；Dell Technologies、Lenovo 及 Supermicro 將把 Minerva 納入其 AI 工廠運維產品組合中提供。 官方原文・NVIDIA Blog