背景
在雲端原生堆疊中配置新 GPU 硬體（如 NVIDIA Vera Rubin）相當複雜，驅動程式、核心、執行環境、網路、操作器與排程器必須協同運作，且設定需針對硬體與工作負載進行調校。微小的不匹配可能導致工作負載無法執行或限制效能。NVIDIA AI Cluster Runtime (AICR，將調校後的配置捕捉為可重複使用配方的執行環境) 是 NVIDIA DSX AI Factory Platform 的一部分，旨在簡化此過程，透過捕捉調校後的配置為可重複使用的配方（recipes），為現有部署工具生成套件，並驗證執行中的叢集。 官方原文・NVIDIA Developer Blog
發生什麼事
NVIDIA 於 2026 年 11 月 2 日發布技術部落格，說明如何利用 AICR 讓 Kubernetes 環境在 NVIDIA Vera Rubin NVL72 計算托盤上市首日（Day 1）即準備就緒。AICR 將這些元件整合在平台團隊可重複並驗證的配置中，涵蓋從 GB200 NVL72 升級至 Vera Rubin NVL72 所需的驅動程式、網路與拓撲變更。 官方原文・NVIDIA Developer Blog
重點內容
Vera Rubin NVL72 需要新的 GPU 驅動程式分支，目前已在 R615.23 主機安裝的開放原始碼 GPU 驅動程式上驗證，早期支援目標為 R610，官方平台支援則在 R620。網路方面，Vera Rubin NVL72 以 NVIDIA ConnectX-9 SuperNICs（專為大規模 AI 工作負載設計的高效能網路加速器）和 NVIDIA BlueField-4 DPUs（資料處理單元，一種可程式化的基礎設施處理器）取代 GB200 NVL72 的 ConnectX-7 NICs 與 BlueField-3 DPUs，DOCA（NVIDIA 用於 BlueField 與 ConnectX 的軟體平台）3.3.0 是首個支援 ConnectX-9 的正式發布版本。 官方原文・NVIDIA Developer Blog 官方原文・nvidia.com 原文
AICR 的新 Vera Rubin 配方家族以預覽（Preview）形式發布，適用於 RKE2（一種 Kubernetes 發行版）服務、Vera Rubin NVL72 (vr200) 加速器與 Ubuntu 作業系統。該配方編碼了關鍵的平台下限與特性，例如 Kubernetes >= 1.34.1（因 ComputeDomains/IMEX（用於多節點 NVLink 工作負載的記憶體交換機制）使用的 GA resource.k8s.io/v1 DRA API（動態資源分配 API）需要 1.34 版，且 RKE2 CDI/NRI 工具路徑需要 containerd 2.1 故需 .1 補丁），以及 Ubuntu 26.04 搭配 Vera 最佳化的 arm64 64k-page 核心。 官方原文・NVIDIA Developer Blog
在驗證測試中，AICR 執行了跨節點 NCCL all-reduce（NVIDIA 集合通訊庫中的全歸約操作，用於多 GPU 間資料同步）效能閘門，透過 IMEX ComputeDomain 在 NVLink 結構上運行。測試結果顯示，在 16 GiB 資料量下，匯流排頻寬（busbw）達到 744.71 GB/s。整個從配方生成、套件渲染、快照到部署與一致性驗證的流程，在實際叢集上約需五分鐘完成。 原文
對使用者的意義
平台團隊可使用 AICR 公開目錄中的預覽配方，透過單一指令生成經過驗證的配置，例如 aicr recipe --service rke2 --accelerator vr200 --os ubuntu --intent training。這讓開發者與企業能在 Vera Rubin 硬體上市初期，快速建立可重複且可驗證的 Kubernetes AI 基礎設施，避免手動處理驅動程式與網路設定的複雜性。 官方原文・NVIDIA Developer Blog
限制與未定事項
Vera Rubin 配方目前為預覽階段，不具備正式支援配方的生產支援與生命週期資格。推理服務效能驗證目前延後，因為 vLLM 雖在 v0.27.0 合併了 Rubin (sm_107a) 支援，但其 SM107 核心路徑在建置時依賴 NVIDIA CUDA >= 13.4，而 vLLM 截至 v0.28.0 的發布映像仍針對 CUDA 13.0.3 建置。此外，RDMA 在 ConnectX-9 上的資料路徑效能不在本次驗證範圍內。 官方原文・NVIDIA Developer Blog
接下來要看的事
- NVIDIA 何時發布 Vera Rubin NVL72 的正式支援（Supported）AICR 配方？
- vLLM 何時發布針對 CUDA >= 13.4 建置且通過 Vera Rubin 硬體驗證的映像檔？
- NVIDIA 何時公布 ConnectX-9 在 RDMA 資料路徑上的效能驗證結果？
