背景
CUDA 是 NVIDIA 用於加速運算的平行運算平台與應用程式介面（API，讓軟體能呼叫硬體功能的介面）。隨著人工智慧與加速運算需求提升，NVIDIA 持續更新 CUDA 以支援新硬體並優化效能。本次 CUDA 13.5 版本重點在於將 NVIDIA Vera Rubin 架構的支援從早期開發者存取轉為正式可用（GA，General Availability，代表軟體已準備好供企業生產環境使用），並擴展 Windows on Arm 的支援範圍。 官方原文・NVIDIA Developer Blog
發生什麼事
NVIDIA 於 2026 年 11 月 4 日發布 CUDA 13.5。此版本主要將 NVIDIA Vera Rubin 的支援狀態從早期開發者存取升級為 GA，使其適用於企業生產環境。此外，自 CUDA 13.4 起已在 Windows on Arm 上 GA 的支援，現已擴展至 NVIDIA DGX Station for Windows。 官方原文・NVIDIA Developer Blog
重點內容
在 GPU 排程與資源管理方面，CUDA 13.5 引入了 locality domains（局部性域，用於定義 GPU 資源的邏輯分區）的增強功能。應用程式現在可以透過新的 cudaDevSmResourceGroupLocalityDomainSupplementalSms 旗標，選擇是否將所有可用的串流多處理器（SM，GPU 內的基本運算單元）包含在每個選定的局部性域中，而非僅使用預設的統一 SM 分割。這允許應用程式在分割局部性域時利用所有裝置 SM，儘管各分割區的大小可能不同。同時，NVIDIA Multi-Process Service (MPS，讓多個應用程式共享單一 GPU 的服務) 升級至 v3，提供加權時間切片（weighted timeslicing）以調整不同工作負載的運算時間分配，以及 SM 分割負載平衡功能，允許工作負載在資源可用時借用超出基礎分割的容量。 官方原文・NVIDIA Developer Blog
CUDA Tile 是 NVIDIA 提供的 GPU 程式設計技術。CUDA 13.5 在 CUDA Tile 中新增了多 GPU 通訊支援，允許核心直接存取透過 NVLink 連接的另一個 GPU 的記憶體，並支援在 NVIDIA NVSwitch 結構上進行跨多 GPU 的歸約與儲存操作。此外，CUDA Tile 與 SIMT（單指令多執行緒，傳統 CUDA 程式設計模型）函式庫的互操作性進入公開預覽階段。這使得使用 cuTile Python 或 CUDA Tile C++ 編寫的核心可以直接呼叫 SIMT 函式庫（如 NVIDIA NVSHMEM、CCCL Coop、Warp 和 MathDx）中的裝置函式，無需再透過全域記憶體傳遞資料。 原文
開發工具方面，CUDA Toolkit 13.5 推出了 NVIDIA Nsight Perf SDK for AI 的公開預覽版，旨在為長時間運行的訓練與推論工作負載提供常態性效能分析，幫助開發者調查難以重現的間歇性效能問題。NVIDIA Nsight Compute 2026.4 新增了專用的時間軸頁面，讓開發者能更容易地檢視 GPU 工作負載隨時間變化的效能數據。此外，CUDA-GDB 現在支援在 CUDA Driver 記錄事件發生時停止執行，並允許在啟用 CUPTI（CUDA Profiling Tools Interface，CUDA 效能分析工具介面）追蹤時產生 GPU 核心傾印（core dump），以便後續除錯。 原文
數學函式庫方面，cuBLAS 在 NVIDIA Vera Rubin 上更新了啟發式演算法與核心調校，提升了 NVFP4 與 MXFP8 矩陣乘法（matmul）的開箱即用效能，特別是在混合專家（MoE）大型語言模型訓練形狀下。cuBLAS 還將 Ozaki-II 方案擴展至 FP64 對稱 rank-k 更新，並在 NVIDIA Blackwell 架構上將原生 FP64 對稱更新速度提升最高達 1.5 倍。cuSPARSE 則提供了更快的 FP32 和 FP64 CSR SpMM（稀疏矩陣-密集矩陣乘法）演算法，速度提升 1.65 倍至 2.27 倍，以及新的 SpSV（稀疏三角系統求解）ALG2 演算法，求解速度比 ALG1 快 2.7 倍。 原文
對使用者的意義
對於開發者而言，CUDA 13.5 提供了更細緻的 GPU 資源控制選項，特別是在多程序共享 GPU 和局部性域分割方面。使用 Vera Rubin 架構的企業現在可以將該硬體用於生產環境。開發者可以利用新的 CUDA Python 核心函式庫 cuda.core 1.2 進行批次記憶體複製和程式化依賴啟動（PDL，允許依賴的核心在前一個核心完成前開始獨立工作），並透過更靈活的 CUDA Graph 更新功能簡化參數變更時的圖重構。此外，Nsight Perf SDK for AI 預覽版為 AI 工作負載的效能調優提供了新的工具。 官方原文・NVIDIA Developer Blog
限制與未定事項
CUDA Tile 與 SIMT 函式庫的互操作性目前僅涵蓋函式庫函式，從 tile 程式碼呼叫自定義的 __device__ 函式計劃在未來版本推出。在 NVIDIA Rubin 架構及後續 GPU 上，不支援 Tesla Compute Cluster (TCC) 驅動程式模式，應用程式應使用支援的 Windows Driver Display Model (WDDM) 或 Microsoft Compute Driver Model (MCDM) 配置。 官方原文・NVIDIA Developer Blog
