新模型發佈 · 2026/10/08 於 Hugging Face 發布
GLM-5.3-Flash-FP4-Localnvidia
圖文多模態175B1M 上下文other
NVIDIA 發布 GLM-5.3-Flash-FP4-Local,為 ZAI GLM-5.3-Flash 的量化版本。此模型採混合稀疏與線性注意力架構,總參數量 320B(啟用 18B),支援文字、圖片與影片輸入,上下文長度達 1M。透過量化感知蒸餾技術,模型約需 166 GiB vRAM,專為 NVIDIA Blackwell 架構優化,適合本地部署 AI 代理與 RAG 系統。授權採 NVIDIA Open Model Agreement,可商用。
重點
- 總參數 320B,MoE 架構僅啟用 18B
- 支援 1M 上下文長度與多模態輸入
- NVFP4 量化,約需 166 GiB vRAM
- 需搭配特定 vLLM 容器於 Blackwell 硬體執行
- GPQA Diamond 分數 91.3%,ToolEvalBench 92.4%
模型卡自報分數
由發布方在模型卡公布,本站未複測;對照欄是同一張表裡最強的對照模型| 評測 | 分數 | 模型卡上的對照 |
|---|---|---|
| GPQA Diamond | 91.3% | BF16 92.1 |
| ToolEvalBench | 92.4% | BF16 91.9 |
下載與變體
- nvidia/GLM-5.3-Flash-FP4-Local175.24B 參數 · 123 讚 · 5591 次下載
介紹由 AI 依模型卡整理,資料日期 2026-10-26;發布方說法未經本站驗證。