新模型發佈 · 2026/10/21 於 Hugging Face 發布
Ling-3.0-tiny-UBTreeinclusionAI
文字180M4K 上下文mit

inclusionAI 發布 Ling-3.0-tiny-UBTree,這是一個專為 Ling-3.0-tiny 設計的推論加速草稿模型,非獨立生成模型。其架構結合五層 DFlash 骨幹與學習型 bigram 選擇器,透過平行樹狀草擬機制提升驗證效率。模型參數量約 183M,權重格式為 BF16,採用 MIT 授權。此模型需搭配目標模型使用,旨在透過 speculative decoding 技術,在保持輸出品質前提下顯著提升推論速度。
重點
- 專為 Ling-3.0-tiny 設計的草稿模型,非獨立生成
- 結合五層 DFlash 骨幹與 bigram 選擇器
- 參數量 183M,權重格式 BF16
- MIT 授權,可自由商用與修改
- 搭配 SGLang 使用,支援樹狀驗證
模型卡自報分數
由發布方在模型卡公布,本站未複測;對照欄是同一張表裡最強的對照模型| 評測 | 分數 | 模型卡上的對照 |
|---|---|---|
| GSM8K | 3.055 | DFlash 2.665 |
| MATH-500 | 3.518 | DFlash 2.643 |
| AIME 2025 | 3.152 | DFlash 2.261 |
| HumanEval | 3.411 | DFlash 2.770 |
| MBPP | 3.062 | DFlash 2.473 |
| LiveCodeBench | 2.794 | DFlash 1.948 |
下載與變體
- inclusionAI/Ling-3.0-tiny-UBTree0.18B 參數 · 11 讚 · 398 次下載
介紹由 AI 依模型卡整理,資料日期 2026-10-26;發布方說法未經本站驗證。