模型頁|數字全部來自本站量測紀錄,由程式整理
Breeze2 8B Instruct
- 開發者
- 聯發科創新基地
- 參數量
- 8.4B(含視覺編碼器;本站只測文字)
- 本站使用的量化
- Q4_K_M(本站量化)
- 授權
- Llama 3.2 Community License(Hugging Face 模型頁 MediaTek-Research/Llama-Breeze2-8B-Instruct,2026-10-14 查核)
- 來源
- 台灣模型
台灣模型|以 Llama 3.1 8B 為基礎|本站從官方權重自行轉換並量化為 Q4_K_M(llama.cpp df18bee),聊天格式已與官方 tokenizer 逐 token 比對
天梯榜名次
名次=1+「分數 95% 信賴區間下限高於自己上限」的模型數;差距不顯著就並列。
能力評測
每個項目取題數最多的一次(完整版優先),分數 0~100。答題結果主要取決於權重、量化、推論引擎與生成條件;換機器理論上不改變答案,但浮點運算在不同硬體上可能有細微差異,本站未逐一驗證跨機器一致性。
| 類別 | 評測項目 | 分數 | 95% 信賴區間 | 題數 | 測試日期 |
|---|---|---|---|---|---|
| 綜合知識 | MMLU-Pro | 47.5 | 33~63 | 40 | 2026/10/14 |
| 科學推理 | GPQA Diamond | 30.0 | 17~48 | 30 | 2026/10/14 |
| 數學 | MATH-500 | 43.3 | 27~61 | 30 | 2026/10/14 |
| 聽懂指令 | IFEval | 55.0 | 40~69 | 40 | 2026/10/14 |
| 繁中知識 | TMMLU+ | 46.8 | 44~50 | 1,340 | 2026/10/14 |
| 繁中對話 | MT-Bench 台灣版 | 38.1 | 34~43 | 80 | 2026/10/14 |
| 台灣在地 | TTQA(台灣在地知識) | 78.8 | 70~85 | 113 | 2026/10/14 |
| 台灣法律題 | 37.8 | 32~45 | 209 | 2026/10/14 | |
| 工具呼叫 | BFCL 單輪(non-live) | 35.0 | 22~50 | 40 | 2026/10/14 |
| 程式 | LiveCodeBench v6 | 16.7 | 5~45 | 12 | 2026/10/14 |
| 繁中閱讀理解 | DRCD(繁中閱讀理解) | 76.8 | 73~80 | 500 | 2026/10/14 |
各台機器的生成速度
單人速度測試,每個情境量 5 次取中位數。不同機器的推論引擎、量化可能不同,跨列比較時請看條件欄。
| 機器 | 引擎/量化 | 短問題 tok/s|首字秒數 | 一般對話(約 2K token 上下文) tok/s|首字秒數 |
|---|---|---|---|
| NVIDIA RTX A6000(工作站,測試用單卡) | ollama 0.32.13/Q4_K_M | 120.3|0.27 | 114.1|0.78 |
全部實測紀錄 4 筆
- 2026/10/14繁中能力(天梯榜完整版)NVIDIA RTX A6000(工作站,測試用單卡)
- 2026/10/14綜合評價NVIDIA RTX A6000(工作站,測試用單卡)
- 2026/10/14繁中能力NVIDIA RTX A6000(工作站,測試用單卡)
- 2026/10/14單人速度NVIDIA RTX A6000(工作站,測試用單卡)