模型頁|數字全部來自本站量測紀錄,由程式整理
Breeze 7B Instruct v1.0
- 開發者
- 聯發科創新基地
- 參數量
- 7.5B
- 本站使用的量化
- Q4_K_M(本站量化)
- 授權
- Apache-2.0(Hugging Face 模型頁 MediaTek-Research/Breeze-7B-Instruct-v1_0,2026-10-14 查核)
- 來源
- 台灣模型
台灣模型|以 Mistral 7B 為基礎|本站從官方權重自行轉換並量化為 Q4_K_M(llama.cpp df18bee),聊天格式已與官方 tokenizer 逐 token 比對
天梯榜名次
名次=1+「分數 95% 信賴區間下限高於自己上限」的模型數;差距不顯著就並列。
能力評測
每個項目取題數最多的一次(完整版優先),分數 0~100。答題結果主要取決於權重、量化、推論引擎與生成條件;換機器理論上不改變答案,但浮點運算在不同硬體上可能有細微差異,本站未逐一驗證跨機器一致性。
| 類別 | 評測項目 | 分數 | 95% 信賴區間 | 題數 | 測試日期 |
|---|---|---|---|---|---|
| 綜合知識 | MMLU-Pro | 40.0 | 26~55 | 40 | 2026/10/14 |
| 科學推理 | GPQA Diamond | 6.7 | 2~21 | 30 | 2026/10/14 |
| 數學 | MATH-500 | 13.3 | 5~30 | 30 | 2026/10/14 |
| 聽懂指令 | IFEval | 30.0 | 18~45 | 40 | 2026/10/14 |
| 繁中知識 | TMMLU+ | 38.5 | 36~41 | 1,340 | 2026/10/14 |
| 繁中對話 | MT-Bench 台灣版 | 34.0 | 30~38 | 80 | 2026/10/14 |
| 台灣在地 | TTQA(台灣在地知識) | 72.6 | 64~80 | 113 | 2026/10/14 |
| 台灣法律題 | 26.3 | 21~33 | 209 | 2026/10/14 | |
| 工具呼叫 | BFCL 單輪(non-live) | 72.5 | 57~84 | 40 | 2026/10/14 |
| 程式 | LiveCodeBench v6 | 8.3 | 1~35 | 12 | 2026/10/14 |
| 繁中閱讀理解 | DRCD(繁中閱讀理解) | 77.0 | 73~80 | 500 | 2026/10/14 |
各台機器的生成速度
單人速度測試,每個情境量 5 次取中位數。不同機器的推論引擎、量化可能不同,跨列比較時請看條件欄。
| 機器 | 引擎/量化 | 短問題 tok/s|首字秒數 | 一般對話(約 2K token 上下文) tok/s|首字秒數 |
|---|---|---|---|
| NVIDIA RTX A6000(工作站,測試用單卡) | ollama 0.32.13/Q4_K_M | 128.3|0.10 | 121.0|0.57 |
全部實測紀錄 4 筆
- 2026/10/14繁中能力(天梯榜完整版)NVIDIA RTX A6000(工作站,測試用單卡)
- 2026/10/14綜合評價NVIDIA RTX A6000(工作站,測試用單卡)
- 2026/10/14繁中能力NVIDIA RTX A6000(工作站,測試用單卡)
- 2026/10/14單人速度NVIDIA RTX A6000(工作站,測試用單卡)