模型頁|數字全部來自本站量測紀錄,由程式整理
Llama-3-Taiwan 8B Instruct
- 開發者
- Taiwan LLM(林彥廷)
- 參數量
- 8.0B
- 本站使用的量化
- Q4_K_M(本站量化)
- 授權
- Llama 3 Community License(Hugging Face 模型頁 yentinglin/Llama-3-Taiwan-8B-Instruct,2026-10-14 查核)
- 來源
- 台灣模型
台灣模型|Taiwan LLM 系列|本站從官方權重自行轉換並量化為 Q4_K_M(llama.cpp df18bee),聊天格式已與官方 tokenizer 逐 token 比對
天梯榜名次
名次=1+「分數 95% 信賴區間下限高於自己上限」的模型數;差距不顯著就並列。
能力評測
每個項目取題數最多的一次(完整版優先),分數 0~100。答題結果主要取決於權重、量化、推論引擎與生成條件;換機器理論上不改變答案,但浮點運算在不同硬體上可能有細微差異,本站未逐一驗證跨機器一致性。
| 類別 | 評測項目 | 分數 | 95% 信賴區間 | 題數 | 測試日期 |
|---|---|---|---|---|---|
| 綜合知識 | MMLU-Pro | 37.5 | 24~53 | 40 | 2026/10/14 |
| 科學推理 | GPQA Diamond | 20.0 | 10~37 | 30 | 2026/10/14 |
| 數學 | MATH-500 | 43.3 | 27~61 | 30 | 2026/10/14 |
| 聽懂指令 | IFEval | 40.0 | 26~55 | 40 | 2026/10/14 |
| 繁中知識 | TMMLU+ | 56.1 | 53~59 | 1,340 | 2026/10/14 |
| 繁中對話 | MT-Bench 台灣版 | 36.8 | 32~41 | 80 | 2026/10/14 |
| 台灣在地 | TTQA(台灣在地知識) | 84.1 | 76~90 | 113 | 2026/10/14 |
| 台灣法律題 | 42.6 | 36~49 | 209 | 2026/10/14 | |
| 工具呼叫 | BFCL 單輪(non-live) | 32.5 | 20~48 | 40 | 2026/10/14 |
| 程式 | LiveCodeBench v6 | 8.3 | 1~35 | 12 | 2026/10/14 |
| 繁中閱讀理解 | DRCD(繁中閱讀理解) | 86.0 | 83~89 | 500 | 2026/10/14 |
各台機器的生成速度
單人速度測試,每個情境量 5 次取中位數。不同機器的推論引擎、量化可能不同,跨列比較時請看條件欄。
| 機器 | 引擎/量化 | 短問題 tok/s|首字秒數 | 一般對話(約 2K token 上下文) tok/s|首字秒數 |
|---|---|---|---|
| NVIDIA RTX A6000(工作站,測試用單卡) | ollama 0.32.13/Q4_K_M | 120.4|0.27 | 114.1|0.77 |
全部實測紀錄 4 筆
- 2026/10/14繁中能力(天梯榜完整版)NVIDIA GeForce RTX 5060 Ti ×2(工作站)
- 2026/10/14綜合評價NVIDIA GeForce RTX 5060 Ti ×2(工作站)
- 2026/10/14繁中能力NVIDIA RTX A6000(工作站,測試用單卡)
- 2026/10/14單人速度NVIDIA RTX A6000(工作站,測試用單卡)