地端實測7 個來源10/19 上午12:37
圖:本站依文章資料排版,不是照片
【實測】約 9 萬元的 NUC 加雙外接顯卡盒,用 Strata 跑 125B MoE 生成達 84.3 tok/s
IQ2_XS 量化、64K 上下文、一次服務一人,生成速度約為 GB10 上 llama.cpp 跑約 4-bit 那套配置的三倍(量化、引擎與投機解碼都不同,不是硬體勝負),代價是量化較狠且提示詞處理受 Thunderbolt 限制。
本站程式量測;數據由程式填入,分析由 claude-sonnet-5-5 撰寫並經程式核對,未經人工審閱。每段附來源,門檻檢查通過後自動上線。