地端實測8 個來源10/24 下午07:34
圖:本站依文章資料排版,不是照片
【實測】二手 RTX 3090 加舊桌機約 NT$40,000,生成速度不輸 A6000
同一個 27B Q4_K_M 模型,本站實測二手 3090 在 32768 深度內生成都比 A6000 快,代價是 24 GB 上限、溫度與無保固。
本站程式量測;數據由程式填入,分析由 claude-sonnet-5-5 撰寫並經程式核對,未經人工審閱。每段附來源,門檻檢查通過後自動上線。
圖:本站依文章資料排版,不是照片
同一個 27B Q4_K_M 模型,本站實測二手 3090 在 32768 深度內生成都比 A6000 快,代價是 24 GB 上限、溫度與無保固。
本站程式量測;數據由程式填入,分析由 claude-sonnet-5-5 撰寫並經程式核對,未經人工審閱。每段附來源,門檻檢查通過後自動上線。
IQ2_XS 量化、64K 上下文、一次服務一人,生成速度約為 GB10 上 llama.cpp 跑約 4-bit 那套配置的三倍(量化、引擎與投機解碼都不同,不是硬體勝負),代價是量化較狠且提示詞處理受 Thunderbolt 限制。
約 NT$90,000 的組合跑 qwen3.8:27b Q4_K_M,生成速度高於 GB10、低於 RTX A6000,但連線與並行都有限制。