NUC 加雙 Thunderbolt 顯卡盒：生成約為 GB10 的 1.8 倍

27B 等級的模型權重約 17 GB，單張 16 GB 的 RTX 5060 Ti 放不下，預算有限的人常問兩張外接卡能不能撐起來。本篇用 qwen3.8:27b Q4_K_M，在 0 到 32768 的上下文深度與 1 到 8 的並行數下，比較 NUC 加兩個 Thunderbolt 外接顯示卡盒（約 NT$90,000）、ASUS Ascent GX10（GB10）與 RTX A6000。每個測試點重複 5 次，每次生成 128 token，num_ctx 為 40,960，以下數字皆為本站實測。

重點

• 本站實測雙卡組合生成速度為 GB10 的 1.76 到 1.83 倍，為 RTX A6000 的 0.82 到 0.86 倍。
• 2K 以上深度的提示詞處理，雙卡組合與 GB10 相近（1.03 到 1.09 倍），低於 RTX A6000（0.69 到 0.74 倍）。
• Ollama 對 qwen3.8 不支援並行請求，三台的合計吞吐都不會隨並行數增加，並行 8 時雙卡組合首字延遲中位數為 27.6 秒。
• 必須把連線封頂在 PCIe 3.0 並關閉動態省電；封頂後單卡與雙卡各 10 分鐘壓力測試都沒有錯誤。

測試平台

原廠規格出處：本組合；GB10；RTX A6000。

價格

測試方法

• 模型：qwen3.8:27b（27.3B 參數，Q4_K_M 量化），與本站先前 GB10、RTX A6000 測試同一份權重。
• 推論引擎：本組合 Ollama 0.40.6；對照組是先前測試時的 Ollama 版本（見硬體表）。上下文視窗（num_ctx）固定 40960，關閉思考模式，temperature 0、seed 42。
• 生成速度與上下文深度：先放入指定長度的上下文（0、2K、8K、16K、32K token），再要求生成 128 token。提示詞處理與生成分開計時，每個深度 5 次取中位數，載入模型的第一次呼叫不計。
• 避免快取灌水：每個請求開頭加一行不重複的編號，讓 Ollama 無法重用前一次的結果。
• 多人同時使用：同時送出 1、2、4、8 個請求（每個輸入約 2K token、生成 128 token），量合計吞吐、單請求生成速度與首字延遲。
• 雙卡與單卡：雙卡時 Ollama 自動把層分到兩張卡；單卡對照用 CUDA_VISIBLE_DEVICES 只露出一張，放不下的層由 CPU 計算。
• Thunderbolt 設定：兩張卡的 PCIe 連線封頂在 3.0（8 GT/s），驅動動態省電關閉；原因見文末觀察。

結果

生成速度：上下文越長越慢多少

本站實測中，雙卡組合在深度 0 的生成速度為 41.2 tok/s，深度 2048 為 32.4 tok/s，到深度 32768 為 32.9 tok/s。相對 GB10，各深度的生成速度倍數落在 1.76 到 1.83 倍之間，深度 0 為 1.83 倍；相對 RTX A6000 則為 0.82 到 0.86 倍。從深度 0 到 32768，雙卡組合的生成速度下降 20%，GB10 為 18%，RTX A6000 為 22%，三者衰減幅度接近，中間深度的數字有些起伏，屬於測量波動。

讀入長文件的速度

提示詞處理以 2K 以上深度比較。雙卡組合在深度 2048 為 781 tok/s，深度 8192 為 861 tok/s，深度 32768 為 789 tok/s，相對 GB10 為 1.03 到 1.09 倍，大致持平略高。相對 RTX A6000，同樣深度只有 0.69 到 0.74 倍；A6000 在深度 8192 為 1,170 tok/s，這是兩條 Thunderbolt 連線與卡上計算的差距。深度 0 只有 58 個 token，樣本太小，這裡不用來比較。

首字延遲：按下送出到看到第一個字

首字延遲主要隨上下文長度成長。雙卡組合在深度 2048 為 3.3 秒，深度 8192 為 10.6 秒，深度 16384 為 21.1 秒，深度 32768 為 44.8 秒；GB10 在深度 32768 為 45.7 秒，兩者幾乎一樣。RTX A6000 在同深度為 32.2 秒，是三者中等待最短的。長文件摘要這類工作，輸入越長就要等越久，三台都一樣。

多人同時使用

Ollama 對 qwen3.8 這個架構目前不支援並行請求，伺服器紀錄寫明 model architecture does not currently support parallel requests，同時送多個請求仍是一次處理一個。因此雙卡組合的合計吞吐從並行 1 的 18.9 tok/s 到並行 8 的 18.1 tok/s 幾乎不變，首字延遲中位數則從 3.1 秒拉長到 27.6 秒。GB10 與 RTX A6000 也是同樣的模式，多人同時使用時只是排隊，這不是這個組合特有的缺點。

第二張卡的價值

權重約 17 GB，單卡 16 GB 放不下，Ollama 會把放不下的層交給 CPU 計算，所以單卡對照其實是「GPU 加 CPU」的混合運行。本站實測單卡在深度 0 的生成速度為 2.5 tok/s，雙卡為 41.2 tok/s，倍數 16.29；深度 8192 的生成倍數為 22.92，提示詞處理倍數為 6.09。單卡在深度 8192 的首字延遲為 59.3 秒，雙卡為 10.6 秒。第二張卡的價值不是兩倍算力，而是讓整個模型都留在顯示卡上，把 CPU 這個瓶頸拿掉。

為什麼差這麼多

生成階段每個 token 都要讀過整份權重，所以記憶體頻寬是主要的限制。原廠規格的記憶體頻寬，GB10 為 273 GB/s，本組合為 448 GB/s，RTX A6000 為 768 GB/s，與本站實測的生成速度排序一致。GB10 是整合式 GPU，權重與 KV 快取放在統一記憶體；RTX A6000 的權重放在卡上的 GDDR6；雙卡組合則是層分在兩張卡上，每個 token 的計算要經過兩條 Thunderbolt 連線各一次。Thunderbolt 4 給 PCIe 的頻寬約 32 Gb/s，相當於 PCIe 3.0 x4，所以雙卡組合的實測沒有達到頻寬規格所對應的水準，提示詞處理落後 A6000 的幅度比生成更明顯。

價格與效能

價格依價格表：NUC 約 NT$40,000（站長購入價，2026 年 10 月），兩個外接盒各 NT$24,990（技嘉建議售價，站長購入價相同），合計約 NT$90,000。ASUS Ascent GX10 建議售價為 NT$97,900，2026 年 10 月通路標價為 NT$175,900；GX10 建議售價是本組合購入價的 1.09 倍，通路標價是 1.95 倍。在這樣的價格下，本組合的生成速度約為 GB10 的 1.8 倍，提示詞處理相近，但 GB10 有統一記憶體的容量優勢。RTX A6000 上市價為 US$4,649（2020 年，僅顯示卡本身、不含工作站主機），速度上仍高於本組合，不過兩者的價格不在同一基準，只能當作定位參考。

穩定性與散熱

這次的資料沒有溫度與時脈的遙測，所以無法說明長時間負載下的溫度或降頻情形，這部分不做推論。能確認的是穩定性：本站曾遇過連線在閒置 2.5 GT/s 與 PCIe 4.0 之間切換時，顯示卡掉出匯流排（Xid 79）。後來把連線封頂在 PCIe 3.0（8 GT/s）並關閉驅動的動態省電，單卡與雙卡各 10 分鐘壓力測試都沒有錯誤。兩個外接盒各自有 330 W 變壓器，不吃 NUC 的電。

結論

這個組合做得到的事：在約 NT$90,000 的預算內，讓 27B Q4_K_M 以 32.4 到 34.8 tok/s 的生成速度在 2K 到 32K 上下文運作，生成速度是 GB10 的 1.76 到 1.83 倍，提示詞處理與 GB10 相近。做不到的事：多人並行沒有加速（Ollama 對此架構限制），長上下文的首字延遲在深度 32768 仍要 44.8 秒，提示詞處理也追不上 RTX A6000。適合一人或少數人使用、重視生成速度的工程師、研究生與小型團隊；設定上必須把連線封頂在 PCIe 3.0 並關閉動態省電，否則可能發生顯示卡掉出匯流排。

附錄：完整數據

觀察與設定備註

• Ollama 對 qwen3.8 這個架構目前不支援並行請求（伺服器紀錄寫明 model architecture does not currently support parallel requests），同時送多個請求時仍一次處理一個，合計吞吐不會隨人數增加。三台都一樣。
• qwen3.8:27b Q4_K_M 權重約 17 GB，一張 16 GB 的 RTX 5060 Ti 放不下；Ollama 會把層分到兩張卡（各約 10 GB，含 KV 快取），每個 token 的計算要經過兩條 Thunderbolt 連線各一次。單卡對照時放不下的層由 CPU 計算。
• Thunderbolt 4 給 PCIe 的頻寬約 32 Gb/s，相當於 PCIe 3.0 x4；本站把連線封頂在 PCIe 3.0（8 GT/s）並關閉驅動的動態省電，是因為先前連線在閒置 2.5 GT/s 與 PCIe 4.0 之間切換時曾發生顯示卡掉出匯流排（Xid 79）。封頂後單卡與雙卡各 10 分鐘壓力測試都沒有錯誤。
• RTX 5060 Ti 外接盒各自有 330 W 變壓器，不吃 NUC 的電；GB10 是整合式 GPU，權重與 KV 快取放在統一記憶體；RTX A6000 權重放在卡上的 GDDR6。

測試與撰寫：本站程式（量測 aiwv.bench2，數據表與圖表由資料庫填值；分析段落由 Claude 依實測數據撰寫並經程式核對數字）。未經人工審閱，發現錯誤請回報。