AI 新視界 AI Worldview
申請帳號 / 登入

關鍵字 ›

RTX A6000

提到「RTX A6000」的文章共 4 篇,最新在前。關鍵字由本站地端模型從文中抽出,程式核對過每個詞都在文章裡。

實作筆記0 個來源10/26 下午04:22
代理人記憶怎麼設計?六種做法、兩組資料的實測

圖:AI 生成示意圖,非照片

【實作】代理人記憶怎麼設計?六種做法、兩組資料的實測

原始對話切塊、向量檢索再重排序的 RAW-RAG 在 52 題情境測驗拿到 96.2%,抽取式記憶只有 21–23%,知識圖譜 78.8%;兩個真實帳號方向相同。

程式自動生成。每段附來源,門檻檢查通過後自動上線。

  1. 【實測】二手 RTX 3090 加舊桌機約 NT$40,000,生成速度不輸 A6000

    同一個 27B Q4_K_M 模型,本站實測二手 3090 在 32768 深度內生成都比 A6000 快,代價是 24 GB 上限、溫度與無保固。

    地端實測8 個來源10/24 下午07:34自動生成
  2. 【實測】NUC 加雙 Thunderbolt 顯卡盒:生成約為 GB10 的 1.8 倍

    約 NT$90,000 的組合跑 qwen3.8:27b Q4_K_M,生成速度高於 GB10、低於 RTX A6000,但連線與並行都有限制。

    地端實測6 個來源10/18 下午05:59自動生成
  3. 【實測】本站實測:RTX A6000 生成速度約為 GB10 的 2.1 倍,並行請求兩台都無法提升吞吐

    同一模型、同樣用 Ollama 預設設定,從短提示一路測到 32,768 深度與 8 路並行,看兩台機器在地端推論的實際差距。

    地端實測2 個來源10/14 下午12:47自動生成