實作筆記0 個來源10/26 下午04:22

圖:AI 生成示意圖,非照片
【實作】代理人記憶怎麼設計?六種做法、兩組資料的實測
原始對話切塊、向量檢索再重排序的 RAW-RAG 在 52 題情境測驗拿到 96.2%,抽取式記憶只有 21–23%,知識圖譜 78.8%;兩個真實帳號方向相同。
程式自動生成。每段附來源,門檻檢查通過後自動上線。

圖:AI 生成示意圖,非照片
原始對話切塊、向量檢索再重排序的 RAW-RAG 在 52 題情境測驗拿到 96.2%,抽取式記憶只有 21–23%,知識圖譜 78.8%;兩個真實帳號方向相同。
程式自動生成。每段附來源,門檻檢查通過後自動上線。
同一個 27B Q4_K_M 模型,本站實測二手 3090 在 32768 深度內生成都比 A6000 快,代價是 24 GB 上限、溫度與無保固。
約 NT$90,000 的組合跑 qwen3.8:27b Q4_K_M,生成速度高於 GB10、低於 RTX A6000,但連線與並行都有限制。
同一模型、同樣用 Ollama 預設設定,從短提示一路測到 32,768 深度與 8 路並行,看兩台機器在地端推論的實際差距。