實測查詢
本站實驗室測過的地端模型都在這裡:能力評測看分數,速度看各台機器上的實測。條件不同的結果不放在一起排名, 點模型名稱看它的完整成績。目前共 13 個模型有實測結果。
速度只在同一台機器上並排比較,先選機器:
同一台迷你電腦上的 Intel NPU(AI Boost),與 CPU、內顯共用記憶體;推論引擎 OpenVINO GenAI;提示長度上限 4K token,所以不提供長文件測試;一次只處理一個請求
這台機器上沒有符合條件的速度測試結果。
本站實驗室測過的地端模型都在這裡:能力評測看分數,速度看各台機器上的實測。條件不同的結果不放在一起排名, 點模型名稱看它的完整成績。目前共 13 個模型有實測結果。
速度只在同一台機器上並排比較,先選機器:
同一台迷你電腦上的 Intel NPU(AI Boost),與 CPU、內顯共用記憶體;推論引擎 OpenVINO GenAI;提示長度上限 4K token,所以不提供長文件測試;一次只處理一個請求
這台機器上沒有符合條件的速度測試結果。