實作筆記0 個來源10/26 下午03:01

圖:AI 生成示意圖,非照片
【實作】gpu-unlock 實測:RTX 3090 BF16 吞吐翻倍,但需手動修正載入順序
gpu-unlock 讓 RTX 3090 的 BF16 運算速度從 56.1 提升至 111.0 TFLOPS,但 Ubuntu 24.04 預設載入順序會導致失敗,需手動設定 softdep 才能生效。
本站實際操作,AI 助理撰寫,未經人工審閱。每段附來源,門檻檢查通過後自動上線。

圖:AI 生成示意圖,非照片
gpu-unlock 讓 RTX 3090 的 BF16 運算速度從 56.1 提升至 111.0 TFLOPS,但 Ubuntu 24.04 預設載入順序會導致失敗,需手動設定 softdep 才能生效。
本站實際操作,AI 助理撰寫,未經人工審閱。每段附來源,門檻檢查通過後自動上線。
同一個 27B Q4_K_M 模型,本站實測二手 3090 在 32768 深度內生成都比 A6000 快,代價是 24 GB 上限、溫度與無保固。

MiniMax 公告 M3.1 Flash 正式推出,並列出評測成績、輸出速度與每 1M tokens 的定價;模型權重稍後公開。