IIT Kanpur 提出 FSPO 框架，提升策略優化準確率並降低記憶體需求
Indian Institute of Technology, Kanpur 研究團隊提出 Function-Space Policy Optimization (FSPO)，透過函數空間時間自蒸餾技術，在 5 小時訓練預算下平均準確率較最佳基線提升約 4 個百分點，同時將峰值記憶體從約 70 GB 降至 56 GB。
本文重點
- IIT Kanpur 提出 FSPO 框架，結合特權適應與函數空間時間整合。
- 5 小時訓練下準確率較基線提升約 4 個百分點，峰值記憶體降至 56 GB。
- 論文頁未列出公開程式碼，Hugging Face 上亦無公開模型或資料集。
- 本站上線
- 2026/10/28 上午12:21
- 首次報導
- 2026/10/14 上午08:00
- 最早來源發布
- 2026/10/14 上午08:00
研究在做什麼
Indian Institute of Technology, Kanpur 的研究團隊針對語言模型推理中的策略優化問題提出新方法。現行的 RLVR（以可自動驗證對錯的答案當獎勵的強化學習）雖然能改善推理能力，但其標量結果（scalar outcomes）對回應軌跡的監督訊號過於粗糙。另一種常見方法自蒸餾（Self-distillation）雖能提供較密集的 token 級指導，但因教師模型會隨學生模型演化，導致目標不穩定，需額外正則化處理。 Hugging Face 每日精選論文
方法
研究提出 Function-Space Policy Optimization (FSPO)，這是一種單策略框架，結合了當前特權適應（privileged adaptation）與函數空間時間整合（function-space temporal consolidation）。FSPO 儲存稀疏的歷史下一個 token 分佈作為固定的時間目標，提供時間分離性，無需維持持續存在的教師模型。此外，該方法引入特權分歧修正以抑制局部高估動作、可靠性自適應錨定以在自生成證據反覆失敗時強化參考監督，以及品質與覆蓋率感知時間記憶以保留已驗證行為並改善特權示範。 Hugging Face 每日精選論文
結果
在推理與工具使用基準測試中，FSPO 在 5 小時訓練預算下達到最高平均準確率，平均較最佳基線提升約 4 個百分點。在 Olmo3-7B-Instruct 模型上，峰值記憶體從約 70 GB 降至 56 GB。 Hugging Face 每日精選論文
程式碼與資料
本站 2026-10-28 整理（資料來自 Hugging Face 論文頁與 GitHub，由程式查詢，不經模型撰寫）：
- 研究機構（Hugging Face 標示）：Indian Institute of Technology, Kanpur
- 程式碼：論文頁沒有列出公開的程式碼
- 模型與資料集：Hugging Face 上沒有連結到這篇論文的公開模型或資料集
來源：佐證 1 筆
媒體轉述新聞媒體的報導
- Hugging Face 每日精選論文 · Function-Space Temporal Self-Distillation for Policy Optimization10/14 上午08:00
這篇對你有用嗎？
留言 0
- 還沒有留言，第一則就是你的。
留言不用登入；名字選填，沒填就顯示「匿名會員」。含連結或疑似廣告的留言會先經編輯確認；檢舉達 3 次的留言會自動隱藏。隱私政策
發現錯誤？
回報會進入待處理清單；核實後更正，並在文中註記更正紀錄。