Ai2 研究：LLM 判斷研究構想原創性極不穩定，提示詞微調可致準確率暴跌

背景

隨著 AI 輔助科學發現系統（如 Ai2 的 DataVoyager、AutoDiscovery 等）發展，自動生成研究構想已成為趨勢。為了區分真正的新穎構想與僅是重組現有工作的內容，研究團隊常將「原創性評審（Novelty Judge）」的任務交給大型語言模型（LLM）。然而，這些評審模型通常缺乏標準化的建置方式，且往往僅在人類撰寫的論文上進行驗證，而非針對其實際要評估的 AI 生成構想進行測試。 官方原文・Hugging Face Blog

發生什麼事

Ai2 於 10 月 27 日發布研究《Old Ideas, Novel Problems》，並公開了用於測試原創性評審的基準（benchmark）、資料與程式碼。該研究系統性地評估了六種大型語言模型作為原創性評審的可靠性，包括 GPT-5.1、GPT-5.2、GPT-5.4、Claude Sonnet 4.5、Claude Opus 4.5 和 Claude Opus 4.6。研究發現，評審結果對評估設定的微小變動極為敏感，顯示目前依賴 LLM 判斷研究構想原創性的做法存在重大缺陷。 官方原文・Hugging Face Blog

重點內容

研究團隊建立了兩個評估情境。第一個情境「Human-Only」包含 154 個高原創性的人類構想（來自 ICLR 2026 頂尖 10% 且評審明確肯定原創性的論文）與 145 個低原創性構想（來自底部 10% 且評審質疑原創性的論文）。第二個情境「Human+Generated」則將上述人類構想與由簡單 LLM 生成器產出的 154 個構想配對，假設生成構想的原創性較低。 官方原文・Hugging Face Blog

實驗顯示，提示詞（prompt）的微小變化會導致判斷結果劇烈波動。以 GPT-5.4 為例，在評估「Human+Generated」配對時，若提示詞告知評審「其中一個構想被評審認為具原創性」，準確率為 93.5%；若僅簡單詢問「哪個構想具原創性」，準確率驟降至 40.9%，低於隨機猜測水準，且超過一半的配對判斷結果發生改變。相比之下，在評估人類構想時，同樣的提示詞變動僅影響約七個百分點的準確率，顯示模型對 AI 生成構想的判斷特別脆弱。 原文

增加搜尋能力或推理預算並未顯著提升判斷品質。使用 GPT-5.6 Sol 搭配高推理預算與即時 arXiv 搜尋的評審，其 macro-F1 分數（衡量識別新穎與非新穎構想能力的指標）為 0.78，落後於 Claude Opus 4.6 的 0.89，且每次決策成本約為前者的 10 倍。此外，兩個專為原創性評估設計的系統表現也不如簡單提示的基線模型：Idea Novelty Checker 得分 0.642（成本 $30.66），Sakana AI 的 AI Scientist 得分 0.772（成本 $82.05），均低於使用低推理預算與多數投票法的 Claude Opus 4.6 基線（得分 0.854，成本 $2.59）。 原文

對使用者的意義

對於使用 AI 進行科學發現的研究人員而言，這項研究警示了自動生成構想後的原創性驗證風險。由於不同模型對提示詞的反應不一致，且專用評審工具可能既昂貴又不準確，研究者不能盲目信任單一 LLM 評審結果。Ai2 提供的基準與自動化流程可讓研究者測試自己使用的評審設定，並建議未來應針對 AI 生成構想進行更嚴謹的敏感性分析，而非僅依賴人類論文驗證。 官方原文・Hugging Face Blog

限制與未定事項

研究指出，目前缺乏標準化的原創性評審建置方法，且現有評審模型在 AI 生成構想上的表現極不穩定。未來工作需進一步測試評審模型在實際應用情境中的表現，並開發能隨科學文獻增長而演進的基準。此外，研究僅針對特定模型與提示詞變體進行測試，不同模型間可能無法直接遷移最佳提示詞設定。 官方原文・Hugging Face Blog