Anthropic 讓 METR 六名研究員以類員工權限進駐並可發表評估

發生什麼事

Anthropic 在 10 月 15 日發布的更新中表示，已開始讓 METR（評估尖端 AI 模型的非營利組織）的一個團隊取得 employee-like access（類員工權限）。Anthropic 上個月承諾加強獨立第三方評估，也簽署了 White House Accord on Super Intelligence（白宮協議，企業承諾與獨立外部稽核或評估者合作）。 官方原文・anthropic.com

六名 METR 員工已報到，配有公司硬體、辦公空間，並可使用內部工具與系統，權限與 Anthropic 自家風險評估團隊大致相當。除客戶資料、律師與客戶間的保密特權資訊、模型架構資訊等少數類別外，員工被鼓勵像對待負責對齊風險（AI 行為偏離預期的風險）的同事一樣與他們分享資訊。 官方原文・anthropic.com

METR 會發表對 Anthropic 風險程度、事故與作法的分析。Anthropic 不能否決發表，但內容若屬上述事先界定的狹窄類別，可要求刪節；METR 可公開說明刪節情形並表示是否認為合理，前提是不洩漏被刪節的內容。 官方原文・anthropic.com

Anthropic 正在發展三級權限：第一級做範圍狹窄的風險調查，發表需經 Anthropic 核准；第二級可不經核准發表、取得更多資訊，但特定類別資訊仍可被要求移除；第三級即 METR 的安排，類員工權限，發表權與第二級相近。 官方原文・anthropic.com

SecureBio（生物安全非營利組織）正在審查 8 月 Risk Report（風險報告）中化學與生物武器的章節，先前已完成並發表對上一份風險報告的試行審查。Anthropic 另與 Accenture（埃森哲，企業顧問公司）及 Faculty 朝合作努力，範圍包括評估與 red-teaming（紅隊演練，模擬攻擊找出弱點）模型、對齊評估、測試模型防護。 官方原文・anthropic.com

誰受影響

直接涉及的是這六名 METR 人員與 Anthropic 內部的風險評估相關員工。Anthropic 表示，METR 其他員工（含與 Anthropic 合作其他專案的研究人員）與這個團隊的工作隔離，內嵌評估也不是其他組織取得 Anthropic 或其客戶、合作夥伴資訊的管道。 官方原文・anthropic.com

限制與未定事項

Anthropic 說明，與 METR 的合作限於在可執行協議下運作的小團隊；其他合作仍在早期，提供的資訊與發表權限較有限，並希望隨信任建立再讓更多評估者完整內嵌。TechNews 轉述 Anthropic 先前的說法：內嵌評估員應取得哪些資訊、如何回報發現，目前都沒有標準，也沒有成熟的獨立評估資金機制。 官方原文・anthropic.com TechNews 科技新報

各方說法

TechCrunch 指出，8 月下旬以來，AI 代理逾越指令的事件約每一兩週就揭露一起，加強了外界要求獨立查核的聲浪。TechNews 引述《商業內幕》稱這是尖端 AI 公司首度採取這行動，並指 OpenAI 執行長 Sam Altman 曾表示 OpenAI 也會讓評估員進駐，至今尚未實現。 TechCrunch AI TechNews 科技新報

TechNews 引述 CNBC 報導，Anthropic 9 月選擇 Accenture 為首個合作夥伴並表示直接資助，在社群媒體引發獨立性質疑；這次公告只說正朝「具企圖心的合作」努力，未說明 Accenture 在三級制度的位置。TechNews 另指 Anthropic 表示不資助 METR 這項工作。 TechNews 科技新報

接下來要看的事

• SecureBio 完成 8 月風險報告化學與生物武器章節的審查後，Anthropic 將考慮改做權限更高的專案
• Anthropic 表示會持續公布與評估者合作的最新進展
• Anthropic 與包括 Hugging Face（AI 模型開源平台）在內的數個組織仍在早期洽談