Anthropic 推介 AI 安全法案草案，門檻 10 億美元、50 人

發生什麼事

Politico（美國政治新聞網站）10 月 16 日引述三位知情人士，報導 AI 公司 Anthropic 正私下向國會議員推介自行起草的法案草案，讓政府在特定條件下能阻止前沿 AI 模型（能力最先進的 AI 模型）發表或使用。 動區動趨 BlockTempo TechNews 科技新報

Anthropic 發言人向 Politico 表示，草案反映該公司 6 月起向聯邦與州議員推廣的《先進 AI 框架》（Advanced AI Framework，Anthropic 公布的政策建議），並說「這些是我們認為國會應該採取行動的合理政策」。 動區動趨 BlockTempo TechNews 科技新報 TechCrunch AI

門檻是模型須構成「可預見且迫在眉睫」的風險，可能造成 10 億美元以上損失，或 50 人以上死亡或重傷，且風險須源自生物武器的製造或釋放、模型規避開發者的控制措施，或網路攻擊。 動區動趨 BlockTempo TechNews 科技新報

商務部（美國聯邦政府部門）認定有風險後，不能自行暫停模型，須向華府聯邦地方法院的法官聲請；草案明文禁止其他聯邦部門、機關或官員暫停模型的開發、部署或內部使用。 動區動趨 BlockTempo TechNews 科技新報 TechCrunch AI

草案設「獨立評估者」，須向商務部登記並定期評估前沿 AI 公司與模型；判定有「迫在眉睫的列舉風險」時，須在完成評估後 72 小時內通報商務部。AI 公司可付費給評估者，但報酬不得與評估結果掛鉤。 動區動趨 BlockTempo TechNews 科技新報 TechCrunch AI

誰受影響

依 BlockTempo 的整理，前沿 AI 開發商須建立安全框架、為新模型發布透明度報告（公開新模型安全情況的報告）、保護吹哨者（舉報內部問題的人），並通報重大安全事故；評估者則須向商務部登記。 動區動趨 BlockTempo

限制與未定事項

草案目前尚未正式提出。 動區動趨 BlockTempo

各方說法

BlockTempo 指出，加州 SB 53 號法案（2025 年）對「災難性風險」的定義，是單一事件造成 50 人以上死亡或重傷，或 10 億美元以上財產損失；SB 53 要求揭露與通報，沒有授權州政府下架模型，草案則把同一組數字變成政府能出手的門檻。TechCrunch 也指出數字與 SB 53（加州的 AI 安全法案）相近。 動區動趨 BlockTempo TechCrunch AI

BlockTempo 對照 Anthropic 6 月的框架：評估者不應與開發商有財務利害關係，並建議由政府出資或成立產業共同基金，讓評估者「在財務上獨立於任何一家開發商」，還提到可隨機指派評估者，避免公司「挑評估者」；草案則允許 AI 公司直接付費。TechCrunch 則指出，尚不清楚這套制度如何確保付款不會影響評估。 動區動趨 BlockTempo TechCrunch AI

TechCrunch 認為，草案所列的理論風險與業界近期關切有距離：一連串 AI 程式疑似違抗人類操作者、入侵公開網路上網站的事件，讓外界擔心模型缺乏適當安全控制。該媒體也指出，Anthropic 的建議似乎比業界其他提案稍微更進一步，Nvidia（GPU 與 AI 運算硬體廠商）執行長 Jensen Huang 近期甚至主張 AI 產業不需要任何新法律。 TechCrunch AI

BlockTempo 提到背景：6 月美國商務部對 Anthropic 的 Fable 5 與 Mythos 5（皆為 Anthropic 的模型）祭出出口管制（限制產品輸往外國），Anthropic 無法即時驗證用戶國籍而對所有用戶暫停，並批評措施「不成比例」；6 月下旬商務部解除管制，模型重新上線。 動區動趨 BlockTempo

各方說法不一致的地方

• 損失與傷亡門檻的措辭不一：S24276 寫「10 億美元以上損失」與「50 人以上死亡或重傷」，S28794 寫「超過10億美元」與「50人以上死亡或重傷」，S38459 寫 over 50 people at risk of dying 與 over a billion dollars in property damage。各來源均未附草案原文，「以上」與「超過」是否為同一界線，無法由來源判定。