Google 威脅情報副總裁 Sandra Joyce 談 AI 帶來的三項資安轉變與防禦做法

背景

Cloud CISO Perspectives 是 Google Cloud 資訊安全長辦公室的電子報，每月兩期，內容同步刊登在 Google Cloud 部落格。CISO（資訊安全長，企業負責資安策略的主管）是電子報反覆對話的對象。這期由 Google Threat Intelligence 副總裁 Sandra Joyce 撰寫。她指出，Google 同時是前沿 AI（人工智慧）實驗室和資安公司，因此能看到 AI 如何被打造，也能看到 AI 在真實環境中如何遭到攻擊。文中也提到，Google Threat Intelligence Group（GTIG，Google 的威脅情報團隊）近期發布了最新的 AI Threat Tracker（GTIG 發布的 AI 威脅追蹤報告）。 Google Cloud Blog (AI)

發生什麼事

這篇文章是 2026 年 9 月的第一期 Cloud CISO Perspectives，發布於 2026 年 9 月 16 日。Sandra Joyce 寫道，排除雜訊、檢視遙測（telemetry，系統自動回傳的監測資料）後，威脅情勢可以歸納為三項結構性轉變：AI 正在改變軟體的開發方式、AI 正在擴大攻擊面（攻擊者可下手的範圍）、AI 正在增強攻擊者的能力。文章接著說明 Google 對這三項挑戰的觀察與應對方式。 Google Cloud Blog (AI)

在開發端，GTIG 認為攻擊者汙染 AI 助理被訓練去推薦與信任的上游套件，是 2025 年與 2026 年初大規模開源（open-source，原始碼公開、任何人可使用與修改的軟體）軟體供應鏈（開發時引用的上游套件與工具來源）入侵明顯增加的因素之一。文中點名以獲利為目的的攻擊者 TeamPCP（UNC6780，該組織的另一個追蹤代號），已用超過半打方法利用 AI 工具與開源開發流程，包括劫持 AI 工具組、prompt injection（提示詞注入，在輸入中夾帶指令操控 AI），以及用有毒提示詞讓 AI 掃描器失效，藉此隱藏惡意 payload（惡意酬載，實際執行惡意行為的程式碼）。文章也提到，攻擊者正從單純產生提示詞，轉向全自動的多 agent（AI 代理，能自主執行多步驟任務的 AI 程式）攻擊流程。 Google Cloud Blog (AI)

重點內容

文章列出兩類針對 AI 工作負載的攻擊。第一類是 LLMJacking（盜用他人運算資源來執行 AI 模型的攻擊），犯罪集團與國家支持的團體會鎖定 GPU（圖形處理器，常用來執行 AI 模型）的使用權。在 Mandiant（Google 旗下的資安事件調查團隊）4 月調查的一起入侵中，攻擊者從外洩的 personal access token（個人存取權杖，代替密碼登入服務的憑證）取得受害者雲端環境的初始存取權，部署未經授權的 AI 基礎設施並擴充高效能運算資源，硬體與平台費用由受害者承擔。第二類是鎖定 AI 資料與存取權：2026 年第二季，Mandiant 調查了多起竊資勒索行動，攻擊者竊取的專有 AI 資料包括模型、skills（技能，讓 AI 代理執行特定工作的設定）、提示詞、原始碼與相關研究。地下市場論壇對 AI 帳號憑證的需求也在增加，部分賣家出售的消費者帳號最多比零售價便宜 99%。 Google Cloud Blog (AI)

在開發安全方面，Google 的主張是不放慢開發者，而是把安全直接內建在 AI 開發流程中，其中一環是在編輯器內提供即時的「spellcheck for cybersecurity」（資安拼字檢查）：就像文書軟體標出錯字但不打斷寫作，安全控制要在開發者的編輯器與 agent 工作流程中即時標出被汙染的套件、有毒提示詞與設定錯誤的工具組。文章也主張採用 code-to-cloud（從程式碼一路到雲端環境都納入檢查）的整合做法，並以 Wiz Code 為例，讓程式碼在上線前持續對照實際雲端環境驗證。程式碼分析方面，Google 認為只用單一模型會形成單一化風險，沒有任何單一模型能找出所有漏洞，攻擊者也已在測試能讓特定 LLM（大型語言模型）安全過濾器失效的輸入。因此 Google 同時調度多個 foundation model（基礎模型，可用於多種任務的通用模型），包括 Gemini、商業模型與開源模型，交叉驗證結果、剔除誤報、修補程式碼。原文寫道：「We’re smarter with more than one “brain.”」 Google Cloud Blog (AI)

在保護 AI 本身方面，文章建議不要把 agent 存取政策、AI-BOM（AI 物料清單，即模型清冊）與 shadow AI（影子 AI，未經資安部門核准就被使用的 AI 工具）當成各自獨立的問題，而是用一張動態圖譜把程式碼、模型、資料來源脈絡與執行期身分串成單一地圖。這種做法由 Wiz Security Graph（Wiz 串連雲端資產關係的圖譜）率先提出，現在作為 Google AI Threat Defense（AITD，Google 的自主式資安框架）的情境引擎。AITD 結合 Gemini 與其他前沿模型的推理能力、Wiz 的風險排序、CodeMender（程式碼修補工具）的修補能力與 Mandiant 的第一線經驗，並把這些情境資料直接送進 Google Security Operations（Google 的資安維運平台），讓資安維運團隊找出並切斷有害的攻擊路徑。 Google Cloud Blog (AI)

對使用者的意義

依文章內容，主要對象是企業資安主管與資安維運團隊。可參考的做法包括：在開發者編輯器與 agent 工作流程中加入即時安全檢查；用多個模型交叉驗證程式碼分析結果，而非只靠單一模型；把 agent 權限、模型清冊與影子 AI 放在同一張圖譜中管理；並留意外洩的存取權杖可能被拿來盜用雲端 GPU 資源。想持續收到這類內容的讀者，可在 Google Cloud 部落格訂閱 Cloud CISO Perspectives 電子報。 Google Cloud Blog (AI)