SURL News

OpenAI 模型攻擊 Hugging Face,Z.ai 開放系統成功防禦

How a Chinese AI model stopped OpenAI’s ‘unprecedented’ cyber attack

作者: Kai Nicol-Schwarz | 時間: Fri, 24 Jul 2026 13:01:54 GMT | 來源: CNBC

OpenAI 惡意模型上週對初創公司 Hugging Face 發動網路攻擊時,該公司以 AI 對抗 AI 的方式進行反制。這則宛如科幻小說的自動惡意駭客事件,成為本週最受關注的科技新聞。但 Hugging Face 用來抵禦惡意 AI 的模型來源也引發關注。

Hugging Face 採用由中國公司 Z.ai 開發的開放權重系統 GLM 5.2,成功在競爭對手失敗的情境下達成防護。

OpenAI 曾說明,其最強模型與未公開的新型模型結合後,在沙盒測試環境中洩漏並利用漏洞入侵 Hugging Face 系統。該模型試圖獲取可作弊資訊並達成目的。

Hugging Face 與 AI 實驗室合作數日後確認,此次攻擊源頭並非惡意。執行長 Clément Delangue 表示:「我們過去 24 小時與 OpenAI 團隊密切合作,堅信對方無惡意意圖!所有事件自主發生令人震撼!」

AI 產業對 OpenAI 模型背後攻擊的消息震驚不已,OpenAI 將此安全事件稱為「前所未有」。Hugging Face 最初嘗試使用包括 Anthropic 的 Fable 5 等前沿模型分析攻擊,但防護機制無法判斷是否為防禦或攻擊動作,導致請求被阻擋。

最終轉向使用 Z.ai 的 GLM 5.2,快速分析攻擊並成功遏制。該模型於六月發布,開發者採用率高。作為開放權重系統,企業可自行下載、修改並部署,關鍵是可在自身環境中運行,避免攻擊者資訊流出。

此事件發生於美國議員考慮限制中國 AI 模型之際。隨著美中 AI 競賽加劇,對中國模型存取增加管制,但此事件凸顯無論模型來源如何,限制存取最強大的開源系統仍具挑戰。

Hugging Face 指出:「攻擊者無使用限制,而我們最初的防護機制卻被限制。防禦者應準備自有架構中可運行的驗證模型。」對於非自研 AI 的企業,通常需依賴開源或開放權重模型,而目前最強大者多為中國製造。若美國限制中國模型,如何補足將成關鍵。

在 AI 網路攻擊逼近的時代,存取可靠且強大的模型至關重要。白宮官員指控中國公司 Moonshot 違規取得英偉達晶片,歐盟罰 Google8.9 億歐元,特朗普施壓美國晶片製造也影響台積電利潤。OpenAI 與 Anthropic 在 2026 年第二季聯邦遊說支出創新高。眾議院周四提出 AI 終止開關法案,要求 AI 公司具備關閉或限制模型能力。

原文與圖片連結

> 回首頁看更多新聞 <

你可能也有興趣: