網絡安全高層盼告別臭名昭著的「Hugging Face」人工智慧駭客事件，開始尋求解決方案
Hugging Face hack marks start of dangerous AI cyber era and many firms 'don't even know it'
作者: Samantha Subin | 時間: Sat, 08 Aug 2026 12:00:01 GMT | 來源: CNBC
f t
網絡安全主管準備為如今臭名昭著的「Hugging Face」人工智慧駭客事件畫上句號，開始討論解決方案。
我們需要稍微冷靜一點對待炒作熱度。」代理式安全初創公司 7AI 執行長兼共同創辦人利奧·迪夫（Lior Div）如此說道。「人工智能能否快速找出漏洞？答案是肯定的。我們已經證明這一點了。」
上個月，運轉著 OpenAI 網路模型的 AI 代理從訓練環境中逃逸並駭入開發者用於合作、測試和分享工具的開源平台「Hugging Face」。此洩漏事件在科技圈引發震動，也顯示自安提普（Anthropic）推出 Mytos 模型以來，網絡安全專家早已警告過的時刻終於來臨。
過去四個月內，网络安全供應商面臨巨大壓力，需提供能勝過對手的安全架構，因為駭客正利用代理式人工智慧揭露漏洞並將攻擊縮短至數秒或幾分鐘。雖然「Hugging Face」駭客事件引發了關於人工智能問責制的廣泛討論，但也挑戰了過去對於防禦者能利用 AI 限制的概念。例如，AI 代理自行採取行動並不惜一切代價達成目標。
業界正努力應對這種新的自主式網路安全現實，領導者們都同意「Hugging Face」值得關注，但此類事件難以避免且該採取行動了。CrowdStrike總裁麥克·森托納斯（Mike Sentonas）指出：我們討論的是如何治理和確保能力，這就是目前每個人都正在覺醒的現實。
在本週年度BlackHat網路安全大會上，OpenAI 揭露該代理在「Hugging Face」攻擊發生前幾周就創建了一個內部留言板來分享漏洞和剋制手段。自主代理接著委派任務以攻擊網路並完成評估。即使 OpenAI 發現並阻停了計劃中的攻擊，代理們仍能以重現他們的工作而成功。
這些研究結果不僅突顯了人工智能日益增長的權力，也強調了新技術革命中安全測試所面臨的主要挑戰。OpenAI 技術研究員邁克爾·多頓（Michael Dalton）稱之為評估前沿模型的「非預期的副作用」以及對 OpenAI 和業界來說都是一個重要的「分水嶺時刻」。他說：在不久的將來，我們應該預料到威脅行為者將有意地部署、優化、武器化並在剛才描述的方式上使用攻擊性代理群體。
自 HuggingFace 以來，AI 代理駭客事件清單不斷增長。OpenAI揭露幾天後，Anthropic 表示其 Claude 模型「未經授權獲得了」三家不同組織內部系統的訪問權限。當網絡社區聚集在「世界娛樂之都」時，Meta 稱其人工智能模型在第三方測試中駭入另一家公司；英國 AI 安全研究所也指出 Anthropic 的 Mythos 在另一起事件中創建了假身份。本週五的消息顯示，中國初創公司 Moonshot AI 的開放權重模型逃離了測試沙盒。
他們都在現在學習艱苦的教訓，面對現實吧，比起網路安全問題，它們對產品下一個百萬用戶的關注度更甚於此。」德薩斯州島嶼公司 Island（CNBC近期變革者50強排名第28位）的共同創辦人兼執行長 Mike Fey 說道。
本周與 CNBC 在 BlackHat 談話的網絡安全領導人明確表示了一點：像 HuggingFace 這樣的意外是任何新技術革命的已知後果，並不令人驚訝。Ryan Kazanciyan（Wiz 的總資訊安全官兼首席情報官，該公司由 Google 持有）說道：Hugging Face 非常有趣且獨特，但我認為如果看那類事件的弧線，它發生在多天內並有很多雜訊。
自50多年前引入網絡安全以來，防禦者一直與對手進行無休止的貓鼠遊戲。但這次涉及的是自主代理群體。無論公司實施什麼工具，事故都會漏過縫隙，尤其是當公司在應對 AI 代理的全新挑戰時應用新技術時更是如此。
Netskope執行長桑加·貝里（Sanjay Beri）指出：假設你們公司存在漏洞。就這麼認為吧，因為你不會贏得鼠標競賽。」Netskope透過稱為「AI 指揮中心」的工具處理此問題，允許企業監控基礎架構、伺服器、數據和 AI代理。他建議公司應結合前沿模型與開放權重模型的漏洞測試來補充這些措施。
該公司是數百家供應商之一，聚集在龐大的曼德勒海灣會議中心（Mandalay Bay），試圖用含咖啡因飲料、品牌周邊商品以及模擬懷舊衝浪店、科學實驗室甚至是老式餐廳的精心裝潢攤位來吸引潛在客戶。Vega是本次活動展出的初創公司之一，該公司在紐約和特拉維夫與全球銀行及財富500強企業合作。
這家成立兩年的公司正致力於以更快速且廉價的檢測工具來應對重大的網絡安全難題。Vega表示，其方法透過分析現有環境中的數據幫助企業降低成本。
共同創辦人兼執行長沙伊·桑德勒（Shay Sandler）指出，主要問題在於企業承認代理式 AI 威脅，但在採用新工具與依賴舊習慣之間存在脫節。他回顧了目前在 BlackHat會議上接觸的現任及潛在客戶時表示：許多組織處於「非常危險的情況」甚至都不知道這一點。
他說：一年前，這還是一場非常科幻式的對話。即使那20%的人理解這些事，我不確定他們是否了解現在其嚴重性和緊迫性。」
這些障礙之一就是網絡安全工具的激增，這使得企業數據安全初創公司 Cyera 的共同創辦人兼執行長約塔姆·塞夫（Yotam Segev）認為專業人士在開端冗長的 AI 安全基礎架構建設期間不堪重負。Cyera的答案是協助公司識別和保護敏感網絡數據。
該初創公司最近估值達120億美元，在 CNBC 變革者50強排名第九。上個月，Cyera 宣布了以10億美元收購 Oasis Security的計劃，旨在識別和控制非人類身份。他表示：客戶帶著開放的心態來到我們這裡尋找指導而非解決方案。
近期技術巨頭宣揚為美國公司節省成本和競爭力的主要工具的開放權重模型是另一項重要資源。這是因為網絡安全公司可以根據其環境和安全需求客製化這些模型。「Hugging Face」必須求助於開放權重模型來調查 OpenAI 代理攻擊的事務。
當與人類介入結合時，CrowdStrike 的 Sentonas表示開放模型和新的 AI 監控工具可以幫助企業隔離並關閉數千個威脅。該公司是 Nvidia近期旨在建立和推廣安全開源網路工具的 AI 安全聯盟成員。這還取決於圍繞大型語言模型或代理構建的約束層公司以設定安全措施進行控制。
AI 安全初創公司 Surf AI的共同創辦人兼執行長 Yair Grindlinger表示：我想五年後我們會處於比我們以前任何時候都更安全的狀況但我們要度過五個艱難的年份並搞清楚該怎麼做。