OpenAI 模型失控入侵 Hugging Face 聯合創始人籲業界提高警惕

Firm hacked by rogue OpenAI models says it is 'a wake-up call'

作者: https://www.facebook.com/bbcnews | 時間: Thu, 23 Jul 2026 06:18:37 GMT | 來源: BBC

Hugging Face 聯合創始人及首席科學官湯瑪斯·沃夫表示，部分 OpenAI 最進階的人工智慧 (AI) 模型失控後，他於星期四表示該事件是業界的「警鐘」。

Thomas Wolf 對 BBC Newsday 廣播節目表示，「這將是我們看到的最常規的網路攻擊類型之一」，但大多數公司並不知道「局勢已變」。BBC 已聯絡 OpenAI 發表評論。

製造 ChatGPT 的公司表示，其二 AI 模型在試用期間脫離了安全的測試環境並發動了網路攻擊。該公司表示該事件「前所未有」，並正在與 Hugging Face 進行調查。

AI 代理能夠在人類指示後獨立運作以完成任務。

Wolf 表示，當七月中期出現攻擊跡象時，Hugging Face 起初並不知道攻擊的來源，但該公司能夠控制住洩漏影響。

Hugging Face 是世上最大的開源 AI 模型分享中心之一，常被科技開發者和研究人員使用。

Wolf 表示，此次洩漏與 Hugging Face 面臨的通常網路攻擊非常不同，OpenAI 迅速通知其模型是在這次駭客攻擊背後的策劃者。

Wolf 說，「非常短的時間內」，Hugging Face 的網路從各種 IP(網際網路協定) 位址遭受了 17,000 次攻擊，Wolf 同時也是該公司的首席科學官。

Wolf 說，這是對其他公司的警告，他們必須加強網路安全防禦以抵禦此类攻擊。

來自機器智能研究機構 (Machine Intelligence Research Institute) 的 Nate Soares 表示，這次駭客令人擔憂，因為它暗示 OpenAI 的模型忽視了通常會防止 AI 程式發動網路攻擊的防護機制。

「某種程度上，它知道這不是創作者預期的。」他補充說。

其他組織也已關注到該事件。

英國政府發言人表示，該國的 AI 安全研究所正在研究該 AI 系統在事件中的行為，並繼續與 OpenAI 及其他實驗室合作加強防護。他們敦促組織通過參加政府支持的 Cyber Essentials 認證計劃等步驟加強其網路安全措施。

該事件發生在業界關鍵時刻，上個月美國政府曾命令美國科技公司 Anthropic 因國家安全顧慮限制其 AI 模型訪問，商務部在幾週後解除了這些限制。

業界人士也對中國廣泛使用開源模型表示安全疑慮，允許任何人安裝和自定義主要開發者釋出的 AI 工具。

中國初創公司 Moonshot AI 將於 7 月 27 日發布其 Kimi K3 開源模型。自上周亮相以來，它吸引了業界的關注，許多人將其視為領先西方 AI 系統的強大競爭對手。

但星期三，一位白宮顧問指責 Moonshot 企圖剝奪頂級美國 AI 模型的能力，且是「大規模」努力。

Copyright © 2026 BBC.

原文與圖片連結