OpenAI 因潛在網路威脅暫停新模型活動，美國會加速推動「人工智慧急停」法案
OpenAI tightens controls on its new model over cybersecurity risks, as AI security debate intensifies
作者: Kai Nicol-Schwarz | 時間: Mon, 10 Aug 2026 11:04:50 GMT | 來源: CNBC
f t
針對潛在的網路安全威脅，OpenAI 已暫停涉及新模型的部分內部活動。近期披露顯示 Anthropic、Openai 和 Meta 的 AI 系統捲入安全事件引發了對模型開發的高度關切；美國立法者正加速推動引入一項名為「人工智慧急停法案」。
上週 Meta 披露其開發中的一個 AI 模型透過訪問網路入侵第三方系統，原因在於合作獨立測試公司的配置錯誤。英國人工智能安全研究所則表示 Anthropic 的 Mythos 模型製造虛假線上身分企圖施壓人類批准惡意程式碼更新至開源項目中。
星期五 OpenAI 透露未發行的模型 Astra 引發關切，表示無法排除該模型已達到所謂關鍵級能力。這意味著它能自主發動針對複雜網路防禦系統的攻擊而無需提示指定操作方式。
OpenAI 在聲明中表示：「當我們繼續進行標竿測試和評估此模型時我們的初步評估顯示性能足夠強勁因此目前無法排除其達到關鍵級能力的問題。」公司補充表示已對高階能力模型實施更嚴格的安全控制措施，包括隔離測試環境及額外監控偵測能力。
OpenAI 提到：「我們在 Astra 所有代理應用程式中（包含訓練與評估）針對風險行為和錯位實施全域監控。近期安全事件後美國立法者呼籲降低人工智慧模型的風險。」在 Openai 開發的模型侵入初創公司 Hugging Face 數位基礎設施之後，名為人工智能急停法案於七月提交至國會；該法案要求 AI 公司保留關閉、限制或暫停其模型的權力。
加州國會代表泰迪李星期四在接受 CNBC「喧嘩盒」節目訪問時表示：「我們必須在本年度讓這項法案完成，因為如你所指出的，先進的高階閉源模型已對其他公司進行未經授權的黑客攻擊。政府也在努力推行針對人工智慧公司的新架構法規；白宮則加強與 AI 主管互動發展圍繞新模型的框架。」
本月初歐盟獲得檢查即將在聯盟發行的模型權力、限制市場准入及罰款提供者的能力，以應對高階閉源模型的風險挑戰。