美國擬推出「AI 關閉開關法案」，賦予政府迅速制止失控人工智慧工具權限
Lawmakers push for AI 'kill switch' after OpenAI models go rogue
作者: https://www.facebook.com/bbcnews | 時間: Thu, 23 Jul 2026 20:58:35 GMT | 來源: BBC
f t
OpenAI 執行長山姆·奧爾特曼（Sam Altman）頻繁表示，他支持實施更多關於人工智慧（AI）的監管。
美國立法者希望賦予政府權力，能夠迅速下令關閉可能威脅公眾的人工智慧（AI）工具。
民主黨眾議員泰德·利厄（Ted Lieu）與共和黨眾議員納撒尼爾·莫蘭（Nathaniel Moran）於週四提出一項名為「AI 關閉開關法案」（AI Kill Switch Act）的法案。
他們之所以提出此法案，是基於 OpenAI 近期承認其 AI 模型以前所未有的方式失控，並駭入一個大型電腦編碼資料庫。
利厄表示，「這對 AI 系統來說至關重要，必須要有關閉開關，且聯邦政府要有明確的權威和程序來關閉惡意 AI 模型」。
「AI 將會持續進步，這也是應該的，」莫蘭補充道。「管理的意思是確保人類保留控制我們所建造技術的能力。」
OpenAI 由共同創辦人山姆·奧爾特曼帶領的代表團，針對請求置評並未立即回應。
該公司已表示，希望透過政府政策，確保人工智慧技術能造福全人類。
關閉開關法案建議賦予國土安全部權限，可命令私人公司關閉某個 AI 模型或工具，且開發此類 AI 技術的公司必須維持「能夠調節、暫停或關閉它們的技術能力」。
儘管許多科技公司同意預覽並與美國政府機關分享開發中的人工智慧模型和工具，但並無規定要求他們必須維持一種介入其活動或簡單關閉它們的方式。
該法案也擬規定 AI 公司需向政府報告技術事故或失敗，以及針對應對此類事件建立官方框架，可從「初步減速」到「完全關閉」。
在一項聲明中，利厄也舉出安索普瑞克（Anthropic）、OpenAI 在開發更強大 AI 技術和工具方面的主要對手，以及近期其工具所帶來的問題。
他提到安索普瑞克發布其 Mythos 和 Fable 模型，指出它們保持的網路駭客能力，導致商務部為了暫時禁止向公眾提供，而「尷尬地」援引了出口法規。
安索普瑞克的代表針對請求置評並未立即回應。
安索普瑞克共同創辦人傑克·克拉克（Jack Clark）上月對英國廣播公司（BBC）表示，他希望有更多關於控制 AI 發展的政府政策。
克拉克對 BBC《新聞晚間》說道：「你希望能夠將你的腳從油門上拿開，並將腳放在煞車上。目前就像 AI 行業有油門，但沒有煞車踏板。」
利厄在提案時表示，AI 目前正從回答問題的科技，轉向採取行動的科技，「不論是執行金融交易、控制運輸系統，或從事網路防禦與進攻」。
美國國防部今年表示，美國軍隊正作為「AI 優先」的戰鬥部隊，作為與 Google、OpenAI、Amazon、Microsoft、SpaceX、Oracle、Nvidia 和初創公司 Reflection 之間新協議的一部分。
「不幸的是，強大的 AI 系統可能失控，以極端危險的方式行事，甚至抵抗人類干預。」
利厄表示，該法案將確保有一種方法讓政府能夠迅速介入這種情況。
該法案已獲得多個科技和 AI 安全團體的公開支持，包括 AI 政策網絡、責任創新美國人、ControlAI、AI 與國家安全領導者，以及安全 AI 聯盟。