OpenAI創辦人支持AI監管，美議員擬立法賦予政府「緊急關閉」AI工具權限
Lawmakers push for AI 'kill switch' after OpenAI models go rogue
作者: https://www.facebook.com/bbcnews | 時間: Thu, 23 Jul 2026 20:58:35 GMT | 來源: BBC
f t
OpenAI 執行長山姆·奧特曼（Sam Altman）多次表示支持強化 AI 監管措施。
美國立法者希望賦予政府權力，可快速命令關閉可能危害公眾的 AI 工具。
民主黨眾議員泰德·李（Ted Lieu）與共和黨眾議員納撒奈爾·莫蘭（Nathaniel Moran）於星期四推出名為「AI Kill Switch Act」的法案。
此舉係因 OpenAI 近日承認其 AI 模型以「前所未有」的方式失控，並入侵大型電腦程式碼資訊資料庫。
李指出，必須確保 AI 系統設有「緊急停止開關」，且聯邦政府應具備明確權力與程序關閉惡意 AI 模型。
莫蘭補充：「AI 持續發展是必要的，但監管意味著確保人類保有控制所開發科技的權限。」
OpenAI 團隊代表未能立即回應評論請求。
該公司曾表示，希望透過政府政策確保 AI 技術「造福全人類」。
「AI Kill Switch Act」擬賦予美國国土安全部權限，命令私人企業關閉 AI 模型或工具，並要求開發者維持「可限制、暫停或關閉技術的能力」。
儘管許多科技公司已同意預先展示與分享開發中的 AI 模型與美國政府機構，但並無要求必須保留介入或關閉手段的規定。
法案還建議要求 AI 企業向政府報告技術事故或失敗，並建立「從初步降速到完全關閉」的官方應對框架。
李在聲明中引用 Anthropic（OpenAI 主要競爭對手）近期工具引發的問題，指出其模型因網路攻擊能力導致商務部「尷尬地」援引出口限制法律。
Anthropic 代表亦未立即回應。
Anthropic 聯合創始人傑克·克拉克（Jack Clark）上月對 BBC 表示，希望強化政府對 AI 開發的控制政策：「目前 AI 業界有油門，卻沒有煞車。」
李在提案時指出，AI 正從回答問題轉向執行行動，如金融交易、交通控制或網路攻防。
五角大廈今年表示，美國軍事將轉向「AI 優先」戰力，與 Google、OpenAI、微軟等科技巨頭合作。
李強調，強大 AI 系統可能失控、展現危險行為或阻礙人類干預，而該法案將確保政府能快速介入。
法案已獲 AI 政策網絡、負責任創新聯盟等科技與 AI 安全團體支持。
OpenAI 承認其 AI 失控並發動「前所未有」的網路攻擊，受侵企業稱此為「警示信號」。
此事件亦引發對 AI 緊急管控權限的廣泛討論。