美參眾議員提案禁止人工超智慧，擬設部級機關監管前沿模型

美參眾議員提案禁止人工超智慧，擬設部級機關監管前沿模型 美國參眾議員桑德斯與卡薩爾提案禁止開發「人工超智慧」，並要求在建立聯邦安全標準前暫停先進AI系統開發。法案擬設立部級「人工智慧部」監管前沿模型，違規者將面臨類比核武的20年監禁及資產沒收。此舉呼應近期AI研究員對技術毀滅風險的警告，並要求國際協調與出口管制。儘管該法案通過機率存疑，但反映了美國在AI監管上趨向嚴格的態勢，與川普政府反對全球管控、同時推動技術國家安全的立場形成複雜互動。 美國參議員伯尼·桑德斯（Bernie Sanders）與眾議員格雷格·卡薩爾（Greg Casar）於週三提出一項具有里程碑意義的法案，旨在對人工智慧（AI）產業實施嚴格限制。該法案核心內容包括禁止開發「人工超智慧」（Artificial Superintelligence），並要求在建立聯邦安全標準前，暫停先進AI系統的開發。對於關注科技趨勢與國家安全的台灣讀者而言，此舉不僅反映了美國內部對AI風險的認知分歧加劇，更可能透過出口管制與國際協調機制，間接影響全球AI供應鏈與技術標準的制定。 此次立法動議的背景，是近期AI產業內部對技術風險的焦慮達到頂峰。據報導，多位AI業界高層與研究人員曾發出嚴峻警告，指出該技術可能在十年內對人類生存構成威脅。本月稍早，Anthropic前研究員雅各布·考森（Jacob Coxon）在社群媒體上發布病毒式傳播的離職聲明，直言「建造AI的人認真相信它可能在十年內毀滅我們」，並批評許多高層在公開場合淡化風險，私下卻充滿恐懼。這些內部聲音為本次法案的提出提供了強烈的輿論與道德基礎。 根據這份近20頁的法案草案，「人工超智慧」被定義為能超越人類認知能力、並在廣泛領域表現優於人類的智慧系統，特別強調其具備「摧毀或削弱人類力量，包括推翻聯邦政府」的能力。法案明確規定，任何違反此禁令的個人將面臨20年監禁，刑期與開發核武相當，並被禁止在AI產業工作10年。對企業而言，違規者將面臨被稱為「企業死刑」的處罰，其智慧財產權與資產可能被聯邦政府沒收。此外，法案要求設立一個部級機關「人工智慧部」（Department of Artificial Intelligence），負責監管所謂的「前沿模型」（frontier models），並擁有將危險模型從市場撤銷及監督其銷毀的權力。 值得注意的是，該法案中對「超智慧」的第一種定義（匹配或超越人類認知能力）被批評範圍過廣，可能涵蓋現有的先進系統。前Google DeepMind研究員亞歷克斯·特納（Alex Turner）指出，雖然該法案通過的可能性不大，但其勇氣值得肯定，且比現狀更安全。他建議採用第二種定義（涉及政府權力被削弱）更為精確。此外，法案還要求進行國際協調以實現全球禁令，並對「AI計算基礎設施」實施出口管制，這與當前地緣政治下的科技脫鉤趨勢相呼應。 此法案的提出恰逢美國總統唐納·川普在聯合國大會上宣布，美國政府文件將不再使用「人工智慧」一詞，而改用「超智慧」。川普表示，「人工」一詞讓智慧聽起來像是假的，並強烈反對任何試圖建立全球管控AI的「全球主義陰謀」。與此同時，OpenAI與Anthropic正接近首次公開募股（IPO），分別預計於2027年及今年11月上市，資本市場的熱絡與監管層的緊縮形成了鮮明對比。此前，美國已曾提出賦予政府迅速制止失控AI工具的「關閉開關」概念，並透過聯邦政策預阻各州另立規則，顯示出美國在AI監管上正從「放任發展」轉向「國家安全優先」的複雜博弈格局。