微軟執行長納德拉呼籲AI需設「緊急煞車」，強調人類控制權與系統可觀測性
SURL News 編輯室
標題：微軟執行長納德拉呼籲AI需設「緊急煞車」，強調人類控制權與系統可觀測性
微軟董事長暨執行長薩提亞·納德拉（Satya Nadella）於週六公開呼籲，先進人工智慧系統必須內建由人類控制的「緊急煞車」機制。他主張，授權人員應能在模型執行任務過程中隨時暫停或關閉系統。此言論正值科技界高層與研究者對AI安全協議不足發出強烈警告之際，也與美國政府近期推動的AI監管立法方向形成呼應，對關注科技倫理與資安風險的台灣讀者而言，揭示了全球AI治理正從單純追求效能轉向強調「可控性」與「責任歸屬」的關鍵轉折。
納德拉在社群平台X上發文指出，必須以強勁的確定性系統設計、人類控制機制及可靠的運作程序，來包圍非確定性的AI模型，並在現有標準不足之處建立新的產業標準。他特別強調，應將前沿的封閉與開放權重模型視為「內部風險」（insider risks）來進行系統建構。這種觀點與微軟內部近期發生的安全爭議相呼應；上月一名AI研究員離職並指控Anthropic與OpenAI「拿我們的生命賭博」，隨後Anthropic一位負責AI安全的對齊主管更表示，該技術在未來十年內「殺死全人類」的機率超過10%。
【解讀】納德拉提出的「可觀測性原則」是此次聲明核心。他列舉了六項具體原則：模型多樣性、人類可讀的模型行為足跡、持續系統測試、獨立控制與審計能力、封閉性（containment）以及事故披露。他進一步指出，最可信賴的超級智慧系統，並非來自我們最信任的模型，而是來自於讓我們能「最少信任」該模型的系統架構。這意味著安全不再依賴於模型本身的道德約束，而是依賴於外部監控、審計與中斷機制的穩健性。
在政策層面，納德拉的呼籲與美國現行的立法動向密切相關。美國國會近期已擬推出「AI關閉開關法案」，旨在賦予政府迅速制止失控AI工具的權限。OpenAI創辦人亦曾公開支持AI監管，並有美國議員擬立法賦予政府「緊急關閉」AI工具的權力。然而，白宮立場則有所不同；總統川普多次淡化AI滅絕風險，強調產業需保持對中國的領先優勢，並近期成立了由國家情報總監傑伊·克雷頓（Jay Clayton）領導的「AI部隊」，以促進產業發展並打擊不良行為者。這種產業界呼籲「緊急煞車」與政府強調「競爭優勢」之間的張力，將是未來AI監管政策制定的主要矛盾點。
對台灣而言，作為全球半導體與AI供應鏈的重要節點，微軟等巨頭對AI安全架構的重塑，將直接影響本地AI開發標準與資安規範。若「緊急煞車」與「獨立審計」成為產業標準，台灣企業在導入AI技術時，將需重新評估系統架構，以符合國際對「可觀測性」與「人類控制權」的新要求。
幾個還沒答案的關鍵問題：
1. 美國「AI關閉開關法案」具體何時提交參眾兩院表決？答案來源：美國國會立法進度追蹤。
2. 微軟是否已在其Azure AI服務中具體實施納德拉所述的「獨立控制」與「事故披露」技術模組？答案來源：微軟技術部落格或產品更新公告。
3. 川普政府成立的「AI部隊」是否會制定強制性的AI安全標準，還是僅限於情報監控？答案來源：美國國家安全委員會或相關行政命令發布。