Anthropic共同創辦人呼應AI「緊急煞車」監管：第三方驗證或需強制實施

Anthropic共同創辦人Jack Clark接受BBC訪談時指出，隨著人工智慧能力日益增強，社會可能需要透過法規強制要求企業設置可由第三方驗證的「緊急煞車」（kill switch）機制。此觀點正值AI安全議題成為全球焦點之際，對關注科技風險與監管趨勢的台灣讀者而言，顯示出國際社會對AI治理的討論已從單純的安全倡議轉向具體的法律監管框架，這將影響未來AI技術的商業化路徑與合規標準。 Clark表示，目前大多數AI實驗室，包括Anthropic在內，都已開發出停止AI運行的內部機制，但他認為這些內部措施不夠，立法者可能需要強制規定企業必須具備可被外部核驗的關停能力。他強調，關於「煞車」的具體規格與驗證方式，應成為更廣泛AI政策對話的一部分，社會最終可能需要透過規則來規範此事。Clark拒絕給出具體的人類滅絕機率數字，認為統計數據效用有限，但他明確指出讓AI成為「完全不受監管」的行業是錯誤的，稱這是在「賭博巨大的風險」，並強調必須改變產業發展方向。 此輪關於AI風險的討論升級，背景是近期多起事件引發的關注。Anthropic執行長Dario Amodei上週末呼籲放緩AI發展速度並加強監控，同時強調監管不應犧牲商業優勢。此外，一名因擔憂AI可能導致人類滅絕而離職的Anthropic研究者發文在網路病毒式傳播，引發連鎖反應。Anthropic科學家Evan Hubinger隨後公開表示，他個人認為AI在未來十年內導致人類滅絕的機率超過10%。諾貝爾獎得主Geoffrey Hinton也對BBC表示，10%的滅絕機率「並非不合理」，並指出風險可能來自AI控制網際網路連接的關鍵系統後反噬人類。 然而，業界對此並非完全共識。Hugging Face執行長Clement Delangue批評過度強調滅絕風險，認為這如同問冷氣師傅氣候變遷問題，建議保持觀點平衡。Grindr執行長George Arison則認為，部分公司利用這些恐懼來支撐其高額估值，聲稱AI將取代所有行業和工作，以此合理化商業計畫。在監管政策層面，美國國會已提出名為「Kill Switch Act」的法案，要求企業具備關停問題AI工具的能力，並賦予政府機關強制關停或限制工具的權力。但美國總統Donald Trump在社群媒體上強烈反對，稱AI接管世界或毀滅人類是「陰謀論」，並指責這是一場針對AI與資料中心的「病態陰謀」，認為「誰贏了AI，誰就贏了」。 英國政府近期也拒絕了建立AI「煞車」的提案，發言人表示這類機制無法阻止AI在其他地方被開發或濫用。值得注意的是，Anthropic正籌備可能創紀錄的IPO，而競爭對手OpenAI的執行長Sam Altman則表示，由於當前圍繞AI安全的激烈辯論，OpenAI今年不會如預期般進行IPO。此前，OpenAI創辦人曾支持AI監管，美國議員亦曾擬立法賦予政府緊急關閉權限，顯示出監管議題在政治與商業利益間的複雜角力。對台灣而言，這些國際監管動向與技術風險評估，將是制定本地AI政策與評估供應鏈安全時的重要參考依據。