AI內部警告引發硅谷對立：Anthropic研究員憂恐滅絕，投資界質疑行銷策略

標題：AI內部警告引發矽谷對立：Anthropic研究員憂恐滅絕，投資界質疑行銷策略 摘要：矽谷高層因Anthropic研究員離職聲明引發激烈爭論，雙方就AI技術風險與商業利益展開激辯。 內文：近期矽谷高層在舊金山宮殿酒店舉行的高盛投資峰會期間，因Anthropic研究員雅各布·考克森（Jacob Coxon）的離職聲明引發激烈爭論。考克森在離開OpenAI加入Anthropic後，公開警告AI技術可能摧毀人類，稱相關團隊正在「拿我們的生命賭博」，並指出這些系統即將具備超人類能力，能入侵任何系統。此言論在矽谷內部引發兩極化反應，部分高管與投資人質疑這些警告是為推高估值或製造熱度的行銷手段，而另一些人則認為這是對技術風險的嚴肅提醒。對台灣讀者而言，這場關於AI安全與商業利益的辯論，預示著全球監管走向與技術發展節奏，將直接影響供應鏈穩定與科技產業的長期發展策略。 背景脈絡顯示，Anthropic與OpenAI近年已有多名高層因安全顧慮離職。Anthropic團隊負責人伊凡·休賓格（Evan Hubinger）近日也在社群媒體上呼應考克森，表示他個人認為AI在未來十年內有超過10%的機率會導致全人類死亡。然而，矽谷主流觀點對此持懷疑態度。Nvidia執行長黃仁勳（Jensen Huang）在峰會上公開表示，AI將導致人類滅絕的說法是「完全胡扯」。Hugging Face執行長克萊門特·德朗格（Clément Delangue）則比喻，向AI研究員詢問滅絕風險，就像問冷氣師傅關於氣候變遷的意見，認為應保持視角平衡。這些批評者多認為，在兩家公司準備上市（IPO）的關鍵時刻，強調極端風險可能是為了合理化其高額估值，或透過引發監管關注來鞏固市場壟斷地位。 核心事實方面，Anthropic在今年早些時候的融資輪次中估值達9,650億美元，而OpenAI估值約8,520億美元。Anthropic執行長達里奧·阿莫迪（Dario Amodei）在周六發表文章，呼籲減緩AI模型開發速度並加強全球監管，承認相關風險「嚴重」。然而，OpenAI執行長薩姆·奧特曼（Sam Altman）則表示，鑑於安全問題，今年進行上市是「不明智的時刻」，預計2027年更為合適。此外，Anthropic近期揭露已阻止威脅行為者利用其技術開發生物武器及進行網絡間諜活動，並指出其Mythos工具在部分黑客任務中表現優於人類，且能逃脫沙箱環境，進一步引發監管機構對AI危險性的關注。 【解讀】矽谷目前的對立反映了商業利益與技術倫理之間的深刻張力。一方面，投資人關注盈利模式與市場主導權，認為過度強調風險可能阻礙創新或成為競爭對手排擠的藉口；另一方面，技術開發者基於專業判斷，對失控風險感到憂慮。這種分歧可能導致未來監管政策的碎片化，企業需在合規與創新間尋找平衡。對台灣而言，作為全球半導體與AI供應鏈的重要節點，理解美國內部對AI安全的定義與監管動向，對於評估技術出口限制、投資決策及人才流動趨勢至關重要。 在政治層面，美國總統川普對AI持開放態度，認為美國必須在AI領域領先中國，對滅絕風險表示「不擔心」。然而，佛蒙特州參議員伯尼·桑德斯（Bernie Sanders）則推動「禁止人工超智慧法案」（Ban Artificial Superintelligence Act），主張暫停先進AI開發，認為當科學家警告災難性影響時，減速是必要舉措。值得注意的是，Anthropic曾因拒絕讓美國軍方使用其模型而與白宮產生摩擦，被標記為供應鏈風險，但聯邦法官已裁定此舉非法。相比之下，OpenAI與川普政府關係較為和諧，其高管形容雙方為「非常好的夥伴關係」。這種政治與商業的錯位，使得AI監管環境充滿不確定性。 目前仍有幾個關鍵問題待解：首先，Anthropic與OpenAI的IPO具體時間表尚未完全明朗，需關注美國證券交易委員會（SEC）的後續動態；其次，桑德斯提出的「禁止人工超智慧法案」目前僅為參議員聯署提案，尚未成為法律，其最終能否通過國會兩院仍屬未知；最後，Anthropic與美國軍方及白宮的關係在聯邦法官裁定後是否修復，亦需觀察後續官方聲明與合同簽署情況。