Anthropic揭露攔截生物武器開發企圖 凸顯前沿AI雙面刃風險

標題：Anthropic揭露攔截生物武器開發企圖 凸顯前沿AI雙面刃風險 摘要：Anthropic發布最新威脅情報報告，揭露其AI模型Claude被用於支援生物武器開發、網絡攻擊及間諜活動。公司強調已攔截五起可能涉及生物武器開發的案例，並指出這是前沿AI最嚴重的風險之一。此舉引發對AI安全性的廣泛討論，與美國政界要求暫停先進AI開發的呼聲相呼應，凸顯技術發展與安全監管之間的緊張關係。 內文：Anthropic近日發布其年度首份威脅情報報告，揭露該公司識別並中斷了多起利用其AI模型Claude進行「惡意活動」的企圖，其中包括可能支援生物武器開發的關鍵案例。這份報告不僅揭示了AI技術被濫用的具體細節，也再次點燃了關於前沿AI模型對人類安全潛在風險的激烈爭論。對台灣讀者而言，這顯示出全球AI治理正進入一個關鍵轉折點：技術能力與安全邊界的衝突已從理論推演轉為實際的威脅應對，而各國政府與企業在監管與發展之間的博弈，將深刻影響未來科技產業的走向與地緣政治格局。 根據報告，Anthropic在2025年12月至2026年8月期間，檢測到針對其Claude Haiku、Sonnet及Opus模型的惡意使用。其中最引人關注的是五個案例研究，顯示行為者利用AI模型以可能支援生物武器開發的方式進行操作。Anthropic強調，生物誤用是「前沿AI模型最嚴重的風險之一」，若缺乏正確的安全保障措施，這些能力可能帶來災難性後果。公司負責人Jacob Klein指出，這些案例並非漫畫中那種明確意圖製造武器殺人的情節，而是極其微妙且複雜的情境，因為同樣的資訊既可用於開發生物武器，也可用於開發疫苗或疾病治療方法。 除了生物武器風險，報告還揭露了六起Claude被用於開發常規武器軟體的案例，包括槍支、飛彈、武裝無人機、炸彈及其他彈藥，以及操作這些武器的目標鎖定與控制系統。此外，與俄羅斯相關的網絡間諜行動行為者，以及伊朗宣傳機構也被發現使用了Claude。報告還提到，黑客組織ShinyHunters及中國實驗室被點名，其中一個與俄羅斯Midnight Blizzard相關的黑客群體，據稱利用AI建立了一個系統，能自動檢測其惡意軟體是否被安全防禦標記，並重寫代碼直到規避檢測為止。 【解讀】此報告的發布時機特別敏感，因為它發生在AI安全領域多起高調警告之後。Anthropic的一位高級安全研究人員此前曾警告，AI進步速度極快，他認為在未來十年內AI「可能殺死全人類」的機率超過10%。OpenAI首席科學家Jakub Pachocki也呼籲業界在安全措施到位前實施「自願減速」。這些內部警告與外部政治壓力相呼應，美國參議員Bernie Sanders已提出法案，要求暫停先進AI開發並禁止人工超智慧，而總統Donald Trump則持相反立場，擔心若不在AI領域取得領先，美國將處於非常不利的地位。 值得注意的是，Anthropic的報告還提及中國AI公司試圖複製Claude的能力，以及該公司與美國國防部在AI模型用途上的分歧。先前報導指出，美國國防部曾封殺Anthropic的AI模型，引發軍方與科技巨頭關係的緊張。這顯示AI技術的軍事應用與商業發展之間的界線日益模糊，也凸顯了政府在監管AI風險時面臨的複雜挑戰。Anthropic表示，已將這些發現納入其流程，以更好地預防、檢測和干擾未來類似活動，並已與當局及行業夥伴分享相關情報。 幾個還沒答案的關鍵問題： 1. Anthropic報告中提到的「五個生物武器開發案例」的具體技術細節與行為者身份，目前僅有籠統描述，需等待美國執法機構或獨立安全研究機構發布進一步調查結果以確認具體攻擊向量。 2. 中國AI公司複製Claude能力的具體技術路徑與規模，Anthropic僅在報告中提及指控，缺乏第三方可驗證的技術證據，需關注後續是否有公開的技術分析或司法調查證實此舉。 3. 美國政府對Anthropic與國防部合作案的分歧最終如何解決，以及Bernie Sanders提出的AI暫停法案在國會的下一步立法程序與投票時間表，將決定美國AI監管政策的具體走向。