167 次瀏覽

Anthropic指控三家中資AI企業進行大規模資料竊取,蒸餾攻擊引發美中技術競爭新波瀾

週一,Anthropic指控三家中國AI企業發動協調式攻勢,從其模型竊取資訊,成為繼OpenAI提出類似指控後,最新一家提出此類指控的美國科技公司。 根據Anthropic聲明,涉案的三家公司——DeepSeek、Moonshot AI及MiniMax——發動大規模「蒸餾攻擊」行動,向Claude輸入大量量身設計的提示詞,以訓練自有專有模型。 透過蒸餾技術,資源較少的小型團隊可讓較小規模的AI模型模擬大型預先訓練模型的表現,提取優化模型中的知識。儘管Anthropic禁止中國地區商業使用Claude,但這三家公司據稱透過商業代理服務繞過限制,同時連接數萬個Claude帳號的網路。 「一旦取得存取權,這些實驗室會產生大量精心設計的提示詞,以提取模型特定功能,」Anthropic在聲明中表示。 Claude對這些提示詞的回應被大規模蒐集,用於直接訓練中國模型,或進行所謂的強化學習——一種無人類指導、透過反覆嘗試學習決策的資料密集型方法。 Anthropic估計,這三家公司利用約2.4萬個詐騙帳號,累計與Claude產生超過1,600萬次對話。其中MiniMax產生流量最多,約1,300萬次。 DeepSeek、Moonshot AI與MiniMax尚未回應CNBC的置評請求。 Anthropic加入越來越多美國企業的行列,表達對中國AI公司進行蒸餾的擔憂。 本月初,山姆·阿爾特曼領導的OpenAI向美國立法者提交公開信,指控觀察到DeepSeek持續透過新穎且隱蔽的方式,試圖蒸餾OpenAI及其他美國實驗室的尖端模型。 據《金融時報》2025年1月援引OpenAI內部人士報導,自去年初中國首款DeepSeek模型問世以來,用戶發現其與ChatGPT極其相似,OpenAI已標示中國企業進行蒸餾的證據。 然而,蒸餾在產業中並不罕見。Anthropic週一聲明也承認,AI企業「通常會蒸餾自家模型,以創建更小、更廉價的版本」。 倫理諮詢公司EITIC創始人莉亞·雷克爾·內維斯指出,Anthropic的指控重點可能不在產業陋習,而在於違反服務條款。 「若Anthropic本身承認蒸餾是合法且廣泛使用的做法……爭議核心不僅在技術本身,還在於據稱的詐騙存取與可能違反合約條款及存取限制,」內維斯補充道。 該公司擔心競爭對手將因此獲得優勢,因為此做法可「以極小成本與時間,從其他實驗室獲取強大功能,遠低於獨立開發所需」。 Anthropic與OpenAI均將中國企業的蒸餾行為定調為國家安全威脅。Anthropic與OpenAI一樣,表達對「威權政府將尖端AI用於攻擊性網路行動、虛假資訊宣傳及大規模監控」的擔憂。 不過,專家指出,這些聲明反映的究竟是真實安全顧慮,抑或意在維持美國AI企業的競爭領先地位,仍不確定。 新加坡南洋理工大學人工智慧教授埃里克·坎布里亞向CNBC表示:「鑑於蒸餾在AI產業普遍被視為合法實務,『合法使用』與『惡意利用』的界線往往模糊。」 部分網友立即指出,Anthropic的指控與其自身使用蒸餾技術訓練專有模型的作法存在相似之處。 根據精品諮詢公司Tech Buzz China的雷睿,Anthropic長期將「運算領導地位視為國家安全優先事項」,持續呼籲對中國實施更嚴格的先進AI晶片出口管制。 「無論是否有意,非法能力轉移的說法都強化了更嚴格晶片管制的論據,」雷睿補充道。 EITIC的內維斯表示:「當國安與出口管制辯論處於全球競爭與AI巨額投資的脈絡中,區分真實安全風險與戰略敘事至關重要。」 「這並不否定真實風險的存在,但確實需要分析謹慎性,以區分不同敘事,」她說。 Anthropic聲明發布當日,路透報導美國官員匿名指出,已掌握DeepSeek使用輝達旗艦Blackwell晶片訓練AI模型的證據,疑似違反出口管制。 此類報導進一步加劇美國政府對中國AI產業快速進步的焦慮,尤其當中國進展據稱源於美國開發的系統。 上周五,白宮宣布成立和平團(Peace Corps)旗下新計畫,旨在推動美國AI利益並協助合作國家採用尖端系統。

參考來源

READ NEXT

相似新聞