加州總檢察長針對Grok生成性化深度偽造內容啟動調查 馬斯克否認涉及未成年裸照
California investigates Grok over AI deepfakes
作者: Lily Jamali | 時間: Wed, 14 Jan 2026 20:19:22 GMT | 來源: BBC
f t
加州最高檢察官已對馬斯克旗下AI模型Grok所生成的性化深度偽造內容展開調查。
總檢察長羅布·邦塔在宣布這項調查的聲明中表示：「近期數週內，有關xAI線上生成並發布未經同意之性露骨內容的報告如雪崩般湧現，令人震驚。」
xAI，開發Grok的公司，此前曾表示「任何利用或誘導Grok製作非法內容者，將承擔與上傳非法內容相同之後果」。
加州展開調查之際，英國首相基爾·斯塔默爵士警告將可能對X採取行動。
週三的聲明中，邦塔指出：「此類內容包含女性及兒童的裸體與性露骨畫面，已被用於在網際網路上騷擾他人。」
這位民主黨檢察官敦促xAI立即採取行動。
民主黨籍的加州州長加文·紐森週三在X平台發文表示，xAI的決定「創造並容納掠食者滋生環境...令人髮指」。
BBC已聯繫xAI置評。
週三，馬斯克在X平台發文稱，他「並未發現Grok生成任何未成年裸照，確實為零。」
「顯然，Grok並不會自動生成圖像，」馬斯克寫道，「僅會根據用戶請求執行。」
這位身為共和黨大金主的科技億萬富翁同時表示，X平台的批評者動機政治化，並以Grok爭議作為「審查制度的藉口」。
去年11月，《連線》雜誌報導指出，其他AI公司如OpenAI與Google的工具也曾被用來數位脫衣。
上週，三名美國民主黨參議員要求蘋果與Google將X及Grok從應用商店下架。
在請求提出數小時內，X限制其圖像生成功能，僅對付費訂閱者開放。
X與Grok目前仍可在蘋果App Store及Google Play上架。
此舉發生之際，美國正就科技公司是否應對AI平台用戶發布內容承擔責任展開辯論。
《1996年通訊禮節法》第230條規定，線上平台對用戶生成內容享有法律豁免權。
但康乃爾大學的詹姆斯·格里梅爾曼教授認為，此法規「僅保護平台免於用戶第三方內容的責任，不適用於平台自身生成的內容」。
格里梅爾曼表示，xAI試圖將圖像責任轉嫁用戶，但質疑此論點在法庭上恐難成立。
「此案並非用戶自行製圖後上傳至X平台，」他說。
他補充道，在此案中「xAI自身生成圖像，已超出第230條適用範圍」。
俄勒岡州參議員龍·懷登主張，由其共同起草的第230條不適用於AI生成圖像，並表示企業應為此類內容承擔完全責任。
「很高興看到加州等州站出來，調查埃隆·馬斯克這款駭人的兒童性虐待材料生成器，」懷登週三向BBC表示。
懷登是要求蘋果與Google將X及Grok下架的三名民主黨參議員之一。
加州宣布調查之際，英國正籌備立法，將未經同意製作親密影像列為非法行為。
英國通訊管理局Ofcom也已對Grok啟動調查。
若認定該平台違法，可處以全球營收10%或1,800萬英鎊（以較高者為準）的罰款。
週一，斯塔默爵士告訴工黨議員，馬斯克的社群媒體平台X可能喪失「自律權利」，並補充道：「若X無法控制Grok，我們將採取行動。」