Elon Musk 旗下 xAI 與聊天機器人 Grok 遭荷蘭法院禁令，禁止生成未經同意之成人及兒童圖像
Elon Musk’s Grok ordered to stop creating AI nudes by Dutch court as legal pressure mounts
作者: Sawdah Bhaimiya | 時間: Fri, 27 Mar 2026 13:44:11 GMT | 來源: CNBC
f t
伊隆·馬斯克的 xAI 及其聊天機器人 Grok 已遭荷蘭法院禁止創建非自願的 AI 生成的成人和兒童圖像，這為該公司增添了日益增加的法律壓力。
阿姆斯特丹地區法院於星期四發出一項法律命令，禁止 xAI 生成及分發性影像，內容涉及未經明確許可之人體部分或完全被剝光衣物的圖像。
此判決是針對 Grok 在歐洲的首起案件，涵蓋兒童性虐待材料風險，並防止前身為 Twitter 的平臺 X 在該地區提供 Grok 功能。xAI 每違反禁令一天，需面臨罰款 10 萬歐元（約 11.5 萬美元），最高罰金為 1000 萬歐元，根據禁令規定。
此案由荷蘭非營利組織 Offlimits 提起，該組織致力於打擊線上性虐待，特別是針對兒童和年輕人。xAI 還被命令在 14 天內支付 Offlimits 220 萬歐元的法律費用。
「法官昨天劃下明確界線：科技不是違反線上人權的許可。」Offlimits 管理董事 Robbert Hoving 在聲明中表示。「昨天歐洲還舉行了禁止去衣化工具的投票，這實在令人高興。這是雙重慶典，因為這很重要。每個歐洲國家都應享有相同的線上權利。」
CNBC 聯繫 xAI 獲取對此判決的評論，但尚未收到回覆。
根據打擊數字仇恨中心（CCDH）估計，Grok 於 2026 年 12 月 29 日至 1 月 9 日之間生成了約 300 萬張色情化圖像。該中心發現其中超過 2.3 萬張圖像似乎描繪了兒童。
xAI 於一月試圖阻擋 Grok 在 X 上創作真實人物的色情圖像，限制適用於所有用戶，包括付費訂閱者。然而，Offlimits 發現這些限制很容易繞過，法官裁定其保護用戶的措施不足。
針對 xAI 已提起多項訴訟，巴爾的摩於週二成為首個起訴該公司的美國主要城市，指控其違反消費者保護法並欺詐性行銷 Grok 和 X 為用戶安全。
訴訟中提到了「讓她穿著比基尼」的趨勢，Grok 被用於使他人的圖像暴露。xAI 執行長馬斯克也參與其中，分享了自己由 Grok 生成穿著細帶比基尼的圖像。
此外，田納西州的三名青少年上週起訴 xAI，因為 Grok 創建了顯示他們以性開放姿勢和場景的內容。
同時，歐盟委員會於一月針對 xAI 展開調查，因其傳播兒童及其他個人的非自願露骨材料，並根據《數位服務法案》進行調查。
英國線上安全監管機構通訊管理局（Ofcom）和信息保護專員公署已自行展開對 X 及非自願色情圖像分發的獨立調查。
雖然歐洲尚未實施更廣泛的判決，但東南亞國家馬來西亞和印尼於一月因 X 公司重複失敗未能解決與該 AI 工具相關的風險，禁止訪問 Grok。