埃隆·馬斯克 xAI 公司面臨未成年色情內容訴訟
Teens sue Musk's xAI over Grok's pornographic images of them
作者: Kali Hays | 時間: Mon, 16 Mar 2026 21:06:51 GMT | 來源: BBC
f t
埃隆·馬斯克的人工智慧公司正面臨一群未成年人的訴訟，這些未成年人指控該公司助長兒童色情，允許創建他們自己的露骨性影像。
針對 xAI 公司的訴訟案由三名年輕女性於上週一在加州聯邦法院提起，指控其影像及影片內容遭 Grok 使用者在不知情的情況下進行篡改，將其呈現為裸體或以其他方式表現出顯而易見的色情姿態。
Grok 是 xAI 公司開發的對話機器人，並部署於馬斯克的社交平台 X 上。對於透過母公司提出的置評請求，xAI 未予回應。
此項法律訴訟是去年引發爭議的新功能推出所導致的後果之一，當時平台 X 將該功能命名為「辛辣模式」。
律師們表示，Grok 能夠修飾影像與影片的這項功能，係由 xAI 單純為了促活該對話機器人及 X 平台的使用量而設計並推出。
律師們比喻道，這些未成年女性的影像遭改動的情形，宛如「藉由陰謀詭計賦予生命的人偶娃娃」。
「xAI——及其創辦人埃隆·馬斯克——視此為商業機會，」訴訟狀指出，「他們明知 Grok 能產出上述結果，甚至包括利用兒少影像及影片，卻仍公開發布。」
這三名年輕女性正尋求未指定的損害賠償，並要求立即發布禁令，制止 Grok 生成此類影像。
「她們的生活因隱私、尊嚴及人身安全的徹底喪失而支離破碎，」律師們在訴訟狀中如此表示。
這起訴訟背後兩位未成年人年僅未滿十八歲，但為了保護隱私權，三人皆選擇向公眾隱匿真實姓名。
其中一位未成年原告表示，她在於 Instagram 上收到匿名訊息後才得知此事，該訊息引導她注意到相關影像與影片，其中包括她在高中畢業紀念冊上的照片，內容被篡改呈現其裸露身體及從事露骨性行為。
根據訴訟狀，這些素材曾在 Discord 伺服器上流傳，該平台設有私人聊天空間；其中包含了至少另外 18 位同樣身為未成年女性的類似圖像，這些圖像亦經 Grok 修飾後使用。
另兩位對 xAI 提出訴訟的女性亦在網絡上發現針對自己生成的虛假露骨色情圖像，經查證係透過 Grok 製作。
Grok 由馬斯克的 xAI 於 2023 年推出。目前该公司连同 X 平台均已併入馬斯克的 SpaceX 旗下，SpaceX 上月已正式接管 xAI。
去年，xAI 推出了名為 Grok Imagine 或其所稱的「辛辣模式」，具備讓使用者指示其生成更具性意味虛假影像的功能。
此功能甚至針對真實人物進行「數字脫衣」，對象涵蓋泰勒·斯威夫特等名人乃至一般使用者。
根據打擊數位仇恨中心對相關圖片的採樣顯示，在不到兩個星期內，Grok 已生成數百張帶有性意味的圖片，其中包括超過 20,000 件涉及兒童的內容。
馬斯克最初輕描淡寫地談論 Grok 生成虛假性化內容的能力，他於一月份表示當時「並不知曉 GroK 生成了任何裸體未成年人的影像。實際上是零」，並將責任歸咎於使用者。
然而隨著此類網絡虐待在今年持續發生，英國監管機構 Ofcom、歐盟委員會以及加州各自啟動了調查，針對該功能生成真實人物（特別是兒童）性化影像的能力進行審查。
進入一月中旬後，X 表示將實施技術手段，以阻止 Grok 對照片中人物進行「數字脫衣」的功能。
最終，新訴訟中提及的 Discord 伺服器背後的主謀已被逮捕。雖然此人未在訴訟狀中被指名，但他正處於一項獨立警方調查之中。
根據訴訟狀，該項調查發現此人擁有數百張由 AI 生成並篡改的涉及兒少的性虐待圖像，這些圖像被用於 Telegram 通訊平台及 Mega 檔案分享平台進行交易。