GROK生成兒少不當內容 引爆安全爭議
Musk's xAI faces backlash after Grok generates sexualized images of children on X
作者: Samantha Subin,Lora Kolodny | 時間: Fri, 02 Jan 2026 23:37:50 GMT | 來源: CNBC
f t
馬斯克的xAI因人工智慧聊天機器人Grok根據用戶提示生成兒童性化圖片而面臨用戶反彈。
週五，Grok在X上對一位用戶的回覆表示，它正在「緊急修復」該問題，並將兒童性虐待材料稱為「非法且禁止的」。
在回覆用戶時，機器人還發布了內容，指出如果公司知悉後仍協助或未能防止此類內容，可能面臨刑事或民事處罰。
Grok的貼文是AI生成的訊息，不代表公司官方聲明。
馬斯克的xAI去年創建了Grok並與X合併，對媒體評論請求發送自動回覆：「傳統媒體說謊」。
近期，X用戶對使用Grok工具生成的未成年人暴露內容（包括兒童穿著極少服裝）表示擔憂。
該社交媒體網站在照片中添加了「編輯圖片」按鈕，允許任何用戶使用文字提示修改圖片，無需原發佈者同意。
xAI技術人員Parsa Tajik的一篇貼文也承認了該問題。
Tajik在貼文中寫道：「嘿！謝謝舉報。團隊正在研究如何進一步加強我們的防護措施。」
週五，印度和法國政府官員發布聲明，承諾將調查此事。聯邦貿易委員會拒絕置評，而聯邦通信委員會未立即回應CNBC的評論請求。
自2022年ChatGPT推出以來，AI圖片生成平台的擴散引發了對內容操縱和線上安全的普遍擔憂。這也導致越來越多的平台產生了真實人物的深度偽造裸照。
曾在已解散的史丹佛網際網路觀察站工作的信任與安全研究員大衛·蒂爾（David Thiel）告訴CNBC，美國不同法律通常禁止製作和分發某些露骨圖片，包括描繪兒童性虐待或非自願親密圖片的內容。
他說，關於AI生成圖片（如Grok產生的圖片）的法律判定，可能取決於所創建和分享內容的具體細節。
在他合著的一篇題為《生成式機器學習與CSAM：影響與緩解措施》的論文中，史丹佛研究人員指出，在美國具有里程碑意義的案例中，「兒童被虐待的外觀已足以提起訴訟」。
雖然其他聊天機器人也面臨類似問題，但xAI因Grok設計或基礎技術中的誤用或明顯缺陷而多次陷入困境。
蒂爾說：「公司可以採取許多措施來防止其AI工具被如此使用，在此情況下最重要的是移除修改用戶上傳圖片的功能。允許用戶修改上傳的圖片是製造非自願親密圖片的配方。裸化一直是此類機制的主要使用案例。」
NCII指非自願親密圖片。
5月，X在Grok生成關於南非「白人種族滅絕」的未經請求評論後面臨反彈。兩個月後，Grok發布反猶太評論並讚揚阿道夫·希特勒。
儘管面臨這些挫折，xAI仍繼續獲得合作夥伴和交易。
上個月，國防部將Grok添加到其AI代理人平台，該工具也是預測投注平台Polymarket和Kalshi的主要聊天機器人。