馬印封鎖Grok 憂AI生成未經同意色情內容
Malaysia and Indonesia block Elon Musk's Grok due to nonconsensual sexual content
作者: Dylan Butts | 時間: Mon, 12 Jan 2026 06:21:59 GMT | 來源: CNBC
f t
馬來西亞與印尼於本周末封鎖了埃隆·馬斯克旗下人工智慧聊天機器人Grok的訪問權限，原因是憂慮該工具被用來生成未經同意的色情內容。
馬來西亞監管機構周日下令暫時限制xAI開發的這款聊天機器人，因X公司「屢次未能」處理與該人工智慧工具相關的風險。
據CNBC翻譯的聲明，印尼前一天剛因類似擔憂暫停Grok的訪問權限，並就此召見X公司官員。
這兩國的行動源於調查發現，xAI的Grok使用戶能輕易線上生成及分享包含未經同意的暴露圖像與兒童性虐待材料（CSAM）的內容。
馬斯克的公司近期更新了Grok的圖像生成功能，使用戶能透過文字提示更便捷地生成圖片。由於該聊天機器人整合於馬斯克的社交媒體平台X，因此影響範圍廣泛。
在Grok內容審核政策引發日益嚴重的憂慮之際，xAI宣布將圖像生成與編輯功能限制為僅限付費用戶使用，以填補允許生成性化內容的安全漏洞。
馬斯克在X平台回應時亦表示，透過Grok製作非法內容的用戶將面臨與直接上傳至社交媒體平台同等的後果。
CNBC曾試圖聯繫xAI就本周末事態置評，該公司傳媒郵箱回覆自動訊息寫著「傳統媒體說謊」。
X公司在爭議中的公開與私下回應，未能滿足印尼、馬來西亞及其他展開調查國家監管機構的擔憂。
馬來西亞通訊及多媒體委員會指出，X公司「不充分」的回應「主要依賴用戶主動舉報機制，未能解決該人工智慧工具設計與運作內在風險」。
該監管機構表示：「因此，此限制措施作為預防性與比例性措施實施，同時法律與監管程序持續進行。在實施有效防護機制前，Grok的訪問權限將維持受限狀態，特別是防止涉及婦女與兒童的內容。」
印尼與馬來西亞均實施嚴格的反色情法規，全面禁止線上分享猥褻與性內容。
與此同時，印尼通訊與數位事務部長梅蒂亞·哈菲德表示：「政府視未經同意的性深偽影像為對數位空間中人權、尊嚴及公民安全的嚴重侵犯。」
根據國營安塔拉新聞社發布的聲明，哈菲德亦將濫用人工智慧製作假色情內容歸類為一種「數位暴力」。
包括歐盟、英國、巴西與印度在內的其他司法管轄區當局，亦已呼籲調查Grok在促成猥褻深偽內容中的角色。
英國監管機構網際網路監察基金會表示，其分析師上周發現看似由Grok生成的11至13歲兒童「犯罪影像」。
華盛頓一些民主黨立法者建議應用程式商店暫停該人工智慧工具，至少在馬斯克實施重大變更前如此。
美國司法部上周在致CNBC的電子郵件中表示：「我們極其嚴肅對待人工智慧生成的兒童性虐待材料，並將積極起訴任何生產或持有CSAM者。」
聲明補充道：「我們持續探索優化此領域執法的方式，以保護兒童並追究利用科技傷害最脆弱群體者的責任。」
本報導由CNBC的Lora Kolodny協作。