馬印率先禁用Grok AI 遏止情色深度偽造危害婦幼
Malaysia and Indonesia block Musk's Grok over explicit deepfakes
作者: Osmond Chia | 時間: Mon, 12 Jan 2026 05:21:33 GMT | 來源: BBC
f t
馬來西亞和印度尼西亞已阻止對埃隆·馬斯克的人工智慧（AI）聊天機器人Grok的訪問，因其能產生情色深度偽造內容。
Grok是馬斯克X平台上的工具，允許用戶生成圖像，但最近被用來編輯真實人物的圖像，使其穿著暴露的服裝。
這些東南亞國家表示，Grok可能被用來產生涉及婦女和兒童的色情及非自願圖像。它們是世界上首個禁止該AI工具的國家。
英國也面臨越來越多的壓力，要求阻止Grok，其科技部長表示她將支持此舉動，導致馬斯克指控政府試圖壓制言論自由。
馬來西亞和印度尼西亞的通信部於週末分別發表聲明，宣佈針對Grok的行動。
馬來西亞通信及多媒體委員會週日表示，今年早些時候已向X發出通知，要求採取更嚴格措施，因其發現Grok被「反覆濫用」來生成有害內容。
但監管機構表示，在回應中，X未能解決其平台設計的固有風險，主要聚焦於用戶的舉報流程。
它補充道，Grok將被阻止，直至實施有效保障措施，並呼籲公眾舉報有害在線內容。
印度尼西亞通信與數位事務部長梅蒂婭·哈菲德在Instagram上發文表示，使用Grok生成情色內容違反人權、尊嚴及在線安全。
該部也要求馬斯克的X就Grok的使用提供說明。
近年來，印度尼西亞當局已打擊其他在線色情材料來源，如OnlyFans和Pornhub等平台在該國已被禁止。
發現自己被操縱圖片出現在平台上的印尼X用戶表示，他們對此事被允許發生感到憤怒。
基拉娜·阿尤寧蒂亞斯是一位輪椅使用者，她在網上分享日常經歷，發現陌生人對她的圖片評論，要求Grok將她描繪成穿著比基尼的樣子。
阿尤寧蒂亞斯表示，她調整了隱私設置並聯繫平台移除圖片，以防止用戶編輯她的照片。
「不幸的是，這些都沒真正奏效，」她說，並補充道，很難確定是否有人保存這些圖片。
她請朋友舉報發布她偽造圖像的賬戶，但這樣做意味著更多人看到編輯後的圖片，對她來說非常尷尬。
BBC已聯繫Grok平台徵求評論。
全球領導人譴責使用Grok生成情色圖像，包括英國首相基爾·斯塔默，他稱之為「可恥」和「令人作嘔」。
該國科技部長莉茲·肯德尔也表示，如果監管機構Ofcom因X未能遵守在線安全法而阻止其在英國的訪問，她將支持此舉。
她表示，英國的《在線安全法》「包括阻止服務在英國被訪問的權力，若其拒絕遵守英國法律」，並「若Ofcom決定使用這些權力，我們將全力支持」。