通訊管理局緊急聯繫馬斯克xAI公司 因Grok被控生成兒童性化影像及非自願去衣圖像
Ofcom asks X about reports its Grok AI makes sexualised images of children
作者: Chris Vallance | 時間: Mon, 05 Jan 2026 17:43:50 GMT | 來源: BBC
f t
通訊管理局（Ofcom）在收到報告指稱伊隆·馬斯克（Elon Musk）旗下的xAI公司開發的AI工具Grok被用於製造「兒童性化影像」並為女性「移除衣物」後，已對該公司進行「緊急聯繫」。
該監管機構發言人表示，他們也正在調查Grok被指製造「未經同意的裸露影像」的相關投訴。
BBC發現社交媒體平台X上有多起案例，使用者要求該聊天機器人修改真實照片，讓女性在未經同意的情況下以比基尼泳裝示人，或將其置於色情情境中。
X平台尚未回應置評請求。週日，該平台發布警告，呼籲使用者不得利用Grok生成包括兒童性虐待內容在內的非法資料。
馬斯克也發文表示，任何要求AI生成非法內容者，將「承擔與親自上傳相同之法律後果」。
xAI自身可接受使用政策禁止「以色情方式呈現他人肖像」，但仍有使用者利用Grok未經同意地對人物進行數位移除衣物。
凱特王妃的影像也成為Grok使用者在X平台上數位「移除衣物」的對象之一。
BBC已向肯辛頓宮徵求評論。
歐盟執行機構歐盟委員會週一表示，正「嚴肅調查此事」，法國、馬來西亞及印度當局據報也在評估相關情況。
與此同時，英國網路觀察基金會（IWF）告知BBC，已收到民眾通報X平台上由Grok生成的相關影像，但迄今未發現達到英國法律認定兒童性虐待影像標準的內容。
Grok是一款免費虛擬助理工具，部分進階功能需付費，當使用者在貼文標註Grok時，它會回應相關提問。
記者珊曼莎·史密斯（Samantha Smith）日前發現有人用該AI生成自己穿比基尼的圖片，她向BBC的《PM》節目表示，這讓她感到「被剝奪人性，淪為性別刻板印象」。
「雖然圖中人物並非我真的裸露，但那長得像我、感覺像我，違背感就如同有人真的張貼我的裸照或比基尼照片。」她說。
根據《線上安全法》（OSA），Ofcom指出，未經同意創建或分享他人親密或色情影像——包括以AI生成的深度偽造內容——屬違法行為。
科技公司亦被要求採取「適當措施」，降低英國用戶接觸此類內容的風險，並在知悉後「迅速」下架。
科技、創新與技術委員會主席翁沃拉女爵士（Dame Chi Onwurah）表示，相關報導「極其令人不安」。她指出，委員會認為《線上安全法》「嚴重不足」，並譴責這是「英國民眾受不到保護、而社群媒體公司卻肆無忌憚的駭人案例」，呼籲政府應落實委員會建議，強制社群媒體平台「對其內容負起更大責任」。
歐盟委員會發言人湯瑪斯·雷尼耶（Thomas Regnier）週一表示，已知悉Grok所發布的「顯露性內容」貼文，以及「以兒童形象生成的部分內容」。
「這是非法的，」他表示，並將之形容為「令人髮指」且「令人作嘔」。「我們就是這樣看待此事，這在歐洲沒有容身之處。」
雷尼耶指出，X平台「非常清楚」歐盟對數位平台規則的執法態度極其嚴肅——去年12月，歐盟曾因X違反《數位服務法》對其開出1.2億歐元（約1.04億英鎊）罰款。
內政部發言人表示，政府正立法禁止數位去衣工具，並新增刑事罪名，任何提供此類技術者將「面臨監禁及高額罰款」。