AI濫用考驗監管 英國網路安全法迎關鍵修訂
What a new law and an investigation could mean for Grok AI deepfakes
作者: Zoe Kleinman | 時間: Mon, 12 Jan 2026 19:38:53 GMT | 來源: BBC
f t
這就是我，在夏天時站在多塞特郡碼頭的盡頭。
這兩張圖像由人工智慧工具Grok生成，該工具免費使用，屬於埃隆·馬斯克所有。
效果相當逼真。我從未穿過這件搶眼的黃色滑雪服，也沒穿過那件紅藍相間的外套——中間的照片才是原圖——但由於這些圖片的存在，我甚至不知該如何證明這一點。
當然，Grok正因脫去女性衣物而非為其穿衣而遭到抨擊，而且是在未經當事人同意的情況下進行。
當他人發出指令時，它會生成人們身穿比基尼或更暴露的圖片，並將結果公開發布在社交平台X上。
另有證據顯示，它曾生成兒童的性化圖像。
在引發數日的公憤與譴責後，英國網路監管機構通訊管理局表示，正在緊急調查Grok是否違反英國網路安全法。
政府希望通訊管理局能盡快處理此事。
但若想避免被指攻擊言論自由（這一點自《線上安全法》誕生之初便飽受爭議），通訊管理局必須徹底執行程序。
埃隆·馬斯克近日在該話題上異常沉默，這表明連他自己也意識到事態嚴重性。
不過，他確實曾發文指責英國政府試圖尋找「任何藉口」實施審查。
並非所有人都認為這項辯解在此事件中成立。
活動人士艾德·牛頓·雷克斯表示：「利用AI為照片中的人脫衣並非言論自由，而是濫用。當女性在X平台上發布的每張照片都立即招來公眾回覆，內容是她們被『修圖』成比基尼模樣時，這已嚴重出錯。」
有鑑於此，通訊管理局的調查可能耗費時日，來回角力將考驗政治人物與公眾的耐心。
這不僅對英國《線上安全法》是關鍵時刻，對監管機構本身亦然。
它絕不能在此事上犯錯。
通訊管理局此前曾被指缺乏威力。這部歷經多年制定的法律，去年才全面生效。
截至目前，它僅因違規開出三張相對微小的罰單，且無一繳清。
《線上安全法》也未明確提及AI產品。
雖然目前分享非自願的親密影像（包括深偽技術製品）屬非法，但要求AI工具創建此類影像尚不違法。
這種情況即將改變。政府將於本周實施一項新法，使創建此類影像成為非法行為。
英國還表示，將修訂另一項正在國會審議的法律，使企業提供用於生成此類影像的工具也屬違法。
這些規則早已存在，但實際上並不屬於《線上安全法》，而是另一部稱為《資料（使用與取用）法》的立法。
儘管政府數月來多次宣佈即將實施，這些規定卻遲遲未啟動執法。
今日的宣佈顯示政府決心平息「監管進度過慢」的批評，證明其在必要時能迅速行動。
不僅Grok將受影響。
本週生效的新法可能令其他擁有AI工具的業者頭痛，因這些工具技術上大都具備生成此類影像的能力。
各界也已提出疑問：此法究竟如何執行？Grok之所以曝光，是因為它將輸出結果發布在X平台上。
若某工具被個人用戶私下使用，他們設法繞過防護機制，而生成內容僅與特定人分享，又該如何被發現？
若X平台被認定違法，通訊管理局可對其處以最高達全球營收10%或1,800萬英鎊（以較高者為準）的罰款。
甚至可能試圖在英國封鎖Grok或X平台。但這也可能引發政治風暴。
去年我出席巴黎AI峰會時，目睹副總統JD·萬斯直言美國政府對外國試圖監管其科技企業已「感到厭煩」。
在座眾多世界領袖當時鴉雀無聲。
然而，科技企業在白宮內部擁有強大影響力，其中幾家更已投資數十億美元於英國AI基礎設施。英國負擔得起與它們交惡嗎？