專家警告：海外內容農場正運用 AI 在社交平台散播英國政治假消息
Overseas 'content farms' creating political deepfakes uncovered
作者: Ben Summer | 時間: Tue, 10 Mar 2026 06:04:14 GMT | 來源: BBC
f t
國外「內容農場」正利用人工智慧（AI）創作出關於英國政治的社交媒體貼文，一名專家發出警告。
科技業者 Meta 在 BBC Wales 調查發現這些頁面散播假新聞後，移除了幾個位於越南的 Facebook 頁面。
這項來自卡迪夫大學馬丁·伊內斯教授的警告，正值選舉委員會研發軟體以辨識並對抗深度偽造影片，應對五月威爾斯及蘇格蘭議會選舉。
BBC Wales 也發現由威爾斯頁面分享的 AI 生成影片，虛假顯示威爾斯政客陷入尷尬情境，包括支持對手與親吻同事。多名威爾斯政客向 BBC 分享了他們作為深度偽造受害者的經驗。「我認為你找不到哪位政治家沒遇過這種情況... 說出來讓我覺得很難過，」勞工黨議員艾歷克斯·戴維斯 - 瓊斯說道。
深度偽造影片、圖片或音頻片段是經過數位修改或操作，使虛假內容看起來真實的事物。其中有些令人啼笑皆非，但另一些可能會損害個人聲譽。而文字轉圖像 AI 工具也使它們比以往更容易生成。
BBC Wales 發現多個 Facebook 頁面發布關於英國政治家的假新聞，通常配有 AI 生成的圖片。每個頁面都有數千名追蹤者，其中許多張貼相同或非常相似的內容。他們經常使用名稱暗示自己是英國新聞媒體 - 但透過 Facebook 的透明功能，可以看出幾乎所有這些頁面都是由越南操作的。雖然包含一些真實的新聞故事，但大量內容容易被證明是假的。
Meta 在收到 BBC 聯繫後移除了其中一些頁面，但在此調查期間，每天都有新頁面被創建。這些頁面經常描繪多位政治家，包括奈傑爾·法拉奇、鮑里斯·強生、里希·蘇納克和齊亞·優素福，處於相同的虛假情境 – 例如在與勞拉·庫恩斯伯格激烈爭論後離開 BBC 採訪。
沒有跡象顯示這些頁面是由任何政黨運作或代表其利益。卡迪夫大學犯罪與安全研究研究所所長馬丁·伊內斯教授說，這些頁面是設計用來引發病毒傳播的「內容農場」。它們隨後可能從 Facebook 的獲利計劃中為所有者賺錢，但無法確定每個頁面是否都實現了獲利。
Facebook 對一些故事標記了警告，表示這些已被第三方事實核查機構證明是假的 – 例如在全貌事實（Full Fact）揭穿了關於改革英國黨領袖奈傑爾·法拉奇進醫院的故事之後。但每次都可以找到非常相似且沒有此警告的故事。許多這些頁面張貼的故事似乎旨在獲得法拉奇支持者的注意，但並非所有都是正面的。
在一些中他被錯誤描繪成採納狗隻、捐獻個人財富給公益事業或歡迎新寶寶。但另一個顯示他被逮捕，連同 AI 生成的他戴手銬的照片。這些頁面還包含其他政治家，包括基爾·斯塔默爵士，虛假聲稱他在舞台上病倒、被起訴「選舉操縱」並卸任首相。
受害者不總是政治家 – 許多名人也被插入到同樣捏造的情境中。伊內斯說，這類頁面的運作是基於「盈利本能」，並且「會盡一切努力，只要他們認為能在內容上吸引關注就能賺錢」。其中一些貼文似乎獲得了很多讚好、留言和分享，而有些儘管追蹤者人數高卻幾乎沒有任何反應。
伊內斯說我們不能確定這些頁面數千名追蹤者是否都是真人，並指出頁面所有者通常使用機器人來「欺騙演算法」並將內容放入人們的資訊流中。評論區顯示並非每個看到這些內容的人都相信它。許多表達了懷疑或對假故事的惱怒 – 但也有些人似乎被其說服。
當 BBC 將發現的例子向 Meta 提出時，該公司移除了 Facebook 上的幾個頁面。它補充表示，它有政策反對在其平台上使用「不真實」的帳戶或頁面。
權力下放選舉將於五月七日在威爾斯和蘇格蘭舉行，同英國部分地區的地方選舉一樣。先前曾有警告稱英國所謂的「深度偽造選舉」 – 並對是否曾實現過有混合意見。
阿蘭·圖靈研究所（Alan Turing Institute）這個國家數據科學與 AI 中心發現「沒有證據」顯示 AI 啟用的深度偽造或誤導性資訊對二〇二四年大選結果產生有意義的影響。但幾乎兩年後，創造這類內容的「入場門檻」已降低，伊內斯說道。
「過去進行這種圖像（或）影片處理需要相當多的運算能力和技術知識，現在不再需要了。」他說，這可能會產生「涓滴效應」，讓影片開始影響下放權力政治。風險已經足夠高，選舉委員會介入處理。
這個監督和監管英國選舉的獨立機構正與內政部合作開發軟體以識別、追蹤和報告深度偽造。其執行長維賈伊·拉加吉安表示這將「幫助選民在選舉競選期間識別誤導性資訊，並減少對選民信任度產生負面影響的活動」。
在此宣布後，BBC 識別出多個近期生成的威爾斯政客 AI 生成假影片。這些影片的合計觀看次數超過二十萬次。其中包括首相斯塔默與威爾斯首席大臣艾倫德·摩根親吻的假影片，以及另一次由威爾斯黨領袖魯恩·阿波伊沃斯喊出「我愛改革」的影片。
這兩個影片後方 Facebook 頁面所有者稱它們是「明顯」諷刺。他們補充表示信任觀眾使用「常識」，但在標題中指出了影片是假的。另一個由反改革頁面分享的另一個顯示奈傑爾·法拉奇身後有威爾斯旗幟。在影片中，他喊道：「英國很棒；我不認為有必要有四支不同的運動隊伍和四個不同議會。」
沒有記錄顯示法拉奇說過這些話，而影片以與 AI 生成一致的方式出現扭曲。該影片後方的頁面已聯繫要求評論。伊內斯說，這類特定例子更接近「淺偽」而非「深度偽造」 – 意味著它們不太真實且是使用較不明顯的軟體創建。
但他補充說，辨識假貨變得「越來越難」，他的團隊有時花費一天時間「仔細研究」較複雜的例子。他說選舉委員會對抗深度偽造的計劃可能「幫助我們在事後了解事物」，但無法阻止或防止深度偽造影響選舉。
代表龐迪普里德、拉南康納谷的戴維斯 - 瓊斯表示，她遭受了「令人毛骨悚然」的深度偽造，包括顯示她穿內衣處於「粗俗性愛姿勢」。她補充說，對非自願性深度偽造發出聲音可能會「令人尷尬」並導致「針對性增加」 – 它們的存在對任何健康民主都「沒好處」。
魯恩·鮑威爾，改革英國黨在卡菲利補選的候選人，表示他的團隊發現了由 AI 生成關於他和同事的影片，強加於他口中言論，謊報其政策。鮑威爾說他「支持言論自由」和表達自由，但在 AI 使用導致「一些人認為這是事實而非惡搞」時存在問題。
他補充：「我們不願犧牲本國已獲得的自由，但同時公眾有權了解被餵送的資訊，工具在此處被濫用就像任何事物都可能被濫用一樣。」阿貝孔威選區的保守黨議員珍妮特·芬奇 - 桑德斯表示，當她看到自己的照片以「非常令人噁心的方式」編輯創建明確深度偽造時感到「作嘔」。
她說假貨對那些「較不懂科技」的人可能具有「極度誤導性」 – 「這確實令人擔心，因為現在能力遠更多」。當你在政治界……或是你的任何工作領域，你不應受到個人攻擊。當然也不應用 AI 來貶低你。「
威爾斯黨同僚卡門·史密斯女男爵表示：「深度偽造確實是民主的威脅，但也是對許多人的威脅，無論是你的姐妹、朋友或同事。我們必須跟上 AI 工具開發的最新進展……現在是我們需要解決和優先處理的事務。」
英國與威爾斯綠色黨副領袖雷秋·米爾沃德表示，她自己曾受到「厭女深度偽造」的對待，並呼籲英國政府監管 AI 產業，防止這類內容「損害未來選舉的合法性」。一位威爾斯自由民主黨發言人表示深度偽造是「對政治譜系各政黨政治家安全的威脅」，並呼籲「跨國行動」。
英國科學、創新與技術部門表示，深度偽造「播下分裂、散佈虛假資訊和影響公眾意見的潛力」是「公認存在的」。它表示社交媒體平台必須在《線上安全法案》下「主動解決非法欺詐內容」，否則將面臨執行行動。
BBC Wales Your Voice Live：Ask the Leader 希望你能在現場並向威爾斯政黨的領袖提出問題。點擊此處於四月八日在哈弗福德韋斯特向威爾斯保守黨、威爾斯黨和威爾斯自由民主黨的領袖提出你的問題。點擊此處於四月十五日在蘭德盧多向威爾斯勞工黨、改革英國黨和威爾斯綠色黨領袖提出你的問題。