中國國家媒體駁斥 AI 虛假內容：專家籲建立信任資訊基礎設施
China's new challenge as natural disasters strike - fake AI videos
作者: https://www.facebook.com/bbcnews | 時間: Mon, 27 Jul 2026 22:07:23 GMT | 來源: BBC
f t
隨著中國處理過周末登陸的颱風諾爾後果，官員將痛感意識到他們可能面臨額外的挑戰：危險的誤導性影片是由人工智慧（AI）製作的。
近幾個月來強烈風暴和洪水事件，導致假影片湧入社交媒體平台——包括這些包括死體漂浮在洪水中、在未受影響地區錯誤描繪嚴重洪水以及具有明顯假設的緊急救援行動細節的圖片。
在部分地區，包含有關斷電虛假信息的影片促使居民恐慌性購買緊急物資。
其他影片利用真實事件獲利。
廣西橫州市在 7 月初發生洪水，導致數百條蛇從繁殖場逃脫。隨後，發表假圖像顯示鱷魚被放歸河中。
在涉及大規模疏散和複雜救援行動的原本緊張危險的情況下，當局希望避免恐慌。現在他們擔心中國投入數十億美元的人工技術——是提供了簡單、可訪問的工具，可用來欺騙公眾。
「許多內容創作者利用災難新聞嘗試獲得關注者，知道更具戲劇性或夸大的內容會獲得更多讚美和更多觀看次數。他們故意捏造信息以抓住人們的注意力，」浙江警察部門主管網絡公共安全的副主任黃志華告訴中國國家媒體。
近期幾週來，對於捏造報章和影片內容的製作，已有逮捕和懲罰——範圍從等待刑事訴訟的拘留到罰款。
但專家警告前所未有的誤信危機可能來臨。
在共產黨中央黨校報刊發表的文章中，陳斌教授說：「人工智慧大大降低了製造虛假信息的技术門檻。個人不再需要複雜的技術技能。通過簡單提示 AI 工具，他們可以快速生成令人信服的文本、圖像、音訊和影片… 這些高度真實但完全捏造的內容，是大規模製造的。」
東華政法大學高福平教授告訴 BBC，發布此類虛假內容的動機範圍從那些「為了創造一些有趣的事而不考慮後果」的人，到那些想要「為了個人利益生成流量」或希望故意「造成恐慌或社會動盪」的人。
「有些用戶認為網絡世界是匿名的且不受管制的，或者他們無法被追蹤，」他說。
有人呼籲所有人工智慧生成內容應清楚標記，但其他用戶隨後可以只是重新編輯材料，去除標記。
北京師範大學徐小科教授告訴 BBC，需要更大的努力來驗證帶時間戳的地理位置並檢查圖像來源。
「那說，我也強調檢測技術仍然滯後於生成技術。我們處於不斷貓鼠遊戲中。所以我們不應假設僅靠技術即可通過點擊按鈕識別人工智慧生成內容，」他警告道。
中國政府在努力成為領先的技術超級大國的過程中擁抱人工智慧。
2017 年，它宣布 AI 將是國家進程的「主要動力」。
大量資金注入尋求更多資本的 AI 企業，推動國內競爭。國家控制的通訊社新華社報導，該國有超過 6,000 家「AI 公司」。
在此氛圍下，徐教授認為中國需要建立「可信資訊基礎設施」。這可能包括官方政府預警系統和新聞組織可訪問的災害介面。
但曾有官方來源，包括政府控制的媒體，故意淡化災難，這導致了某些公眾對此領域的不信任。
7 月初，當地記者被要求「柔和」他們的語言，將南寧附近六瀾大壩牆壁的重大洩漏描述為「開口」或「缺口」。
官員似乎試圖讓洩漏聲響起來不那么驚慌，但後果是致命的。水從破損的大壩洩出導致下游至少 26 人死亡。
2021 年，當地官員被捕，被控隱匿或低估報告河南省份 139 人死亡。
類似這些事件導致信任真空，這使得壞分子更容易傳播虛假內容。
但警方懇求人們在緊急情況下信任認證來源。
「當遇到來自未知來源的災難相關信息時，應以懷疑態度接納它並依賴官方公告，」寧波公安局的閻凱說。
他也試圖安撫公眾，說捏造信息的人會被抓，說「網絡不是無法無天地區。公共安全部門將繼續加強打擊非法網絡活動的力度」。
「我們創建了一個專門的工作組，密切監視社交媒體，特別是短片平台。他們將迅速調查和處理這些案件，以非常嚴厲的方式進行打擊」。
懲罰範圍從罰款到如果誤信後果嚴重足夠的上限七年監禁。
7 月 23 日，中國網信局也宣佈對與洪水和其他災難相關的虛假網絡內容展開全國打擊，指示其地方分會專注於捕捉捏造數據、惡意編輯、佈景、歸因錯誤的歷史事件以及那些冒充官員的人。此外，它呼籲社交媒體平台加強審查其發佈的內容。
高教授認為「答案是公眾教育結合執法」，說需要「公佈人們受到懲罰的真實案例」。
他補充說「人工智慧生成虛假內容造成的傷害最終是結果——人們選擇如何使用技術——而不是技術本身」，並補充說現有法律足以處理它。
然而，其他人並不那麼自信。陳教授指出「AI 技術不斷演進的速度遠快於法律框架。隨著新的法律問題出現，AI 誤信信息仍然是一個相當大的挑戰。」
駐上海及華盛頓的律師彼得龐說，世界各地的律師們正在看到處理這些問題的案件數量激增。
他認為創建 AI 應用程式的公司以及用來發佈假影片和其他材料的平台必須與捏造信息的人一起被追究法律責任。
「第一道防線應該是平台，因為他們是促使者。他們是允許這走出去的人，」他告訴 BBC。
他使用了一個假設範例，即一人在社交媒體上因虛假帖子引發恐慌而碾過行人。
「影片創作者可能會說『你碾過一個人了。那是你的問題。我沒做。』但讓我們想一想。你創建了人們反應的基礎。如果你創建了那種恐慌，你需要為發生的後果承擔責任。」
徐教授警告說「人工智慧生成的誤信信息很可能不僅在數量上增加，而且在傳播速度上也會增加」。
「展望未來，政治選舉、公共衛生緊急狀況、武裝衝突、自然災害和影響人們生計的問題都可能成為人工智慧生成誤信信息的高風險領域。
「不應該等到虛假信息病毒式傳播後再嘗試控制它，政府與平台現在應提前準備。」