TikTok 收回引發爭議的 AI 摘要功能 曾將名人誤稱水果
TikTok scales back AI-generated video descriptions after absurd errors
作者: Liv McMahon | 時間: Fri, 08 May 2026 09:20:40 GMT | 來源: BBC
f t
TikTok 已收回一項 AI 功能，該功能在平台上的部分影片提供了不正確的摘要，甚至聲稱某位名人是水果。
該公司的「AI 概覽」最近開始出現在平台內容下方，以描述影片內容或提供更多背景資訊。
雖然僅在美國和菲律賓向部分用戶推出，但其對 TikTok 內容生成的錯誤且離奇的 AI 摘要——出現在像 Charli D'Amelio 等平台明星的影片下方——已廣泛流傳。
根據 TikTok 說法，其實驗性摘要已調整，僅建議類似影片中顯示的產品。
與大多數 Google 搜尋結果頂部的 AI 摘要類似，TikTok 的 AI 生成摘要會對部分用戶嘗試總結影片內容，當他們點擊查看更多影片說明時會顯示。
一些用戶截圖並被 BBC 看到的例子顯示平台上的影片被準確描述，但 Business Insider 也識別出一些"極度不準確"的 AI 摘要。
其中包括一個將舞者 Charli D'Amelio 的影片描述為"帶有不同配料的藍莓集合"的案例，該出版物表示。
該影片在 Shakira 和 Olivia Rodrigo 等名人與藝術家的其他 TikTok 影片上看到了類似模糊、不準確和怪異的 AI 生成摘要。
對 TikTok 在影片上測試 AI 摘要的帖子反應最早出現在一月。
但似乎摘要已更廣泛可用，幾名用戶和創作者在四月晚些時候指出 AI 生成描述包含荒謬錯誤。
最近在 Reddit 分享的一個例子顯示球室舞者 Reagan 和 Juli To 的表演在 TikTok 上的 AI 摘要中被描述為"不斷用橡膠雞敲打頭部的人"。
其他由 TikTok 用戶分享的例子包含類似奇怪描述。
例如，兩個獨立影片的 AI 摘要說它們包含"不斷用錘子敲打頭部的人"，這兩個影片都沒有暴力或工具。
"新的 AI 摘要太糟糕了，感覺像是個玩笑，"TikTok 用戶和創作者 Brett Vanderbrook 在他的影片旁邊寫道。
他展示了多種例子，其中 TikTok 的 AI 功能為影片中發生的事情編造了奇怪描述——例如一個喜劇小品被描述為某人"示範一種切割水的新、巧妙技巧"。
TikTok 表示它已識別出 AI 摘要錯誤和不一致的原因，但未詳細說明這是什麼。
但生成式 AI 工具在回應用戶時經常胡說八道，總結或生成資訊，錯誤可能從可笑到潛在有害性質不等。
Google 在 2024 年遭到廣泛嘲笑，其 AI 摘要結果告訴用戶要吃石頭和"膠水披薩"。
Apple 隨後因一個設計用於總結通知的 AI 工具為 BBC News 和 New York Times 應用程式創建虛假新聞標題而受到批評。
該科技巨頭掛起該功能，說它將改進並更新它。
此後 AI 開發繼續進行，企業聲稱技術在能力和準確性方面已大幅改進，但所謂的"幻覺"仍然存在。
然而，ChatGPT 製造商 OpenAI 最近表示它識別出"哥布林"和"小精靈"竊入了其系統回應——它認為這是由於訓練具有書呆子個性後激勵提及這些生物的工具所致。
出現於法院陳述中的虛假案例法或引文同時引發了關於法律環境中 AI 使用的警告，AI 錯誤也被報導導致一些政府出現問題。