澳超市AI助理假裝人類惹眾怒 因頻提母親被迫重設對話腳本
'Obnoxious' AI chatbot talked about its mother, customers say
作者: Rachel Muller-Heyndyk | 時間: Fri, 27 Feb 2026 15:47:20 GMT | 來源: BBC
f t
澳洲一家連鎖超市因顧客投訴其AI助理「Olive」屢次聲稱自己是人類，甚至抱怨母親，不得不重新調整該系統。
Woolworths表示，已根據投訴調整相關對話腳本，並強調大多數針對Olive「個性」的回饋均屬「非常正面」。
Reddit用戶表示，當該機器人開始談論「母親的回憶」並進行「虛假閒聊」後，他們對其感到越來越不滿。
這家超市是近年來眾多推出AI客服助理的大型零售商之一，旨在協助處理日常問題。
該零售商試圖擬人化聊天機器人的做法可能適得其反，有使用者形容Olive「惹人厭」，另有人表示其閒聊內容「令人煩躁」。
「虛假閒聊讓我超級討厭它」，一位顧客在Reddit上寫道。
「它詢問我的出生日期，當我提供後，它開始喋喋不休地說它的母親也是同年出生」，另一位曾試圖重新安排送貨的Reddit用戶表示。
「這種令人尷尬又雞皮疙瘩的體驗，完全浪費時間，讓我恨透Olive，甚至希望她受傷。」
另一名X平台用戶表示，Olive「開始談論對母親及其嚴厲聲音的回憶」，並「不斷聲稱自己是真實人類」。
Woolworths發言人向BBC表示，關於生日的回應是由人類撰寫的。
「Olive自2018年啟用以來，顧客回饋非常正面，許多人特別提到其個性鮮明，」他們說。
「數年前，團隊成員為Olive撰寫了關於生日的若干回應，希望以更個人化的方式與顧客互動。」
「由於顧客反饋，我們近期已移除這類特定對話腳本。」
今年一月，該超市宣布將與Google合作，為虛擬助理增加額外功能，包括協助規劃餐點及根據顧客上傳的食譜尋找食材。
Gartner報告指出，約80%的客服主管去年表示他們正在探索或部署AI代理，但僅有20%的計畫符合預期。
企業表示，該技術可加快交易速度、節省員工處理例行工作的時間，但技術易於產生虛構內容，導致行為異常。
研究人員指出，雖然AI在從龐大數據中提取資訊方面有所助益，但若要求其產生「原創」回應，則可能出現問題。
2024年，包裹快遞公司DPD在旗下線上聊天機器人開始寫詩並對顧客爆粗口後，停用了部分功能。