塞恩斯伯里超市因 AI 誤判顧客為扒手而暫停使用面部識別技術
Sainsbury's branch halts AI use as shopper ejected
作者: https://www.facebook.com/bbcnews | 時間: Mon, 17 Aug 2026 04:57:21 GMT | 來源: BBC
f t
馬特·阿諾德表示，他曾被由 AI 驅動的攝影機錯誤地標記為竊盜者。
塞恩斯伯里超市已暫停其在倫敦其中一家分店使用即時面部識別技術，原因是有位顧客被錯誤指控為扒手並被告知必須離店。
46 歲的馬特·阿諾德在東達爾維奇（East Dulwich）分店購物時，曾被管理層在自助結帳處攔下。
他將這段經歷形容為「對未來恐怖的一瞥」，並警告說零售監控技術有風險讓顧客蒙羞，且創造出一種系統，使得員工感到被迫使必須遵循自動警報而不運用人類邏輯。
該超市表示已向阿諾德道歉，並聲稱錯誤是「由人為疏失造成」，但批評者呼籲廢除該技術。
事件發生於 8 月 6 日，當時身為喜劇推廣人的阿諾德正在籌備下一場在隔壁達爾維奇海姆萊特足球俱樂部（Dulwich Hamlet Football Club）舉辦的單口相聲活動所需的物資，正等待一名員工批准其購買酒精飲品。
他已掃描商品並使用他的 Nectar 忠誠卡，因此揮手示意要一位服務人員過來處理。
他表示，自己反而遭到兩名管理層員工接近，被告知不能服務他，原因是「本週早些時候發生了一起事件」。
「他們過來告訴我必須離開，」他告訴 BBC 倫敦，「一名員工說我已被 AI 識別，攝影機將我標記為問題人物。」
「竊盜者不會攜帶這麼多購物商品遊走，他們不會掃描這些東西，也不會刷他們的 Nectar 卡。」
「但讓我感到不安的是，我認為這可能就是未來所會發生——人們只是聽從機器告訴他們做的話，而不考慮後果。」
在被帶離店鋪後，阿諾德表示他從入口處回頭看時，看見天花板監控螢幕上有一個紅圈圈住他的臉。
塞恩斯伯里總部在次日聯繫阿諾德致歉，重申該事件是由「人為疏失」造成，而非軟件故障。
這並非首次塞恩斯伯里面部識別系統——由技術公司 Facewatch 提供——導致無辜購物者遭到質疑的情況。
九月份，沃倫·拉賈（Warren Rajah）因被同一套 Facewatch 軟件錯誤標記而被驅逐出象與城堡（Elephant and Castle）的一家分店，該安全公司隨後確認他連系統中都沒有。
塞恩斯伯里及該技術公司将此事件也歸咎於「人為疏失」。
Facewatch 還因與其他零售商的類似案件受到牽連，其中包括 2024 年一家 Home Bargains 商店和去年的一家加的夫 B&M。
阿諾德表示，他的經歷使他認為員工在繁忙的商店環境中難以操作該系統。
「儘管發生在我身上的事令人髮指，但我對員工感到同情，」他說，「錯誤終會發生。他們並未配備適當的條件來實施 AI。」
阿諾德主張，即使技術如塞恩斯伯里所聲稱的那樣準確，0.2% 的誤報率意味著當數以百萬計的人進入塞恩斯伯里商店時，被抓住的「人」也很多。
「還有比我多的人在這裡中招，」他補充道。
塞恩斯伯里發言人確認，該技術在東南倫敦達爾維奇的這家分店已暫停使用，正在調查中，但捍衛了系統的廣泛推廣，引用零售業員工遭受暴力升級的情況。
他們表示：「我們已聯絡馬特·阿諾德先生，就其在我們達爾維奇超級市場的事發經歷致歉。該事件是由人為疏失造成，而非面部識別技術。
「顧客可以放心的是，Facewatch 系統的準確率為 99.98%，每次匹配都會由受訓經理審核。」
塞恩斯伯里去年開始在一些商店試行面部識別軟件
一名 Facewatch 發言人也表示，在此案中其技術「無辜」。
「正確的通知已發送給零售商，但後續因店內處理方式存在人為疏失，」他們表示。
該公司補充說，暫停一家店鋪是一種「預防措施」，以防止在員工接受額外訓練期間出現進一步的警報。
針對系統準確率的擔憂，Facewatch 表示其 99.98% 的數字基於使用雙算法檢查並經人類分析師審核的實時零售測試得出。
它補充說，剩餘的 0.02% 餘額不是「現實世界的誤識別率」，而是另一條邊界，在此進行額外的人工檢查以在發送警報前過濾掉潛在錯誤。
Facewatch 表示，通知仍顯示在員工設備上長達一小時，並記錄所有誤識別情況。
塞恩斯伯里強調了英國零售商協會（British Retail Consortium）最近的數據，顯示全國每日對店員的暴力與虐待事件為 1,600 起，顯著高於 2019-20 年時的每天 455 起。
該零售商補充說，面部識別系統在兩家商店的初步試用導致記錄的盜竊和反社會行為事件減少 46%，超過 90% 的肇事者未再回歸。
公民自由組織 Big Brother Watch 主任 Silkie Carlo 呼籲塞恩斯伯里廢除該技術，認為其「像對待罪犯一樣對待顧客」。
「當全國性零售商隨意對數以萬計的身份進行檢查時，像這樣的嚴重錯誤是不可避免的，」她表示。
阿諾德捐贈了塞恩斯伯里價值 150 英鎊的善意禮券給當地食物銀行，並質疑為何系統在其他地方仍保持運作。
「如果他們在這個東達爾維奇分店暫停使用，就承認該技術存在問題。為什麼不在每家分店都暫停呢？"