人工智慧深度偽造詐騙頻發：企業面臨的新安全挑戰
Deepfake attack: 'Many people could have been cheated'
作者: Gideon Long | 時間: Mon, 02 Mar 2026 06:47:00 GMT | 來源: BBC
f t
今年年初，一段影片在印度的社交媒體網站上出現，內容是孟買證券交易所執行長桑達拉曼·蘭姆慕爾提向投資大眾提供應購買哪些股票的建議。
觀眾被告知，若跟隨他的建議將可獲得豐厚的回報。
唯一的問題在於，那並非蘭姆慕爾提本人發聲，那是利用人工智慧製作的他本人的深度偽造影片。
蘭姆慕爾提解釋道：「該影片置於公領域，許多人能看見它，並因此被騙去買賣股票，好像是我推薦他們一樣。」
當我們看到這類事件時，我們會立即提出申訴。我們會前往張貼影片的 Instagram 及其他平台，要求下架影片。同時，我們會定期寫信給市場相關單位，警告大眾不要相信偽造影片。
蘭姆慕爾提補充道：「我們不知道有多少人看過這部影片，要查清楚真的非常困難，因此無法判斷它是否造成了重大影響。
我們希望的是一點影響都沒有。不應因為相信了不實事項而遭受損失。」
蘭姆慕爾提與孟買證券交易所並非孤軍奮戰。
最新數據顯示，過去兩年左右，我們看到利用深度偽造案例數量增加了近百分之三千點幾，美國密碼安全公司 LastPass 的執行長卡里姆·圖巴說道。
圖巴本人也在二零二四年遭遇了深度偽造。
我們歐洲的一名員工收到了一封聲稱來自我的語音訊息與簡訊，緊急向我求助，他說道。
幸運的是，對圖巴與 LastPass 來說，該員工產生了懷疑。
該訊息是在 WhatsApp 上收到的，這並非我們認可的通訊渠道，圖巴表示：此外，公司規定只能使用核准的行動裝置，但這是透過他個人手機收到的。因此讓他覺得這件事有些含糊不清，有點可疑。
該員工向 LastPass 的網路安全團隊報案，未造成任何損失。
英國工程商阿魯普則沒這麼幸運，二零二四年該公司遭受了企業界見過的最複雜深度偽造攻擊之一。
根據香港警方說法，一名阿魯普員工收到了一封消息，聲稱來自總部位於倫敦的該公司首席財務官，關於一筆機密交易。
該員工與首席財務官及其他人員進行了視訊會議。基於此次通話，該員工遵照指示將阿魯普的二千五百萬美元轉入五個不同的銀行帳戶。直到後來才揭露，參與通話的人員，包括首席財務官，都是深度偽造出來的。
你絕不希望只是想與某人視訊通話就轉帳二千五百萬美元，BBC AI 解碼電視節目的科技研究人員兼共同主持人史黛芬妮·海爾表示。
公司必須採取額外措施來保障這類通訊的安全。這就是我們目前身處的新世界。
人工智慧的快速發展意味著這些影片正變得越來越逼真。
深度偽造變得非常容易，英國網路安全公司 CloudGuard 的共同創辦人兼執行長馬特·洛夫說道：要生成極度精準規格的影片與音訊品質——只需幾分鐘。
成本也在降低。
以簡單、單人導致的攻擊為例，若使用主要是免費的工具，成本約在五百到一千美元之間，洛夫指出。對於更複雜的攻擊，費用則介於五千到一萬美元之間。
雖然深度偽造影片正日益複雜，用於阻擋它們的工具也同步升級。公司現在可以使用驗證軟體，評估人物的面部表情、轉頭方式甚至血液在臉上流動的痕跡，以確認該人是否為本人或是其深度偽造版本。
當一個人說話或進行簡報時，我們會觀察你臉頰或眼瞼處血液流動的變化，洛夫說道：這正是我們能判斷出那是由人工智慧生成還是真實人物的關鍵所在。
但企業必須持續奮戰，以確保領先詐騙者一步。
這是一場競賽，比拼誰能部署技術，誰又能更快地阻擋該技術，LastPass 的圖巴說道：幸運的是，似乎投入不少資金進入此領域，這只會加速組織開發用於檢測並最終阻止這些事物的技術的速度。
在 CloudGuard，執行長馬特·洛夫則較為悲觀。
攻擊途徑加速的頻率，快過我們推進防禦自動化與保護的速度，他表示：人們是否移動得足夠快，以回應威脅發展的節奏？絕對不是。
海爾指出，深度偽造攻擊的增多意味著具備對抗詐騙者技能的人員需求殷切。全球網路安全專業人員供應短缺，我們需要更多人加入這個領域。
她指出，公司正開始意識到這項威脅，雖然是緩慢地。
過去，像現在這樣保護營運安全並不被視為首要事項，她指出。
現在有了這類風險，公司領導層、執行長們遭受深度偽造，我認為企業高階主管與首席資訊安全官及團隊的互動時間將比以往更多。這是好事。