Google Pixel的臉部修改照片工具引發了關於人工智慧操縱的爭論。

By Darren Waters BBC News 相機從不會撒謊，當然，實際情況是它確實撒謊，似乎每一天都更加明顯。 在智能手機時代，即時進行數碼編輯以改善照片已變得司空見慣，從增強色彩到調整光線。 現在，由人工智慧（AI）提供支持的一種新型智能手機工具正在加劇關於拍攝現實意義的辯論。 谷歌最新推出的智能手機Pixel 8和Pixel 8 Pro不同於其他公司的設備。它們使用AI來幫助改變照片中的人的表情。 這是我們所有人都經歷過的體驗：在團體照中，有一個人朝著相機看或者不微笑。谷歌的手機現在可以通過查看您的照片，從過去的表情中進行混合匹配，使用機器學習將來自他們的不同照片的微笑放入圖片中。谷歌稱之為“最佳拍攝”（Best Take）。 此外，這些設備還允許用戶刪除、移動和調整照片中不需要的元素，從人物到建筑物，“填補”遺留下來的空間，使用所謂的“魔法編輯器”（Magic Editor）。這使用了所謂的深度學習，實際上是一種人工智能算法，通過分析周圍可見的像素來計算應該填充空白的紋理，利用從數百萬其他照片中獲得的知識。 這不一定是在設備上拍攝的照片。使用Pixel 8 Pro，您可以將所謂的“魔法編輯器”或“最佳拍攝”應用於Google照片庫中的任何照片。 “令人不悅且令人不安” 對一些觀察家來說，這引發了關於我們如何拍照的新問題。 谷歌的新AI技術被科技評論家和評論家多次描述為潛在的“令人不悅”（The Verge）、“令人毛骨悚然”（Tech Radar）和有可能對人們對網上內容的信任提出“嚴重威脅”的技術（Cnet）。 安德魯·皮爾索爾（Andrew Pearsall），一位職業攝影師，以及南威爾士大學新聞學高級講師，認為AI操縱存在危險。 他說：“即使是出於美學原因的一個簡單操縱也可能使我們走上一條黑暗之路。” 他表示，那些在專業背景中使用AI的人面臨的風險更大，但每個人都應考慮這個問題。 “你必須非常小心‘何時越過了界線’。 “現在你可以在手機上立即拍照並移除某些東西，這相當令人擔憂。我認為我們正在進入一個虛假世界的領域。” 在接受BBC採訪時，負責開發該公司智能手機相機系統的團隊的谷歌伊薩克·雷諾茲（Isaac Reynolds）表示，該公司認真對待其消費者技術的道德考慮。 他迅速指出，像“最佳拍攝”之類的功能並未“偽造”任何東西。 相機質量和軟件對該公司與三星、蘋果等公司競爭至關重要，這些AI功能被視為獨特的賣點。 所有提出對該技術提出擔憂的評論家都讚揚了相機系統的照片質量。 他解釋說：“如果有一個版本（您拍攝的照片）中的那個人微笑，它會顯示給您看。但如果沒有一個版本中的那個人微笑，是的，您就不會看到。” 對伊薩克來說，最終的圖像成為了“某一刻的代表”。換句話說，具體的時刻可能並沒有發生，但它是您希望發生的圖片，由多個真實時刻創建而來。 “人們不想要現實” 劍橋大學圖形和顯示專家拉斐爾·曼蒂克（Rafal Mantiuk）教授表示，重要的是要記住智能手機中使用AI的目的不是使照片看起來像現實。 他說：“人們不想捕捉現實，他們想捕捉美麗的圖像。智能手機中的整個圖像處理流程旨在生成漂亮的圖像，而不是真實的圖像。” 智能手機的物理限制意味著它們依賴機器學習來“填充”照片中不存在的信息。 這有助於改進縮放，改善低光照片，以及在谷歌的Magic Editor功能中 - 添加到照片中從未存在的元素，或者從其他照片中交換元素，例如用微笑替換嘴角的皺紋。 操縱照片並不新鮮 - 這是藝術形式本身一直以來的。但使用人工智慧使現實更容易增強。 今年早些時候，三星因其使用深度學習算法來改善其智能手機拍攝的月球照片的質量而受到批評。測試發現，不管您最初拍攝的圖像有多糟糕，它總是會為您提供可用的圖像。 換句話說，您的月球照片不一定是您正在觀察的月球的照片。 該公司承認了這一批評，稱正在努力“減少拍攝真實月球和月球圖像之間可能發生的任何潛在混淆”。 對於谷歌的新技術，雷諾茲表示，該公司向照片添加了元數據 - 圖像的數字足跡 - 使用行業標準來標識使用AI的情況。 他說：“這是我們內部討論的問題。我們已經長時間討論過。因為我們已經多年來一直在研究這些東西。這是一個對話，我們聽取了我們的用戶在說什麼。” 谷歌顯然相信用戶會同意 - 其新手機的AI功能是其廣告活動的核心。 那麼，關於圖像操縱，谷歌會不會越過一條界線？ 雷諾茲表示，有關使用人工智慧的辯論過於微妙，不能簡單地指出一條界限，說它太遠了。 他解釋說：“當您深入研究功能時，您會意識到界線實際上是對於一個非常棘手的、依據功能而定的過度簡化。”即使這些新技術引發了關於什麼是現實和什麼不是現實的道德考慮，曼蒂克教授表示，我們還必須考慮我們自己視覺的局限性。 他說：“我們看到的鮮明多彩的圖像是因為我們的大腦可以重構信息，甚至可以推斷丟失的信息。 “因此，您可能會抱怨相機做了‘虛假的事情’，但人類大腦實際上以不同的方式做同樣的事情。”