Rishi Sunak的重要峰會能救我們脫離AI噩夢嗎？
Can Rishi Sunak’s big summit save us from AI nightmare?
By Zoe Kleinman
Technology editor
BBC
如果您不確定自己對人工智能的立場，那您並不孤單。
它會拯救人類還是摧毀我們？賭注非常高，即使是世界領先的專家也仍在爭論中。
一些AI創造者呼籲減緩甚至完全暫停其發展，因為它進化得太快。另一些人則認為，這樣做將意味著限制技術實現驚人成就的潛力，例如生成新藥的配方和致力於氣候變化解決方案的工作。
下周，大約100位世界領導人、技術老闆、學者和AI研究人員將聚集在英國的布萊切利園區，該處曾是第二次世界大戰期間幫助確保勝利的密碼破譯者的家園。他們的目的是參與有關如何最大限度地利用這項強大技術的好處，同時將風險降到最低的討論。
什麼是AI，它危險嗎？
這次活動是英國的AI安全峰會，它打算關注的風險相當極端。它們與所謂的“前沿AI”有關，這些是最先進和最強大的系統，目前尚不存在，但AI正在迅速發展，它們可能很快就會出現。
但批評者說，這次為期兩天的會議應該專注於AI更迫切和壓倒性的問題，例如它消耗的大量能源以及它已經對工作的影響。
在上周發布的一份報告中，英國政府列舉了一些可怕的潛在威脅，包括生物恐怖主義、網絡攻擊、先進的AI選擇自我控制，以及加劇分發兒童性虐待深偽圖像。
或許令人驚訝的是，儘管背景如此噩夢般，首相Rishi Sunak敦促人們“不要失眠”。他有一個計劃，而且非常雄心勃勃。他想將英國定位為全球AI安全的領導者。
當峰會首次宣布並被譽為世界首創時，有不少人表示驚訝。世界頂級人物會不會真的冒著冬季的寒冷，靠近美國的感恩節假期，只是因為英國的召喚而前往英國偏遠、綠樹成蔭的一角？
官方沒有公布任何嘉賓名單。但到目前為止，非常清楚的是，美國的科技巨頭將得到非常好的代表。不總是在CEO級別，但無疑是高級管理人員。
商業部門對峰會充滿熱情。總部位於英國的Stability AI老闆Emad Mostaque將峰會描述為“英國解鎖AI超級大國地位的千載難逢的機會”。
他熱情洋溢地說：“我們將鼓勵政府和其他決策者致力於支持整個生態系統的AI安全，從企業實驗室到日常研究人員，從長期威脅到短期風險，以保持英國的安全和競爭力。”
這些公司是討論的重要部分 - 它們處於AI競賽的前沿，它們正在建造這些系統。但您可能會想象，這些都是他們已經在自己之間進行的對話。這裡思想的多樣性至關重要。
世界領導人的組成更加多樣化。美國副總統卡馬拉·哈里斯將出席，加拿大總理賈斯汀·特魯多則不會。歐洲委員會主席烏蘇拉·馮德萊恩將出席，德國總理奧拉夫·舒爾茨不會。中國已被邀請 - 鑑於它與西方的關係困難，這一點頗具爭議性。但它無疑是一個科技超級大國。
聯合國秘書長安東尼奧·古特雷斯也將出席 - 這很有趣，因為越來越多的人呼籲成立一個全球機構來監督AI。
一些專家擔心峰會的重點錯誤。他們認為，極端的末日情景的風險相對較小，而且還有更迫在眉睫的威脅，這些威脅離許多人的家園更近，更令人擔憂。
劍橋大學AI中心的負責人Gina Neff教授說：“我們擔心我們的工作會發生什麼，我們的新聞會發生什麼，我們彼此溝通的能力會發生什麼。我們擔心對人們、社區乃至地球的威脅。”
一項最近的研究聲稱，僅驅動AI行業的計算基礎設施在短短四年內就可能使用與荷蘭一個國家大小相當的能源。這將不會在峰會上討論。
我們也知道AI已經對工作造成了破壞。我的一個朋友在一家小型營銷公司工作。曾經有五位文案撰寫人員 - 現在只有一位，他的工作是檢查ChatGPT生成的文案。工作與退休金部門正在使用AI工具來加快福利申請的速度。
那麼，用於訓練這些強大系統的數據呢？細節被擁有它們的商業公司保密。但可以肯定的是，AI的好壞取決於它所理解的數據。我們知道偏見和歧視已經潛入現在可用的成品和定制工具中。
這些問題將在峰會上提出 - 但它們將遠非其焦點。
超越前沿
這次為期兩天的會議的結果會是什麼？您可能希望首腦們會握著簽名的“布萊切利公園協議”出現，世界將免於AI的危險。
我們可能必須為電影版本保存這一點。政府本身表示，讓這些人在同一個房間裡同一時間談話本身就是一個成功 - 特別是如果中國確實出現的話。
約書亞·班吉奧教授作為AI三位創始“教父”之一而聞名。他在倫敦查塔姆屋舉辦的一次活動上被問及他希望從峰會中看到什麼。
他建議對前沿AI模型進行註冊和許可制度，如果系統被認為不安全則可以撤銷 - 但承認這樣的事情需要超過兩天的時間來組織。
他說：“我們需要從可以快速實施的小步驟開始。”
“國際條約和協議需要更多時間……但我們應該從小處開始，不等建立了非常複雜的全球治理系統就開始行動。”