OpenAI研究人員警告董事會AI突破，CEO隨後被解雇
Exclusive: OpenAI researchers warned board of AI breakthrough ahead of CEO ouster, sources say
By Anna Tong, Jeffrey Dastin and Krystal Hu
November 23, 2023 8:56 AM GMT+8
11月22日（路透社） - 在OpenAI首席執行官Sam Altman被解職前的四天，數名研究人員向董事會發送了一封信，警告稱他們發現了一項可能威脅人類的強大人工智慧發現，兩位知情人士告訴路透社。
這封先前未報導的信函和人工智慧算法是在董事會罷黜Altman之前的一個重要發展，這位生成式人工智慧的代表人物，這兩位消息人士表示。在Altman的勝利回歸之前，超過700名員工威脅辭職，加入支持者微軟（MSFT.O）以表達對被解雇領導者的團結。
消息人士稱這封信是導致Altman被解雇的董事會長列表中的一個因素。路透社無法查閱信的副本。致信的研究人員未立即回應置詢。
根據其中一位消息人士的說法，長期執行人Mira Murati在週三向員工提到了名為Q*的專案，並表示在這個週末事件發生之前已向董事會發送了一封信。
在這篇報導發布後，OpenAI的一位發言人表示Murati告訴員工媒體即將報導的內容，但對報導的準確性沒有發表評論。
ChatGPT的開發者在Q*（發音為Q-Star）上取得了進展，內部有人認為這可能是該初創公司在尋找超級智能（也稱為人工通用智能，AGI）方面的突破之一，一位知情人士告訴路透社。OpenAI將AGI定義為比人類更聰明的人工智慧系統。
據一位匿名人士透露，由於擁有龐大的運算資源，這個新模型能夠解決某些數學問題。由於未獲得公司授權，該人士要求匿名發言。儘管僅僅在小學生程度的數學水平上執行，但研究人員對Q*未來成功感到非常樂觀，這位消息人士表示。
路透社無法獨立驗證研究人員聲稱的Q*的能力。
超級智能
研究人員認為數學是生成式人工智慧發展的前沿。目前，生成式人工智慧在寫作和語言翻譯方面表現出色，通過統計預測下一個單詞，對同一問題的答案可以有很大的差異。但征服能夠進行數學運算的能力——在這裡只有一個正確答案——意味著人工智慧將具有更強的類似人類智慧的推理能力。AI研究人員相信這可以應用於新型科學研究，例如。
不同於只能解決有限數量操作的計算機，人工通用智能（AGI）能夠泛化、學習和理解。
根據消息人士的說法，研究人員在給董事會的信中提到了人工智慧的強大能力和潛在危險，但沒有具體指出信中提到的安全擔憂。長期以來，計算機科學家一直在討論超級智能機器可能帶來的危險，例如它們是否可能決定摧毀人類符合它們的利益。
在這種背景下，Altman帶領努力使ChatGPT成為歷史上增長最快的軟件應用之一，並從微軟獲得了必要的投資和運算資源，以接近超級智能或AGI。
除了在本月的演示中宣布一系列新工具外，Altman上週在舊金山的一次全球領導人聚會上暗示他相信AGI已經在望。
他在亞太經濟合作組織峰會上說：“在OpenAI的歷史上，我有四次機會進入房間，當我們將無知的面紗推開，推動探索的前沿向前推進，能夠參與其中是終身的專業榮譽。”
一天後，董事會解雇了Altman。
（來源：三藩市的Anna Tong和Jeffrey Dastin，以及紐約的Krystal Hu；編輯：Kenneth Li和Lisa Shumaker）