AI安全研究員辭職警示：世界陷多重危機，轉向詩歌創作

一名人工智慧安全研究員辭去美國公司Anthropic職務，並發出隱晦警告，稱「世界正處於危機之中」。 Mrinank Sharma在X平台分享的辭職信中表示，他因擔憂人工智慧、生物武器及全球局勢而離職。 他表示將轉向詩歌研究與寫作，並返回英國「隱遁生活」。 此舉正值OpenAI研究員剛宣布辭職之際，該名研究員對ChatGPT開發商在聊天機器人中植入廣告的決定表達憂慮。 Anthropic以Claude聊天機器人聞名，近期推出一系列針對OpenAI的廣告，批評該公司向部分用戶推出廣告的舉措。 該公司由2021年自OpenAI出走的早期員工創立，標榜比競爭對手更重視人工智慧安全研究。 Sharma在該公司領導人工智慧安全防護研究團隊。 他在辭職信中提到，其貢獻包括探討生成式人工智慧系統為何討好用戶、應對人工智慧輔助生物恐怖威脅，以及研究「AI助理如何使我們失去人性」。 但他表示，儘管享受在公司的工作時光，但「是時候前進了」。 「世界正處於危機。不僅來自人工智慧或生物武器，更源於當下正在展開的一系列相互關聯的危機。」Sharma寫道。 他指出：「我屢次見證讓價值觀真正主導行動有多麼困難」，包括在Anthropic內部也「 constantly face pressures to set aside what matters most」。 Sharma表示將攻讀詩歌學位並專注寫作。 他在回覆中補充：「我將返回英國，並在一段時間內隱遁生活。」 近年來，這些在生成式人工智慧浪潮中舉足輕重的公司常以高薪留才，離職者往往能保有股票與福利。 Anthropic自稱為「致力確保人工智慧效益並降低風險的公共利益公司」。 該公司特別關注預防先進系統可能帶來的威脅，例如與人類價值觀脫節、在衝突中被濫用或權力過大。 公司曾發布產品安全報告，包括指控其技術被駭客「武器化」用於執行複雜網路攻擊。 但該公司也因實務受到檢視。2025年，Anthropic同意支付15億美元（約11億英鎊）和解作者集體訴訟，原告指控公司盜用作品訓練AI模型。 如同OpenAI，Anthropic也積極運用技術獲利，包括推出與ChatGPT競爭的Claude等產品。 近期該公司發布廣告批評OpenAI在ChatGPT中投放廣告的決定。 OpenAI執行長Sam Altman先前表示厭惡廣告，僅將其視為「最後手段」。 上週，他反駁該廣告稱此舉為「背叛」的說法，卻因其長篇批評Anthropic的貼文遭嘲諷。 Zoe Hitzig在《紐約時報》撰文指出，她對OpenAI的策略「深感擔憂」。 她寫道：「人們向聊天機器人透露醫療擔憂、感情問題、對上帝與來世的信仰。基於這些資料的廣告可能以我們無法理解、更遑論預防的方式操縱用戶。」 Hitzig表示，OpenAI為提高參與度而「侵蝕自身原則」的現象可能已開始。 她擔心若公司廣告策略未能反映其造福人類的價值觀，這種趨勢可能加劇。 BBC新聞已聯繫OpenAI徵求回應。