安提普里奇共同創辦人 Jack Clark 呼籲為人工智慧裝上煞車
We need to have ability to slow AI down, says Anthropic co-founder
作者: Faisal Islam | 時間: Fri, 05 Jun 2026 07:17:39 GMT | 來源: BBC
f t
安提普里奇共同創辦人 Jack Clark 呼籲有能力減緩人工智慧（AI）的進展，警告該技術即將逼近一個不需要人類介入也能自主發展的臨界點。
「您希望擁有能夠鬆開油門並踩下煞車的選項，」Clark 在接受 BBC Newsnight 採訪時表示。「目前，就像 AI 產業只有油門，卻沒有煞車踏板的狀況。」
他強調，人們透過政府政策需要保持對 AI 系統的掌控，因為這些系統將會變得更加強大，並對社會產生更廣泛的影響。
「世界需要進行一些思考，我們最終需要發展一些新的法規，讓我們對這些系統感到放心，」他說。
目前，Anthropic 熱門聊天機器人 Claude 正運行於由其系統自寫的 80% 程式碼。Clark 稱，在兩年內即可實現 100%，且「將具有巨大的影響」。
Clark 並未闡述如何為 AI 研發創造一個「煞車踏板」，但將 AI 與上世紀初的石油繁榮及石油大亨進行了類比。
「社會的回應是制定合理的政策與法規框架，讓人們對石油及其對世界可能提供的效益感到有信心，並意味著您不必擔心主導公司的個人特質，」Clark 說，「這顯然就是我們目前的處境。」
然而，Anthropic 本週歡迎美國總統唐納德·特朗普關於 AI 的行政命令，該命令在對公司的指示上相對放任。
該命令並未要求 AI 公司接受政府的安全測試，這仍然是自願性的努力。
包括 Anthropic、OpenAI 和 Google 等在內的大型 AI 公司追求技術進步，也未表示會暫停自身研究。
Anthropic 自創立以來成長迅速，準備在公開市場推出。
它有望成為較新 AI 企業的首批公共上市之一，也是歷史上最昂貴的上市之一，因為 Anthropic 的估值被私人投資者估計幾乎達到 1 兆美元（745 億英鎊）。
Clark 表示，Anthropic 公開討論 AI 技術能力增長的動機，並非為了進一步贏得付費客戶的聲譽。
他只想「向全世界講述我們在公司內部看到的這種特殊技術狀況」。
自首席執行長達里奧·阿莫迪（Dario Amodei）創立以來，Clark 及其他少數高管將 Anthropic 定位為對 AI 潛在風險直言不諱的機構。
它甚至與美國國防部發生公開爭議，擔心其 AI 工具將用於對美國人進行大規模監控和自主戰爭。
「如果我們作為社會不就 AI 持續進步的含義進行認真對話，我會為我的孩子擔心，」Clark 對 Newsnight 說，「這將帶來潛在的巨大利益。也存在風險。」
Clark 補充說，其中一個風險是經濟中斷，擔心像「代理」這樣的 AI 技術——本質上是能夠在一定程度上自主執行常規任務的個體 AI 機器人——可能會接管某些工作。
大型科技公司已在過去一年進行大規模裁員，經常引用 AI 工具能夠完成數十甚至數千名軟體工程師工作的事實。
Clark 表示，更具創造力、擁有更多、更好想法的人可能會在 AI 技術方面佔有優勢。
「關於 AI 系統是否能真正具有創造力仍有開放性的問題……目前並沒有真正的證據，」他補充道，「在 Anthropic，我們現在更多受限於產生好想法的能力，而非將這些想法轉化為現實的工程能力。」
儘管如此，Clark 建議，如果年輕人感到建立在 AI 上的經濟沒有他們的位置，應該「發展一個愛好」並追求人文學科教育。
「有創造力、能廣義思考的人，閱讀許多書籍的人，有興趣的人是最受益於此的，」Clark 說，「沉溺於好奇心，這將回報於您如何運用這項技術。」