OpenAI安全組織近年多次調整。
智東西7月8日消息,今日,OpenAI元老之一、首席未來學家約書亞·阿希亞姆(Joshua Achiam)在社交平台X上發佈告別長文,結束其在OpenAI近9年的任職,最後工作日為本月24日。
阿希亞姆的履歷幾乎貫穿OpenAI從非營利研究實驗室到商業巨頭的全過程。他2017年以25歲實習生的身份加入OpenAI,當時“電腦還不會說話,也不會思考”。此後他長期擔任AI安全方向的研究科學家,2024年9月25日昇任使命對齊(Mission Alignment)負責人,今年2月11日剛轉任新設立的首席未來學家一職,這個頭銜他只用了不到五個月。
對於首席未來學家的職責,OpenAI在官方通訊中給出的描述是:研究AI和AGI將如何重塑社會,並輸出幫助各類機構提前準備的分析。阿希亞姆在今年2月底的一場公開對話中稱,這是一個“新穎且實驗性的角色”。
這次離職發生在OpenAI上市處理程序和組織重組交織的窗口期。OpenAI 6月8日已向美國證券交易委員會秘密提交S-1草案,但尚未決定上市時間。
與此同時,前白宮AI顧問迪恩·鮑爾(Dean Ball)已加入OpenAI,負責Strategic Futures團隊,他將與阿基姆有一段短暫的工作交接期。任職期間,鮑爾也將對接公司研究員與政策負責人協同開展工作。
阿希亞姆兩個月前剛在馬斯克起訴奧特曼的官司裡替OpenAI出庭作證,法庭上展示了一座刻著“蠢驢”的金色驢形獎盃——那是2018年他當面警告馬斯克“搶跑AGI會犧牲安全”、被馬斯克罵“蠢驢”後,同事送他作為留念的。
01. 從實習生到首席未來學家 OpenAI安全團隊多次重組
阿希亞姆2017年以實習生身份加入OpenAI,此後成長為專攻AI安全方向的研究員。
2022年ChatGPT上線後,OpenAI從一間小型研究實驗室迅速擴張為大型科技企業,該公司安全、產品與研究團隊歷經多次架構調整。
過去一年,OpenAI著力打通AI研究團隊與政策團隊的協作壁壘,提前為技術發展路徑制定配套規範與行業標準。隨著兩大部門合作加深,博阿茲·巴拉克(Boaz Barak)、諾姆·布朗(Noam Brown)、阿德里安·埃科費(Adrien Ecoffet)等多名公司研究員均稱,自身參與政策相關工作的程度顯著提升。
OpenAI安全組織近年多次調整。OpenAI 2023年7月宣佈成立超級對齊(Superalignment)團隊,由伊利亞·蘇茨克維(Ilya Sutskever)和簡·萊克(Jan Leike)共同領導,目標是在四年內解決超級智能對齊的核心技術挑戰。不到一年後,該團隊解散。簡·萊克(Jan Leike)已於2024年跳槽至Anthropic。
2024年9月,時任CTO米拉·穆拉蒂(Mira Murati)宣佈離職,OpenAI宣佈成立由阿基姆牽頭的 “使命對齊團隊”,專職推動公司“確保AGI造福全人類”的既定使命。今年2月該團隊解散,OpenAI同步宣佈阿希亞姆調任首席未來學家。直至今日,阿希亞姆宣佈離職。
OpenAI尚未公佈繼任人選。阿希亞姆的崗位銜接公司AI安全團隊與政策團隊,主要負責研究AI發展帶來的潛在風險與正向價值。他曾協同OpenAI全球事務負責人克里斯·萊漢(Chris Lehane)等公司高管,推動出台契合OpenAI核心宗旨的政府監管規則,即確保通用AI造福全人類。
隨著OpenAI籌備上市,該公司已有多名深耕AI安全領域的高管相繼離職,阿希亞姆是最新一位。
2024年,政策研究負責人邁爾斯·布倫戴奇(Miles Brundage)、AI模型風險能力研究負責人史蒂文·阿德勒(Steven Adler)雙雙離開OpenAI,二人共同創辦非營利機構,呼籲各大AI實驗室嚴格落實高標準安全規範。
負責研究ChatGPT應對存在心理、情緒困擾使用者互動方案的安德里亞·瓦隆(Andrea Vallone),則在2025年末離職,加入萊克在Anthropic的團隊。
02. 2018年當面質疑馬斯克遭怒斥 “蠢驢”獎盃今年5月現身法庭
阿希亞姆此前最出圈的時刻發生在法庭上。今年5月,他作為OpenAI一方證人在馬斯克訴奧爾特曼案中出庭作證。在證人環節的最後一天,OpenAI律師向法官展示了一座金色驢形獎盃,上面刻著“永遠做那頭為安全而戰的蠢驢”(Never stop being a jackass for safety),這座獎盃正屬於阿希亞姆。
獎盃背後是一段2018年的往事。阿希亞姆作證稱,馬斯克2018年宣佈離開OpenAI、要自行加速研發AGI時,他曾當面警告追求速度可能損害安全,馬斯克當場斥其為“蠢驢”(jackass)。
此後包括現任Anthropic聯合創始人兼CEO、當時的OpenAI員工達里歐·阿莫迪(Dario Amodei)在內的同事送給他這座獎盃,以紀念這句“罵名”。
在OpenAI內部,阿希亞姆是公認堅定捍衛安全核心宗旨的核心人物,但他時常公開批評整個AI安全行業社群,也因此引發不少爭議。
據《連線》拿到的阿希亞姆發給OpenAI全體員工的內部郵件,他在文中寫道:“如今全球都知曉通用人工智慧的發展前景,即便走出前沿實驗室,我也依然能夠踐行這份初心使命。我堅信人類終將迎來和平、前所未有的繁榮,社會與科學領域都將誕生難以想像的全新可能。無論我下一步選擇何種方向,都會和大家一道,推動這一願景落地成真。”
03. 阿奇亞姆稱他要畢業了 7月24日為最後一天
以下是對阿希亞姆離職發文的全文編譯:
不久前,我在OpenAI的Slack上和大家分享了這段話:
珍愛的朋友、同事、各位員工夥伴們!我這個月要畢業了。
我離開沒有某個具體原因,也不是因為現在這個節點有什麼具體理由。但這是我已經想了一段時間的事,現在感覺時機合適。世界已經知道這個秘密了,我覺得可以在前沿實驗室的牆外繼續為使命工作。
我2017年以一名25歲實習生的身份加入OpenAI。那時,電腦還不能說話,也不能思考。現在我34歲了,有了家庭和一個兩歲的兒子,電腦已經能夠解決前沿科學問題。這十年裡,像是發生了幾個世紀的變化。
人類的未來取決於我們共同圍繞AGI和超級智能作出的選擇。一切都押在這裡。但更重要的是,一切也都有可能。我們很快就能夠向人類最遠大的目標發起嘗試。
我相信,我們可以抵達這樣一個世界:滿足每個人的基本需求不只是一個已經解決的問題,人們甚至會因為曾經把標準設得這麼低而感到冒犯。我相信,我們可以抵達一個和平、高度繁榮,並擁有難以想像的社會和科學可能性的世界。無論我接下來做什麼,我都會繼續和你們一起努力,讓這個願景成為現實。
如果你回到九年前,告訴我後來發生的一切,我會驚訝於聽到這麼多好消息。謝謝你們讓這一切如此特別。謝謝你們讓我有幸與你們並肩工作。
要逐一聯絡每個人並表達感謝,是一項艱巨任務,因為名單實在太長。好在我還有幾周時間可以完成這件事。我的最後一天將是24日。
為了安全AGI。
04. 結語:安全議題走出實驗室 OpenAI仍要回答使命與商業化問題
阿希亞姆離職後,OpenAI安全與政策交叉崗位的責任將如何分配,還沒有公開答案。迪恩·鮑爾加入Strategic Futures團隊,說明OpenAI仍在補強前沿AI政策和治理能力,但這類崗位的重點已不只在模型訓練和評測,也包括監管溝通、上市披露、公共利益和內部治理。
OpenAI已經向SEC秘密提交S-1草案,意味著未來公開招股檔案中,模型安全、使用者風險、監管不確定性和公司結構都可能成為外界審視重點。對OpenAI來說,安全使命不再只是研究團隊內部的技術命題,也會變成資本市場、政策機構和公眾共同追問的問題。 (智東西)
