緊跟Ilya，OpenAI超級對齊團隊負責人官宣離職！內部AGI或實現，全網陷大猜想

新智元報道

編輯：桃子 好睏

【新智元導讀】GPT-4o發佈僅一天，先是首席科學家Ilya Sutskever，後是超級對齊團隊負責人Jan Leike，在同一天官宣離職OpenAI。一時間，全網掀起熱議，有人稱OpenAI內部已經看到了AGI。

Ilya前腳剛離職，OpenAI超級對齊團隊負責人Jan Leike，緊接着也官宣了。

評論區的下方，網友瘋狂留言，「你們究竟看到了什麼」？

2023年6月5日，OpenAI首次對外宣佈成立了「超級對齊AI團隊」，是因爲預測到AGI可能會在十年內到來。

根據介紹，「前」首席科學家Ilya Sutskever和Jan Leike是最新團隊的共同領導。

這一團隊成立的目標是，試圖用20%算力，在未來4年解決「超級智能對齊問題」。

超鏈接——OpenAI預言：超級智能10年內降臨！正集結算力拯救人類，4年徹底攻克對齊

不僅如此，此前有爆料稱，「超級對齊團隊」已有員工主動離職，是因爲對OpenAI負責人遵守AGI失去信心。

此外，該團隊中還有2位因爲泄密還被開除。

超鏈接 OpenAI內鬥第二彈！Ilya親信、超級對齊團隊2人慘遭開除，被批泄密

Leopold Aschenbrenner（左）， Pavel Izmailov（右）

而如今，核心leader離職，對於OpenAI來說，意味着什麼？這一團隊的目標還將繼續嗎？

沒有優秀的人才，OpenAI什麼也不是

馬斯克曾對Ilya的評價是，「他是OpenAI成功的關鍵」。甚至，他還爲了招聘Ilya，與拉里·佩奇關係破裂。

經常曝料OpenAI的內幕人Flowers表示，「Jan和Ilya只有在兩種情況下才會離開OpenAI——

要麼是AGI已經完成對齊，要麼就是AGI根本不可能實現」。

網友猜測：內部AGI已實現

本來，前一天的OpenAI線上發佈會，GPT-4o旗艦模型炸裂演示，讓出許多人紛紛看到了AGI的未來。

但，這一波離職官宣，又讓人們對OpenAI內部產生了諸多疑問。

難道，使命已經完成，AGI/ASI早已實現了嗎？

有Reddit網友稱，自己根本不關心Jan Leike是誰，但他也隨着Ilya也離開了，更想知道的是——

OpenAI究竟發生了什麼？

然鵝，評論區的「畫風」是這樣的：

關注AI風險的社區PauseAI發帖稱，超級對齊團隊幾乎什麼都沒有了。

「離開OpenAI的安全研究科學家名單，正在以驚人的速度增長。從Ilya Sutskever、William Saunders、Leopold Aschenbrenner，再到Jan Leike...

Jan Leike曾認爲，有10%-90%的人工智能會殺死我們所有人」。

4年超級對齊工作，10個月達標？

這肯定意味着超對準問題已經解決，工作完成了。他們計劃用4年時間完成這項工作，但只用了10個月。

愛吃瓜的網友發現，Ilya官方賬號只關注了3個賬號——

OpenAI、Dachshund Community，以及Adam Sulik。

真正的重點是，Adam Sulik在Ilya離職的帖子下面直言道：

接着，Adam經過深思熟慮後，又從全面角度分析了這一問題：

同樣，有Reddit網友表示，Jan Leike的離職，顯然是對OpenAI幕後發生的事情表現得非常不滿意，甚至連掩飾都沒有。

曾與Jan Leike共事的夥伴高度讚賞道，爲確保AGI的安全性和有益性所做出的巨大努力，Jan是無人能及的。

2人主動離職，因OpenAI不對AGI負責

幾天前，Business Insider曾報道稱，有兩名OpenAI分別負責治理和安全的人員主動離職了。

一位是Daniel Kokotajlo，還有一位是William Saunders。

據介紹，Kokotajlo是在4月份剛剛離職，而Saunders早在今年2月離開了OpenAI。

左：Daniel Kokotajlo；右：William Saunders

在治理團隊工作的Kokotajlo，曾是GPT-4對抗性測試者。Saunders自2021年以來，一直在對齊團隊工作，隨後轉入「超級對齊」團隊。

Kokotajlo在其主頁上的介紹中，稱自己離職OpenAI，是因爲對其在實現AGI關鍵時期，可能的不負責任行爲失去了信心。

地址：https://www.lesswrong.com/users/daniel-kokotajlo

上個月，他甚至在自己主頁中另一篇帖子中表示，解釋了他決定離開的原因之一。

與此同時，他還參與了一場關於暫停AGI發展的討論。

Saunders是在自己的LessWrong個人資料頁面上，發表評論透露了，自己離職的消息。

值得一提的是，Saunders去年曾參與過罷免Sam Altman風波事件。

同時，他也是OpenAI「可解釋性團隊」的主管，研究如何使AGI安全，並弄清模型如何以及爲什麼這樣做。

論文地址：https://arxiv.org/pdf/2206.05802

OpenAI高層變動，頻繁換血

近期，OpenAI還經歷了其他高管的變動。

上週，Information報道稱，OpenAI兩位高級高管已經離職——人事副總裁Diane Yoon和非盈利及戰略倡議負責人Chris Clark。

這兩人辭職，是在Altman離職風波後，由負責管理OpenAI的非盈利董事會再次聘用Altman的背景下發生的。

而這些事件，從另一個側面突顯了OpenAI獨特的企業結構。

據稱，這兩位高管都是開發ChatGPT的團隊中，任職時間最久的管理人員。

OpenAI發言人Kayla Wood在一份聲明中表示，Yoon將在今年剩餘時間內繼續擔任公司的顧問角色。目前擔任人力資源負責人的Julia Villagra將接替Yoon成爲人事副總裁。

Yoon自2018年加入OpenAI，負責人事業務，見證了OpenAI員工數顯著增長（去年末已超過700人）。

去年11月，Altman被趕下臺，她還管理了一週的動盪期，當時許多員工因不滿Altman被解僱而威脅辭職。

而Clark在OpenAI工作已經超過8年，他自2016年起擔任公司首位首席運營官。

根據稅務文件，他還在2016年至2017年間擔任該非盈利組織的董事會成員。

Clark此前與Altman在Y Combinator及其支持的位置共享初創公司Loopt合作，後者由Altman於2005年共同創立並最終出售。

2022年5月，Clark擔任了新的職務，負責領導OpenAI的非盈利部門及多個全球運營職能，包括房地產、工作場所和戰略倡議。

Clark在給員工的一封信中表示，「經過八年的精彩歲月，我決定退一步，更多地關注我在OpenAI之外深愛的人和項目」。

或許，OpenAI內部正在上演一部「權利的遊戲」。

參考資料：

https://x.com/SmokeAwayyy/status/1790607808800727545

https://www.theinformation.com/briefings/openais-chief-scientist-a-former-foe-of-ceo-altman-resigns-with-key-ally?rc=cmz1ru