又一安全團隊被解散! 執着於創收的OpenAI似乎無暇顧及AI安全
智通財經APP獲悉，一位已辭職的OpenAI團隊負責人稱，科技巨頭微軟(MSFT.US)斥巨資支持的OpenAI正在解散其聚集於AI安全研究的“AGI Readiness”團隊，該團隊曾經負責向這家AI初創公司提供如何處理與應對越來越強大的AI技術方面的解決方案與建議，以及提供當今世界是否準備好管理這些技術方面的建議。“AGI Readiness”團隊曾經的團隊主管表示，希望在外部繼續AGI領域的相關研究。近期越來越多跡象表明，OpenAI似乎全身心投入AI創收，無暇顧及AI安全。
OpenAI的經濟研究團隊，直到最近還是由帕梅拉·米什金領導的AGI Readiness的一個重要子團隊，後續將由OpenAI的新任首席經濟學家羅尼·查特吉全面領導。與此同時，AGI Readiness的高級顧問邁爾斯·布倫戴奇在Substack帖子中宣佈離職時表示，剩下的AGI Readiness團隊將被分配到其他團隊。
布倫戴奇表示，他離開OpenAI的主要原因包括機會成本變得非常高。布倫戴奇指出：“需要明確的是，雖然我不會說我總是同意OpenAI在公開發行方面的長期立場，但我確實認爲在行業中存在一些公開發行層面的限制是合理的(我幫助撰寫了OpenAI政策的幾個重要版本)，但對我來說，這些限制已經非常多了。”
布倫戴奇還表示，他希望減少偏見，並且強調他已經完成了他在OpenAI的目標。此外，布倫戴奇計劃創辦自己的非營利組織或者加入現有的非營利組織，專注於人工智能安全政策研究以及人工智能宣傳推廣工作。
“我們完全支持邁爾斯本人在行業之外從事政策研究的決定，並深深感謝他的貢獻。他計劃全力以赴地開展人工智能政策的獨立研究，這使他有機會在更大範圍內產生影響，我們很高興能從他的工作中學習到很多內容並關注其影響，”OpenAI發言人在給Seeking Alpha的電子郵件聲明中表示。
關於OpenAI和世界對通用人工智能(AGI)的準備情況，布倫戴奇公開表示：“簡而言之，OpenAI和其他前沿的人工智能實驗室都沒有做好準備，世界也沒有做好準備。”
根據媒體披露信息的彙總，這已經不是OpenAI第一次解散與AI安全密切相關的團隊。有媒體報道稱，在今年7 月份，OpenAI 將公司最高級別安全主管之一亞歷山大·馬德里重新分配到人工智能推理方面的研究工作。據報道，民主黨參議員曾經致信OpenAI首席執行官薩姆·奧爾特曼，詢問OpenAI如何解決新出現的人工智能安全問題，而重新任命馬德里的決定就是在這個時候所做出。
此外，在更早前的今年5月，OpenAI決定解散其剛剛成立一年的“超級對齊”團隊(Superalignment team)，該團隊專注於AI的長期風險。
據瞭解，OpenAI於去年成立的“超級對齊”團隊，專注於“科學和技術突破，以引導和控制比人類更加智能的人工智能系統”。該團隊在5月份被解散，領導人Ilya Sutskever和Jan Leike接連宣佈離職。Leike在X上發帖稱，OpenAI的“安全文化和流程，已經讓位於光鮮的產品”。
OpenAI似乎全身心投入AI創收，無暇顧及AI安全
近期多個跡象顯示，生成式AI領域的領導者OpenAI致力於在滿足全球各國對於人工智能的監管規則的這一前提下，全身心投入於利用該公司所研發的全球最強大AI大模型實現鉅額營收，似乎全然無暇顧及AI安全。
據悉，OpenAI近日宣佈，已經聘請前優步高管斯科特·斯庫爾斯(Scott Schools)擔任該公司的首位“首席合規官”，以支持這家人工智能初創公司努力適應圍繞人工智能技術發展的新興全球監管法規。此次重要的高管招聘正值大西洋兩岸的監管機構圍繞OpenAI和其他科技公司最先進的人工智能大模型制定監管政策之際。
成功招募來前優步首席道德與合規官，被媒體解讀爲其在全球人工智能業務擴張和應對日益複雜的全球人工智能監管環境中做出戰略性的調整。隨着全球對人工智能技術的監管趨嚴，OpenAI正在積極採取措施，以確保其各項業務未來能夠在全球範圍合規運營並滿足各國的人工智能監管法規要求。
有觀察人士指出，此舉顯示出OpenAI的全球擴張雄心，並且強調合規性是其進入新市場的關鍵一環。隨着AI技術在全球多個行業的普及，如何在合規和創新之間取得平衡，避免人工智能法律法規風險，是公司全球擴展的核心挑戰。毫無疑問，斯庫爾斯的加入將使OpenAI能夠更好地處理不同國家的人工智能監管要求，從而爲其各項業務進入除北美之外的更多市場奠定基礎。
除了聚焦於全球圍繞人工智能發展的複雜監管環境，OpenAI近期還在加速推進“高質量內容獲取途徑合法化”，爲其全球範圍的業務擴張奠定重要基礎。其中包括與全球多元化媒體巨頭赫斯特 (Hearst Communications Inc.) 達成一項重要協議，將這家新聞與商業信息出版商的雜誌和報紙內容引入該所公司所開發的風靡全球的AI聊天機器人——ChatGPT，這項協議可謂爲這家人工智能初創公司與全球頂級媒體公司們簽署的一系列合作協議添加重要一筆。
通過獲得來自多元化媒體巨頭赫斯特等頂級媒體的正式授權內容，OpenAI的AI聊天機器人產品經訓練優化之後將能提供更多高質量內容，且能夠引用經過專業審覈的版權內容進行推理分析。這不僅大幅增強了ChatGPT的內容輸出質量，還使得其內容更具可信度，吸引全球範圍內的更多用戶信任其生成的信息，進而實現訂閱營收增長。
AI初創公司OpenAI的估值目前領跑全球所有初創公司，OpenAI在10月早些時候宣佈，該公司已籌集到66億美元的最新資金支持，這使其最新的估值達到驚人的1570億美元。OpenAI在博客中表示，這筆新資金將使該生成式人工智能公司加大對AI研究的領導地位、增加計算能力，並“繼續開發幫助人們解決複雜問題的工具”。媒體援引知情人士的話報道稱，微軟在此次融資中投入大約7.5億美元，進一步加碼其此前的130億美元投資規模。
非營利性質的OpenAI執着於拓展更多營收途徑的背後，可能在於OpenAI迫切需要更多資金來進行大模型訓練迭代，以及需要更加龐大的AI GPU算力體系來支撐其推理功能愈發強大的AI大模型(比如近日推出的推理能力無與倫比的o1-previews)，其在資本市場所融到的資金可能不足以滿足OpenAI愈發龐大的“燒錢預期”。
有預測數據顯示，預計OpenAI需要到2029年才能實現年度盈利，並且預計到本十年末，不計股票薪酬，OpenAI將耗資大約2000億美元，預計2023年至2028年的虧損總額將達到440億美元。這份預測報告顯示，OpenAI的很大一部分開支是面向大模型訓練迭代以及推理算力逐年劇增，預計到2026年，OpenAI每年的成本將高達95億美元。根據該報告，該公司超過2000億美元的開支中預計60%至80%將用於訓練迭代以及支持大模型愈發強大的推理能力。