3本書，關乎未來10年人生轉折，儘快開始讀！
閱讀即生活，書中有世界。讀者朋友們晚上好，湛廬君與你一同回顧不平凡的一週。
本週，央行發佈了以降低存量房貸利率爲首的一系列經濟提振組合拳，A股高歌猛進，逼近3100點，讓不少人久違地長舒了一口氣。
另一邊，OpenAI創始人奧爾特曼在本週發表了一篇文章，提出了預測：超級AI，將在未來幾千天出現！
奧爾特曼發表完這篇文章，業界一片譁然。緊接着，OpenAI的CTO Murati在社交平臺上宣佈離職，原因是OpenAI在2015年成立時，還是一個想用AI造福人類的非營利組織，如今在奧爾特曼的掌舵下要轉向一個不受控的盈利性公司。
CHEERS' WEEKLY ｜ No.11
這意味着，OpenAI創始團隊的核心成員已經“漸行漸遠”。衆人紛紛表示擔憂——奧爾特曼會不會打開AI的潘多拉魔盒，最終放出一隻不受控、甚至吞噬人類的怪獸？重要的是，這個怪獸很可能在不到10年內就會出現……
本期CHEERS’ WEEKLY，湛廬君想和你聊聊，當AI的奇點真正來臨時，我們未來的生活發生什麼變化，以及我們應該從現在起做哪些準備。
2024-09-29
✦用閱讀看世界✦
一、如果AI失控，它的風險與邊界在哪裡？
在過去一年中，OpenAI經歷了人事的劇烈動盪。除了CTO Mira Murati外，首席研究官Bob McGrew和研究副總裁Barret Zoph也相繼辭職，連創始人之一Ilya Sutskever也在今年5月選擇了離開。
自2015年成立以來，OpenAI一直聲稱致力於安全且有益的人工智能發展。然而，隨着公司向營利性轉型，許多人開始懷疑其初衷是否依舊。前員工們反映，原本的非營利使命已被徹底扭曲，取而代之的是與利潤緊密掛鉤的目標。
馬斯克發文“吐槽”OpenAI的人事變動
儘管如此，OpenAI在市場上的表現卻異常強勁。2023年8月，該公司的收入達到3億美元，較年初激增1700%。預計到2025年，收入將增長至116億美元。儘管這樣的增長令人振奮，卻也引發了對其可持續性和倫理風險的擔憂。例如，GPT-4o模型在推出後就曾出現了安全問題。
在奧爾特曼的高壓政策下，許多研究者被迫在極短時間內進行安全測試，導致一些關鍵問題未能及時發現。高管們急於在重大活動前推出新產品的決策加劇了團隊的不滿和挫敗感。
隨着奧爾特曼對盈利組織的傾斜，OpenAI的未來充滿了不確定性。許多專家和前員工擔心，人工智能可能在缺乏足夠監管的情況下快速發展，甚至成爲一個不受人類控制的“怪獸”。
-⬆️點擊書封，立即入手-
在《如何創造可信的AI》中，AI專家蓋瑞·馬庫斯指出：值得信賴的人工智能需要在法律和行業標準的監管之下，以優秀的工程實踐爲基礎。然而，目前相應的法律和標準基本上缺失。太多的人工智能項目只是在短期內解決問題，缺乏其他行業常見的關鍵工程保障。
馬庫斯提醒：在超級人工智能到來之前，相比於一路高歌猛進，我們更需要警醒的是安全。
他向讀者引出了艾薩克·阿西莫夫（Isaac Asimov）於1942年提出的“機器人三定律”，它們不僅是科幻小說中的設定，更是我們在構建未來人工智能時應認真對待的原則——第一，機器人不得傷害人類，或因不採取行動而任由人類受到傷害；第二，機器人必須服從人類的命令，但與第一條定律相沖突的命令除外；第三，機器人必須保護自身的存在，前提是這種保護不違背第一、第二定律。這些基本原則爲我們提供了一個反思的框架，提醒我們在追求技術進步的同時，必須始終把人類的安全與倫理放在首位。
二、芯片帝國崛起，重塑未來世界最重要的力量
奧爾特曼還在積極推動一個“芯片帝國”計劃。這一宏偉構想旨在與阿聯酋、亞洲芯片製造商及美國官員談判，計劃投資高達7萬億美元，在全球範圍內（包括中東）建立新的芯片工廠和數據中心。
這一計劃不僅反映出奧爾特曼的雄心壯志，也表明他在全球科技界的影響力與日俱增。
根據《紐約時報》的報道，奧爾特曼的願景是建立無數數據中心，提供全球算力庫，以支持下一代人工智能的構建。目前，儘管具體的運作模式尚不明確，OpenAI似乎正在組建一個鬆散的公司聯盟，涵蓋微軟、投資者和芯片製造商。
在這一過程中，OpenAI的籌資似乎即將成功。然而，臺積電高管對此計劃的“荒謬”看法，及其要求阿聯酋出資建設多個高達430億美元的芯片製造廠的提議，均表明這一野心並非易事。OpenAI發言人Liz Bourgeois對此表示，儘管未來幾十年內全球AI基礎設施的總投資可能達到數萬億美元，但OpenAI正在探索的規模僅爲數千億。
-⬆️點擊書封，立即入手-
芯片作爲現代科技的核心，構成了社會運轉的基礎，影響國家安全、商業和文化等多個方面。在此背景下，瞭解芯片的歷史和未來顯得尤爲重要。而《芯片簡史》這本書恰好爲我們提供了這樣的視角。書中詳細呈現了芯片從發明到發展的60多年曆程，涵蓋了量子力學、半導體物理學以及各種半導體器件的演變，最終形成了今天的數字和模擬芯片。
在理解OpenAI的發展和變化時，我們也許能從這部經典著作中獲得啓發，幫助我們更全面地看待芯片與未來科技的關係。隨着OpenAI的進展與挑戰不斷浮現，回顧這一領域的發展脈絡，能讓我們更好地理解現狀，並思考未來可能的走向。
三、奇點降臨，人類何爲？
奧爾特曼預測，超級人工智能ASI將在幾千天后出現。其實不止是奧爾特曼，埃隆·馬斯克、《人類簡史》作者赫拉利·尤瓦爾都曾公開發表過相同的觀點：完全超越人類智能水平的AI，正在以超越每個人想象的速度出現。
倘若那個時刻真正降臨，未來世界什麼樣，人和AI的關係如何，我們要做哪些準備？
我們終於等到了《奇點更近》。庫茲韋爾預言，2029年，AI將完全通過圖靈測試；而到2045年，我們將真正走到人類文明與技術的“奇點”。
-⬆️點擊書封，立即入手-
“我們將與AI融爲一體，並利用比人類強數百萬倍的計算能力來增強自己的能力，這種智能和意識的提升影響深遠，以至於人們會感到難以完全理解。我所謂的“奇點”，正是指這一事件。”
庫茲韋爾是比爾·蓋茨口中“最擅長預測人工智能未來的人”。“深度學習”“腦機接口”“3D打印”“DNA結構破解”“超算力芯片”……庫茲韋爾做出過147次預測，其中86%已經成真！
爲什麼奇點更近了？庫茲韋爾說：當前超級計算機的計算能力已遠超模擬人腦所需。現在，我們正在進入指數增長的陡峭階段。這些進步都建立在庫茲韋爾定義的“加速回報率”之上：技術持續進步，而計算和信息技術成本呈指數下降，每一次進步都讓下一階段的迭代變得簡單。
奇點到來前的世界究竟會怎樣。不妨一起看看庫茲韋爾的最新的預測：
2020年末，3D打印技術將能夠打印服裝、商品，甚至摩天大樓；
2030年初，通過醫用納米機器人我們可以實現細胞層面的維護和修復，達到“長壽逃逸速度”；
2030年末，人們將能夠隨心所欲地改變自己的外貌；
2040年初，我們將能夠創造出與我們幾乎沒有區別的複製人。
隨着庫茲韋爾對未來的大膽預測逐漸浮現，我們似乎正站在一個鉅變的邊緣。超級人工智能的崛起不僅會重塑我們的生活方式，更可能重新定義“人類”這一概念。
在即將到來的奇點面前，我們不僅要面對技術的飛速發展，更要審視人類自身的定義與未來。《奇點更近》不僅是啓示，更是航向。
我們必須認真思考：在與AI融合的未來，我們的角色是什麼？我們的價值觀如何調整？科技的進步會爲我們帶來無限可能，還是讓我們陷入新的困境？這是留給每一個人的深思命題。
點擊加入會員！全年買書享5折～
1、
2、
3、
4、
5、
6、
7.
8.
9.
10.
本期策劃：李植
編輯：蘆丁
CHEERS CHEERS CHEERS
BD@cheerspublishing.com,
拜託點下“在看”