“ChatGPT之父”關於人工智能有哪些新觀點?

(原標題:“ChatGPT之父”關於人工智能有哪些新觀點?)

據新華社消息,在瑞士達沃斯,美國開放人工智能研究中心(OpenAI)首席執行官薩姆·奧爾特曼無疑是炙手可熱的“明星”之一。

奧爾特曼被譽爲“ChatGPT之父”。2022年11月,OpenAI推出大語言模型ChatGPT,掀起了生成式人工智能的熱潮。近日在世界經濟論壇2024年年會上,奧爾特曼發表了哪些關於人工智能的最新觀點?

人工智能會降低我們對彼此的關注嗎?

1997年,當IBM公司研製的人工智能系統“深藍”擊敗國際象棋世界冠軍加里·卡斯帕羅夫時,有評論員預測“這將是國際象棋的終結”,此後沒有人會再費心看棋或下棋。

但時至今日,“我們仍對人類所做的事情非常感興趣,幾乎沒人觀看兩個人工智能對弈,”奧爾特曼說,他在讀完自己喜歡的書後,第一件事就是了解作者的生活,“我想感受到與那個引起我共鳴的人之間的聯繫”。

奧爾特曼說,人類始終在獲得更好的工具,但有一點不會改變,那就是“今天我們仍然非常關注彼此”。

需要擔心人工智能取代人類工作嗎?

奧爾特曼認爲,人工智能將對人類工作產生巨大影響。如今,人工智能已經成爲“令人難以置信的生產力工具”,但尚未以經濟學家擔心的規模取代工作崗位。

人類還能從事哪些工作?奧爾特曼以自己爲例說,“我並不是人工智能研究人員,我的角色是弄清楚我們將做些什麼,然後與其他人合作並實現目標。”他認爲,未來,人類將在更高的抽象層次工作,也將獲得更多能力。

人工智能監管是好事情嗎?

奧爾特曼表示對人工智能技術實施監管表示歡迎。他認爲各方在發展人工智能技術過程中“遵守高標準是件好事”,科技行業有責任將社會意見納入諸如價值觀和安全閾值等決策中,以保證收益大於風險。

奧爾特曼強調,“應讓社會和技術共同發展,構建這些(人工智能)系統時,應通過非常嚴格的反饋循環和路線修正使其逐步發展,在符合安全要求的同時提供巨大價值”。

比技術更難的問題

奧爾特曼指出,對人工智能進行“迭代部署”意味着社會可以逐漸習慣這項技術,並讓“我們的機構有時間展開討論,以弄清楚如何監管”。

奧爾特曼認爲, GPT-3和GPT-4在對價值觀保持一致方面取得了“巨大進展”。但他認爲,比技術更難的問題是:誰來決定這些價值觀、默認價值觀是什麼、界限是什麼?它在不同國家如何運作?用它可以做什麼以及不可以做什麼?“這是一個重大社會問題。”他說。

AGI是不是“嚴重危害”?

通用人工智能(AGI)是人工智能的重要研究方向。去年2月,奧爾特曼曾警告通用人工智能(AGI)的“嚴重危害”。在世界經濟論壇上,奧爾特曼的態度有所軟化。

與微軟首席執行官薩蒂亞·納德拉對話時,奧爾特曼表示,AGI將是一個“令人驚訝的持續性事物”,“每年我們都會推出一個新模型,而且會比前一年好得多”。

在另一場對話中,奧爾特曼認爲,AGI可能會在“相當近的未來”得到開發,但“對世界的改變將比我們想象得要小得多,對工作的改變也比我們想象得要小得多” 。