月之暗面CEO楊植麟談AI安全：不一定是當前最大的矛盾，但肯定是長期儲備｜大模界

今日（6月14日），AI行業盛會“2024北京智源大會”在中關村展示中心開幕。《每日經濟新聞》在現場注意到，在全體大會中的“尖峰對話：通往AGI之路”環節，百川智能CEO王小川、智譜AI CEO張鵬、月之暗面CEO楊植麟、面壁智能CEO李大海展開對談。

在對談中，楊植麟談到，AI安全非常重要，它可能不一定是當前最急迫，但是一個需要我們提前去準備的事情。因爲隨着模型不斷優化和Scaling Law（尺度定律）的發展，每N個月算力乘十倍，智能水平也得到提升，這是一個逐漸適應的過程。因此，AI安全不一定是當前最大的矛盾或者最緊急的事情，但它肯定是長期儲備。

楊植麟認爲，在這之中最重要的是兩個方面，首先是模型會因爲用戶本身有些惡意意圖，通過prompt（提示詞）讓模型去做一些本來不應該做的事情。其次是模型本身是否有自己的motivation（動機），這與訓練方式相關，包括能否在模型的底層去注入例如AI的“憲法”、功能去框定其行爲，無論用戶給什麼指示，都不會違背這個“憲法”。