中科院院士張鈸：人工智能算法存仿聲換臉風險，要防止被濫用

人工智能是否會失控？如何防止人工智能對人類造成傷害？7月3日，在第十屆世界和平論壇大會上，中國科學院院士、清華大學人工智能研究院名譽院長張鈸就“安全的人工智能”這一主題發表了演講。他表示，由於現階段算法存在不安全、不可靠等風險,因此即便人工智能只是發展到初級階段，但仍存在不確定性和危險性。

張鈸還表示，雖然現如今不必擔憂有人利用智能機器人打造殺人武器，但人工智能被誤用、濫用也會導致“仿聲”“換臉”深度僞造的問題，這類技術往往以假亂真、難以分辨。而且由於技術難度小、懲治力度小，也大大降低了造假成本。

針對以上問題，張鈸重申了“第三代人工智能”的理念，認爲應以人爲本，將人類安全作爲出發點，發展可信、可靠、可擴展的人工智能。他呼籲應加強國際合作讓人工智能健康發展，造福全人類。

中國科學院院士、清華大學人工智能研究院名譽院長張鈸。資料圖

現階段人工智能是否威脅人類安全？

人工智能是否會失控呢？包括霍金在內的很多學者秉持的基本觀點是，如果人類一旦研製出有自我意識的超智能機器，那麼人類將無法對它進行控制，這可能會對人類造成災難性後果。但目前人類是否能製造出超級智能機器在學術界還存在爭議，現階段無法回答這一問題。因此，對於人工智能的安全問題，張鈸認爲不僅要考慮遠慮，更要考慮近憂。

現階段人工智能不會對人類造成威脅嗎？張鈸否認了這一點，他認爲雖然到現在爲止，人工智能雖然只發展到初級階段，但實際上也已出現一些安全問題，原因在於現階段人工智能算法還存在不安全、不可信等風險。

張鈸表示，現階段給大家展示的人工智能的決策結果往往是經過精心挑選後的最好結果。但實際上大多數情況下，一些人工智能很難給出合意的結果，他舉例說明了這一觀點。“當我問人工智能，人有多少隻眼睛時？它第一次迴應稱左眼100個，右眼99個；當我再次提問時，它又給出另一個回答稱，人有28000個眼睛；如果再問它同一問題，它會說，經測算白日裡有4億顆眼睛，是夜裡的20多倍。”

“試想一下，如果我用這個系統幫助我做決策，那它可能會經常做出錯誤的決策。”張鈸說。

數據安全也是目前面臨的重大安全問題。張鈸指出，當前大數據對人工智能產生了較大的影響。第一，數據呈現幾何級增長，而現在也傾向於蒐集全部數據來代替數據採樣；第二，重視數量，而不是重視質量；第三，強調數據的關聯關係，而非因果關係。

張鈸認爲這三種轉變給人工智能帶來了較嚴重的安全問題。2016年微軟曾推出一款聊天機器人，由於不重視數據質量，後來這一款聊天機器人發表了一系列種族歧視、性別歧視的言論。此外，目前有一種攻擊人工智能系統的方法“數據下毒”，通過爲人工智能提供錯誤的訓練數據影響人工智能。

深度僞造聲音、面貌，造假代價低、真假難分辨

針對防止人工智能被誤用、濫用的問題，大多數人可能想得比較長遠，比如利用智能機器人打造殺人武器。但實際上，當下人工智能也可能被濫用；如果被濫用，後果也極爲嚴重。

張鈸介紹了深度僞造這一問題，他指出現階段用人工智能算法來僞造視頻、照片、語音已不存在技術難題。爲了更生動地闡明這一點，他在會議上播放了樑宏達的原聲與合成音。記者發現，這兩個聲音極爲相似，幾乎難以識別。

張鈸表示，這兩個講話有一個是假的，一個真的，很難辨別。於是我們用機器判定，但兩個機器的檢驗結果卻都是錯誤的。第一個檢驗結果認爲A是假的，B是真的，第二個檢驗結果是兩個都是假的。但實際上A是真的，B是假的。

“試想一下，如果將來你沒講過的話，被別人造謠爲你講過的，而且後期技術也難分辨真假，那這對社會的危害是極大的，因此對於這一問題各方都應重視。”張鈸說。

除了聲音以外，“換臉”技術也足以以假亂真。張鈸談到通過換臉技術可以把視頻中的“臉”置換，而且這一技術非常容易，但後期卻很難判斷真假。“原來視頻上的人不是你，把你的臉放上去，你沒做過的事情也歸你了。”

張鈸還表示，現在造假代價太低，很難找到始作俑者，而且懲治力度也較低。

如何防止人工智能出現失控的狀態？

科幻作家阿西莫夫曾提出了機器人三原則。第一，機器人不能傷害人類，而且在人類受傷害時不能袖手旁觀；第二，機器人必須服從人類的命令，除非這個命令違反了第一個原則。第三，機器人要保護自己不受傷害，但是不能違反前兩個規則。

張鈸表示，但由於現階段機器人行爲是不可預測的，因此我們不知道這一行爲是否會傷害到人類，因此也難去執行這一原則。對此，他重申要“發展第三代人工智能”。第三代人工智能的中心思想是以人類的安全爲出發點，爲人工智能提供了安全滲透、評估、加固、防火牆等方法，發展可信、可靠、可擴展的人工智能。

“我們現在提的方案很簡單，就是把人類的智慧加進去。人類的智慧是什麼？知識。現在數據驅動的方法只強調數據、算法、算力是不夠的，還必須要把知識加進去。”張鈸說。

張鈸呼籲，“如今發展安全的人工智能已是當務之急。作爲人工智能研究者，我們必須把精力集中在發展以人類安全爲核心的安全的人工智能。我也希望全世界可以團結起來，通過國際合作來讓技術服務人類需要，讓人工智能健康發展，造福全人類。”

採寫：實習生 王瑋 南都記者 丁境炫 陳秋圓 發自北京