可信人工智能理念逐漸成爲全球共識

“尋找人工智能時代隱私保護、政府監管、商業訴求的平衡點,已經成爲產學研各界迫切需要解決的問題。‘可信AI’的理念逐漸成爲全球共識,也成爲未來人工智能產業健康發展的必由之路。可信AI,就是確保AI公平性、可解釋性、健壯性和透明性,確保算法可被人信任”,科技部高技術研究發展中心研究員、ACM中國理事會常務理事嵇智源在2021全球人工智能技術大會可信AI專題論壇上表示。

嵇智源在論壇致辭中說,互聯網、大數據、人工智能等現代科學技術的進步和升級,對人類生活、社會管理產生了巨大的改變。人工智能作爲新一輪產業變革的核心驅動力,正在各個行業、產業中產生着越來越深的影響。

然而,在人工智能的時代,信息數據作爲有價值的資產,在數據的採集、傳輸、存儲和共享等各個環節都面臨着新的安全風險與挑戰,同時數據的隱私安全問題也是數字經濟發展、社會組織管理、商業業務價值創造急需解決的痛點。

嵇智源表示,當前從“科學”到“技術”到“市場”演進週期越來越短、各研發階段邊界模糊,技術更新和成果轉化更加快捷。爲了適應新技術革命和產業變革帶來的新特徵,科技部先後組織實施國家高技術研究發展計劃(863計劃)、國家重點研發計劃等國家高技術研究發展的戰略性計劃,瞄準國民經濟和社會發展各主要領域的重大、核心、關鍵科技問題,組織產學研優勢力量協同攻關;經過數十年的實施,有力促進了中國高技術及其產業發展。

例如,面向城市規劃、建設治理、智慧社區等多種應用場景和民生需求,以城市智能系統爲對象實施的新一代智能基礎設施建設,實現了智能化和精準化的城市管理。同時,也在數據共享、機制協同、可信體系建設等方面提出了新課題。

“因此,尋找人工智能時代隱私保護、政府監管、商業訴求的平衡點,已經成爲產學研各界迫切需要解決的問題。目前,許多國家已經着手評估如何在確保隱私、安全、透明、責任和對人工智能系統的掌控下,擴大創新和潛在經濟利益,使人工智能得以健康有序的發展”,嵇智源表示。

“在此背景下,‘可信AI’的理念逐漸成爲全球共識,也成爲未來人工智能產業健康發展的必由之路。可信AI,就是確保AI公平性、可解釋性、健壯性和透明性,確保算法可被人信任。”

他說:“不久前,我與本次論壇主席、同盾科技聯合創始人張新波、人工智能研究院李曉林院長等就人工智能、大數據的數據安全可信問題進行了有益的交流,我很讚賞他們提出的‘知識聯邦’概念及其觀點,也就是將散落在不同機構或個人的數據聯合起來,轉換成有價值的知識,同時採用相應的安全協議來保護數據隱私,從而確保人工智能所作出的決策是公平、易理解、安全、可信賴的。”

當然,人工智能中數據採集、傳輸、共享的安全可信不僅是技術層面的問題,人工智能的“可信”,也需要建立一系列相應的法律、法規、標準和社會倫理準則予以保障,嵇智源最後指出。