人工智能與實體融合加速 網絡安全AI產品市場爆發

本報記者 鄭瑜 北京報道

當下，如何堅持築牢國家網絡安全屏障，引領網信事業高質量發展已經成爲重要課題。

“當前，我國新一代人工智能（AI）正在與實體經濟深度融合，廣泛應用於社會民生領域，激發創新活力和社會潛能。”中國友誼促進會理事長、國家網信辦原副主任陳智敏在主題爲“AI驅動安全”的“2024全球數字經濟大會數字安全高層論壇”上表示，安全是發展的前提，發展是安全的保障。

《中國經營報》記者從現場瞭解到，隨着科技發展，技術雙刃劍作用凸顯，在帶來好處的同時，AI也一併將現有的網絡安全威脅和新型威脅引入社會。根據奇安信（688561.SH）發佈的《2024年人工智能安全報告》，2023年基於AI的深度僞造欺詐暴增3000%，基於AI的釣魚郵件數量增長了1000%。其中一項對於IT（互聯網技術）行業領導者進行的關於ChatGPT等大模型的調查顯示，安全性是受訪者最關心的問題，71%的受訪者認爲生成式人工智能會給企業數據安全帶來新的風險。

加快推動形成人工智能綜合治理體系

面對人工智能時代新的網絡安全態勢，2024年《政府工作報告》提到，“加強重點領域安全能力建設”“提高網絡、數據等安全保障能力”。

當前各方都在呼籲提高對網絡安全態勢的重視水平，強化體系化安全能力建設。

“各行各業網絡化、數字化、智能化轉型加速，以數據爲關鍵要素的新產業，以人工智能爲關鍵技術的新場景，面臨的安全挑戰更加複雜，各類攻擊威脅與日俱增。”北京市政府副秘書長許心超表示。

與會人士告訴記者，人工智能帶來的安全挑戰和攻擊威脅尤其值得關注。“隨着人工智能技術的發展，攻擊者可利用人工智能技術生成網絡攻擊和釣魚工具等，網絡安全從人人對抗、人機對抗逐漸向基於人工智能的攻防對抗演化。要統籌網絡安全各方力量，構建大網絡安全工作格局，推動形成體系化防禦能力；要統籌高質量發展和高水平安全，推動形成人工智能綜合治理體系；要堅持網絡安全教育、技術、產業融合發展，推動形成人才培養、技術創新、產業發展的良性生態。”

“數據安全是人工智能安全的前提和基礎。”國家網信辦原副主任陳智敏認爲，要從網絡安全保衛向數據安全保衛的工作模式拓展，爲構建與數字生產力相適應的新型生產關係奠定基礎。

教育部原副部長魯昕指出，建設網絡安全強國、數字中國，培養符合網絡安全發展戰略需求的高素質技術技能人才，是保障國家安全和贏得產業發展主動權的基礎和關鍵。

技術激發網安行業新質生產力成效初顯

隨着網絡安全領域智能化產品落地，相關市場的規模快速增長。公開數據顯示，網絡安全領域的人工智能產品市場將從2017年的39.2億美元增長到2025年的348.1億美元，預測期內的複合年增長率爲31.38%。

據許心超介紹，北京市已將數字安全產業作爲全市重點發展的高精尖產業，目前已經匯聚數字安全企業1025家；2023年北京市數字安全企業收入達到996億元，產業帶動作用凸顯。

“AI驅動安全是大勢所趨，未來網絡攻防就是得AI者得天下。誰能提前抓住AI變革的機遇，誰就能掌握網絡空間安全的主動權。”全國政協委員、全國工商聯副主席、奇安信集團董事長齊向東判斷，當前網絡安全格局正在被顛覆重構，但這種顛覆重構不僅帶來新的安全挑戰，也爲網絡安全行業帶來前所未有的戰略機遇。

先進計算與關鍵軟件（信創）海河實驗室主任、中國新一代人工智能發展戰略研究院執行院長龔克表示：“人工智能是新質生產力，智能化大勢不可阻擋。不發展是最大的不安全，要發展AI促安全。”

在龔克看來，一方面，人工智能的發展推動了網絡安全技術的創新。例如，基於深度學習的惡意軟件檢測、用戶行爲分析等新技術不斷涌現，提高了網絡安全的防護能力。另一方面，人工智能的自動化和智能化特性又可以大大提高網絡安全管理的效率。通過自動化檢測、響應和風險評估等流程，可以更快地應對網絡威脅，減少潛在損失。

不過，齊向東強調，AI大模型也並非萬能鑰匙。尤其是在當前“百模大戰”的狀態下，只有高質量發展的大模型，才能真正帶來指數級能力躍升，激發網絡安全行業的新質生產力。

在齊向東看來，做好“AI驅動安全”至少需要具備三大條件：其一，高質量的訓練數據；其二，縱深防禦的內生安全體系；其三，設備、體系具有統一的輸入輸出標準。

（編輯：何莎莎 審覈：朱紫雲 校對：翟軍）