產業追蹤／數位時代 資安思維不可少

人工智慧與資安雙向應用

在數位經濟時代，AI的應用與資訊安全發展已密不可分，兩者之間形成一個交互影響的環狀關聯產業生態系，涵蓋保護AI的資安、使用AI強化資安，以及AI驅動的攻擊。每一個環節都在塑造我們對安全的理解和因應措施。

首先，保護人工智慧的資安（Cybersecurity for AI）是確保AI系統在開發、訓練與運作過程中的核心。隨着AI應用於各行各業，安全性變得很關鍵，這包括多面向：一開始是AI場域可信賴性，確保AI的行爲符合人類基本價值觀；其次是AI系統的安全性，需要防範各類對抗性攻擊。訓練資料與輸出結果的保護也不容小覷，這些資料直接影響AI系統的表現和可信度。透過安全措施，AI系統得以在受保護的環境中運作，爲用戶提供可信賴的服務。

在Cybersecurity for AI領域中，涵蓋AI系統規格的驗證，並確保AI的效率、安全、穩健性與公平性等特質。AI所做的決策必須能被信任，尤其面對對抗性攻擊時，需藉助新興賦能科技來維持穩定。此外，AI系統本身的資安已提升至國安層面，各國積極投入AI資通安全標準與合規的制定，並將其視爲國家發展策略的重要環節。因此，涵蓋AI賦能的資訊軟體暨系統，以及供應鏈的安全，能否被信任，亦是資安領域的重點課題。

使用人工智慧強化資安（AI for Cybersecurity）是反向利用AI的強大分析能力來提升資安防禦。AI能夠處理大數據分析，快速偵測潛在威脅，這在現代資安中起到重要的作用。AI驅動的威脅偵測系統可識別異常行爲並即時發出警報，有效嚇阻潛在攻擊。主動式防火牆利用AI即時監控網路流量，並根據學習到的模式自動調整防護措施。AI還可用於智慧鑑識，分析惡意程式的特徵，並生成防禦策略。

零信任也是資安架構思維。在AI賦能資安的數位浪潮中，企業的資安防護策略須跟上時代腳步，善用AI賦能科技可確保資安的全面性。企業資訊長（CIOs）及資安長（CISOs）需要具備能「見樹又見林」的策略，結合AI和零信任理念，全面提升資安防護。

零信任安全策略的核心在於假設網路環境已被入侵，並圍繞企業最重要的資產—資料，來定義防護表面。企業須明確定義誰、何時、藉由什麼管道、基於什麼原因可存取關鍵資料，並持續監控管理相關行爲。而「網路安全網格架構（CSMA）」旨在縮小被攻擊的表面，並將現有資安解決方案整合成一個蜘蛛網狀的架構，以便監控網路安全。零信任是由內而外的策略，而CSMA更傾向於由外而內的架構。建議企業同時關注零信任（樹木）和CSMA（森林），整合現有安全解決方案，達到內外兼顧，極大化價值整合。

生成式AI技術在資安領域的應用，掀起一場資安產業軍備競賽。全球各大資安廠商都積極推出基於生成式AI的新型資安產品與服務。大型語言模型在各行各業的廣泛應用，展示AI生成式對抗網路技術的驚人潛力。

隨着AI技術的進步，AI能進行系統弱點分析，快速識別目標系統中的漏洞，爲後續攻擊創造機會。社交工程攻擊也因AI介入變更精確，生成高度擬真的釣魚郵件或詐騙電話，增加攻擊的成功率。此外，深僞技術（DeepFake）與假訊息的結合，使虛假資訊變更逼真且難以識別，從而增加詐騙成功的可能性。這些AI驅動的攻擊對現有資安防護措施帶來挑戰，迫使資安專家不斷提升防禦能力。

AI嵌入資安的智慧應用已成顯學，智慧資安系統（SOC／SIEM／SOAR等）的服務更是資安廠商競相投入的重點。SIEM和SOC成爲企業安全防護的重要盾牌，其中SIEM提升資訊環境的可視化，而SOC像監控塔臺一樣，提供相關威脅的即時迴應。（作者是資策會MIC資深產業分析師）