趨勢觀察／趨勢科技執行長陳怡樺 防駭升級 保護企業大腦

趨勢科技執行長陳怡樺指出，在快速生成的資訊中，已經潛藏駭客入侵危機。 記者彭慧明／攝影

最近一年，企業應用生成式AI的「企業大腦」成爲新商機，企業紛紛打通內部資料庫，以AI跨資料庫生成大量內部知識，AI PC更主打爲商業用戶快速生成資訊。趨勢科技執行長陳怡樺指出，在快速生成的資訊中，已經潛藏駭客入侵危機，包括使用者身分認證問題，或是指令傳送過程中就被攔截、以深僞（deepfake）技術產生，企業正面臨效率與資安危機並存的狀況。需要新的安全身分認證，更快有效判斷使用行爲，或及早攔阻。

人工智慧 打破資料界線

陳怡樺指出，在生成式AI技術前，過去企業內部所有資料庫是「數據孤島」，例如研發、財務、人資、客戶管理等資料庫各自獨立，各有權限，有保密的好處，但缺乏跨資料庫的整合應用，員工要使用也需要相應的權限。

但生成式AI的影響是打破資料界線，個別的資料庫全部成爲一個資料湖（data lake），員工可以下達自然語言指令，找出包含用戶、財務和相關使用行爲的綜合資料。大語言模型可以橫跨所有不同的語言，不同的資訊，連結生成出重要的資訊或是摘要，或全新的資料。

陳怡樺說，企業在AI時代有了高效率，也有相對的高風險，駭客或是駭入員工的身分或是侵入電腦，更甚者與不法員工勾結，想要影響企業營運。

舉例來說，一個考績不佳、有被開除風險的員工，現在正在查詢公司研發單位機密或客戶數據；或是員工突然從俄羅斯登錄、大量查詢公司財務和產品資料。

過去這些行爲本來做不到，卻因爲AI整合資料庫彙集提供訊息，反而很容易提供大量跨資料庫資訊。

陳怡樺說，企業資料庫在面對員工身分認證的問題，必須要有全新的身分認證方式，綜合考量員工的表現給予相對的內容，雲端資料庫需要同時理解帳戶的可信度、給予「合理」資訊，不能讓員工等幾小時才獲得結果，這需要大量的算力和有效的資安解決方案，當前的AI伺服器結合資安技術，已經讓這種即時判斷更好執行。

陳怡樺說，另一種資安問題來自員工的AI周邊，員工可能不自知設備已被駭客入侵，在下達指令時，被駭客指令攔截（prompt injection），結果找出與原先不符的內容，甚至以深僞（deepfake）技術竄改出錯誤答案。因此同樣需要企業員工經常檢視自己的設備安全。

深僞潛伏 當心指令攔截

她強調，「指令攔截」是當前正在發生的資安問題，個人更需注意設備資安，因爲會發生在各行各業，趨勢科技近期在運行有名企業的生成式AI程式一週後，資安長立刻下令停用，因爲也發現指令攔截的問題。

亞洲地區如新加坡政府在內，也已經注意到駭客入侵資料庫路徑攔截指令、產生錯誤假訊息的狀況，讓原本個人資安問題，升級到國家級的資訊安全議題。

陳怡樺表示，當前企業將資料庫放上雲端，並應用生成式AI技術做內部資料庫、建立私有云的策略很正確，但在建構雲端服務的設計初期，就要一併將新的AI資安概念，包括企業內部的語言模型、使用者身分認證做整體的規劃，企業內部運用自家大腦時除了效率也要兼顧資安，讓AI處於健康且安全的狀況。

延伸閱讀