趨勢觀察/趨勢科技執行長陳怡樺 防駭升級 保護企業大腦
趨勢科技執行長陳怡樺指出,在快速生成的資訊中,已經潛藏駭客入侵危機。 記者彭慧明/攝影
最近一年,企業應用生成式AI的「企業大腦」成爲新商機,企業紛紛打通內部資料庫,以AI跨資料庫生成大量內部知識,AI PC更主打爲商業用戶快速生成資訊。趨勢科技執行長陳怡樺指出,在快速生成的資訊中,已經潛藏駭客入侵危機,包括使用者身分認證問題,或是指令傳送過程中就被攔截、以深僞(deepfake)技術產生,企業正面臨效率與資安危機並存的狀況。需要新的安全身分認證,更快有效判斷使用行爲,或及早攔阻。
人工智慧 打破資料界線
陳怡樺指出,在生成式AI技術前,過去企業內部所有資料庫是「數據孤島」,例如研發、財務、人資、客戶管理等資料庫各自獨立,各有權限,有保密的好處,但缺乏跨資料庫的整合應用,員工要使用也需要相應的權限。
但生成式AI的影響是打破資料界線,個別的資料庫全部成爲一個資料湖(data lake),員工可以下達自然語言指令,找出包含用戶、財務和相關使用行爲的綜合資料。大語言模型可以橫跨所有不同的語言,不同的資訊,連結生成出重要的資訊或是摘要,或全新的資料。
陳怡樺說,企業在AI時代有了高效率,也有相對的高風險,駭客或是駭入員工的身分或是侵入電腦,更甚者與不法員工勾結,想要影響企業營運。
舉例來說,一個考績不佳、有被開除風險的員工,現在正在查詢公司研發單位機密或客戶數據;或是員工突然從俄羅斯登錄、大量查詢公司財務和產品資料。
過去這些行爲本來做不到,卻因爲AI整合資料庫彙集提供訊息,反而很容易提供大量跨資料庫資訊。
陳怡樺說,企業資料庫在面對員工身分認證的問題,必須要有全新的身分認證方式,綜合考量員工的表現給予相對的內容,雲端資料庫需要同時理解帳戶的可信度、給予「合理」資訊,不能讓員工等幾小時才獲得結果,這需要大量的算力和有效的資安解決方案,當前的AI伺服器結合資安技術,已經讓這種即時判斷更好執行。
陳怡樺說,另一種資安問題來自員工的AI周邊,員工可能不自知設備已被駭客入侵,在下達指令時,被駭客指令攔截(prompt injection),結果找出與原先不符的內容,甚至以深僞(deepfake)技術竄改出錯誤答案。因此同樣需要企業員工經常檢視自己的設備安全。
深僞潛伏 當心指令攔截
她強調,「指令攔截」是當前正在發生的資安問題,個人更需注意設備資安,因爲會發生在各行各業,趨勢科技近期在運行有名企業的生成式AI程式一週後,資安長立刻下令停用,因爲也發現指令攔截的問題。
亞洲地區如新加坡政府在內,也已經注意到駭客入侵資料庫路徑攔截指令、產生錯誤假訊息的狀況,讓原本個人資安問題,升級到國家級的資訊安全議題。
陳怡樺表示,當前企業將資料庫放上雲端,並應用生成式AI技術做內部資料庫、建立私有云的策略很正確,但在建構雲端服務的設計初期,就要一併將新的AI資安概念,包括企業內部的語言模型、使用者身分認證做整體的規劃,企業內部運用自家大腦時除了效率也要兼顧資安,讓AI處於健康且安全的狀況。
延伸閱讀