央視聚焦AI深度合成技術濫用，天融信提示防範AI克隆風險

"部分AI克隆工具對於使用者來說沒有任何輸入限制，只需輸入克隆對象的語音或人臉照片即能生成克隆音頻或視頻，如果被惡意利用，會產生很大風險。"中國網絡空間安全協會人工智能安全治理專業委員會專家、天融信(002212.SZ)科技集團副總裁薛智慧表示，當前AI克隆技術的應用場景廣泛，包括娛樂影視製作、語音助手、醫療康復等領域，但同時該技術也會帶來隱私泄露、欺詐和虛假信息傳播等潛在安全隱患。

央視近日報道稱，從惡搞企業家雷軍到AI製作張文宏醫生音視頻爲自己帶貨，甚至還有不法分子利用AI深度合成視頻，進行詐騙。過去一年，AI深度合成音視頻侵權現象愈演愈烈。實現AI深度合成音視頻並不算難事，甚至在一些購物平臺，AI深度合成技術已經成爲衆多網店牟利的工具，只需花費幾十元，就可定製AI深度合成名人音視頻。

薛智慧在接受央視採訪時介紹，當前有很多開源的軟件和工具都可以實現換聲換臉的效果，可供網民自由下載，在自己的電腦上進行安裝和使用。與之相對的是，以AI技術對抗和檢測AI克隆的水平也進一步提升。當前有一些典型AI鑑僞技術，能夠對這些圖片或者音視頻進行檢測，來判斷或者分析這些圖片是否是後期加工和合成的。

同時，中國計算機學會計算機安全專業委員會委員、天融信科技集團副總裁呂延輝提示，在網絡購物平臺使用AI深度合成技術，製作出售名人的音視頻，會觸犯相關法律。據瞭解，《中華人民共和國民法典》規定，自然人享有肖像、聲音等權益，任何組織或個人利用信息技術僞造都是侵權行爲。2023年國家網信辦、工信部、公安部聯合發佈出臺的《互聯網信息服務深度合成管理規定》要求，任何組織和個人不得利用深度合成服務製作、複製、發佈、傳播法律、行政法規禁止的信息。2024年網信辦發佈的《人工智能生成合成內容標識辦法(徵求意見稿)》也提出，對AI生成合成內容要進行標識，以便公衆識別和區分，防止誤導性信息傳播。

呂延輝在採訪中進一步表示，防範AI侵權問題需要從法律、平臺和公衆等多個層面綜合施策。法律層面，要進一步完善相關立法，細化AI克隆技術的法律條款，明確侵權行爲的定義和責任，同時加強執法力度。平臺層面，要強化相關政策法規的宣貫和執行，做好已有數據的保護，應用技術手段來規避AI克隆侵權問題的發生，同時也要建立健全內容審覈和侵權舉報機制，及時發現和處理侵權問題。