人民網三評“AI伴侶”之三：AI亂象需及時治理

崔麗麗

事實上，不止“AI伴侶”存在爭議。隨着人工智能的快速發展，各種AI亂象也逐漸引起了大衆的關注。

AI亂象頻現的根源在於部分主體對利用新技術工具謀取商業利益的無限度追求。爲了有效遏制這種貪婪無度的逐利之心，構建一套科學合理的治理框架顯得尤爲迫切。

具體而言，需要在現行法律法規、政策文件基礎上進一步補充和完善針對AI應用的監管要求，同時明確AI相關企業、應用方、平臺方以及個人與企業使用者的責任與義務。

目前，我國已經出臺了一系列與人工智能相關的法律法規，如《網絡安全法》《數據安全法》《個人信息保護法》等。對於更廣義範圍內的AI智能體應用，應進一步加強AI應用過程中的數據、算法管理。比如，數據保護與隱私安全。AI智能體在提供服務的過程中，往往會收集和處理用戶的個人信息。因此需要對相關的數據收集、存儲、使用等環節進行符合個人隱私保護要求的監管，確保用戶的隱私安全。

再如，規範AI智能體的算法設計，這直接關係到其服務的質量和效果。爲了避免算法歧視、算法偏見等問題，我們需要在法律中明確算法設計的原則和要求，如公平性、透明度、可解釋性等。同時，對於涉及敏感領域的算法，如情感分析、心理評估等，需要進行更爲嚴格的審查和監管。

此外，爲了確保AI智能體產品的質量、安全和恰當體驗，需要進行認證與評估，構建相關的認證、評估體系。

而對於違反相關法律法規的AI智能體生產及應用的相關主體(技術提供方、應用方、平臺方等)，還需要進一步完善責任追究機制。在治理和監管過程中，要明確AI相關企業、應用方、平臺方以及個人與企業使用者等相關方在道德和倫理層面負有的社會責任與義務。同時，監管部門和企業還需要建立相應的投訴和舉報機制，及時妥善解決各類問題。用戶作爲最終使用者，也需要明確承擔相應的責任和義務。用戶也需要提高自我保護意識，如定期更換密碼等。

除了法律法規的約束、各方明確責任義務外，我們還需要加強行業自律和監管合作。通過相關的行業協會或組織，制定行業標準和規範，推動行業的健康發展。同時，政府、企業、社會等各方加強合作，構建面向新技術、新產品、新服務的共治局面。

“關心人的本身，應當始終成爲一切技術上奮鬥的主要目標。”這表明，技術發展應以人類需求爲核心，要確保科學成果造福人類。“AI伴侶”、AI內容生成及各類智能體應用作爲人工智能技術的重要應用，其發展和監管需要全社會的共同努力，推動其健康、有序地發展，確保AI技術能夠更好地服務於人類社會。

人民網三評“AI伴侶”之一：不能忽視情感倫理

http://opinion.people.com.cn/n1/2024/1128/c1003-40370748.html

人民網三評“AI伴侶”之二：不能任其違法違規

http://opinion.people.com.cn/n1/2024/1129/c1003-40371602.html