半月談丨規制算法：莫讓算法“算計”人
規制算法：莫讓算法“算計”人
李世剛 包丁裕睿
將於3月1日起施行的《互聯網信息服務算法推薦管理規定》(以下簡稱《規定》)，對各種算法亂象“亮劍”。這是我國第一部以算法作爲專門規制對象的部門規章。算法究竟是什麼?爲何要對它進行規制?《規定》有何創新?在規制的同時，如何讓算法更好造福人類?
算法，無處不在
在互聯網大數據時代，算法已無處不在，計算機和手機中幾乎所有的服務和應用程序都在利用算法進行運作，關於算法的新聞也屢見不鮮。
算法(algorithm)一詞的英文名得名于波斯數學家花拉子密(al-Khwarizmi)，意爲“運算的方法”。在計算機領域，算法特指“計算機的計算方法”，即爲了解決一類問題或執行一項計算而設計出來的一套依靠數學模型、定義明確、步驟有限的計算方法。
將現實問題抽象爲一個或幾個數學問題，就落入了算法的世界。在互聯網服務中，算法得到了廣泛應用，給人們生產生活帶來極大便利。
例如，搜索引擎的搜索排序算法，大幅提高了人類在互聯網世界中尋找需要的信息的效率;翻譯軟件的自然語言識別和處理算法，降低了人類獲取其他語言信息的難度;地圖導航中的路徑規劃算法，可以幫助人類規劃時間最短、路程最短、紅綠燈最少的信息;打車軟件與外賣軟件中的調度算法，可以實現服務供應端與需求端快速且高效的匹配……
算法“黑箱”潛藏風險
隨着算法的發展、演進和迭代，算法被廣泛應用於各行各業。然而，算法作爲一個“黑箱”，對算法擁有者或設計者之外的人而言，人們只能觀測到它的輸入與輸出，而無法瞭解其運作過程機制，這就可能使得算法在不知不覺中對個人和社會帶來負面影響。以最常見的算法推薦技術爲例，它對信息傳播、用戶權益、社會穩定都可能帶來極大影響。
首先，算法推薦的信息可能帶來違法和不良信息傳播問題。算法服務提供者在開展新聞信息推送、熱點榜單、信息發佈等活動時，可能存在傳播違法和不良信息的情況，包括傳播虛假信息、片面追求流量炒作低俗內容等情況。
其次，算法推薦還可能侵害用戶權益，帶來不公正不公平的情況。這包括“大數據殺熟”，即根據消費者的偏好、交易習慣等特徵，在交易條件上實行不合理的差別待遇;誘導用戶沉迷網絡、過度消費;在採用調度決策類算法進行工作調度時忽視勞動權益保障;通過用戶畫像形成不合理的算法歧視等。
最後，算法推薦服務提供者還可能存在操縱社會輿論的可能。在個性化推薦、熱點榜單、信息發佈等服務中，算法可能頻繁推薦用戶感興趣的內容，形成意見極化的“信息繭房”;算法可能被用於實施虛假點贊、評論、轉發等流量造假行爲，鼓動用戶情緒、影響網絡輿論;算法還可能被用於屏蔽信息、過度推薦，操縱干預檢索結果排序、實施不正當競爭等。
規制算法的主要措施
顯然，算法是一把雙刃劍，對算法進行一定的規制和引導十分必要。
《規定》規制的算法主要是推薦類算法，包括生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等算法。這些算法已經被各大平臺廣泛應用，成爲平臺收集和處理數據、推送信息、調配資源的核心力量。《規定》明確，算法推薦服務提供者應當對算法負責。
《規定》明確算法推薦服務的用戶享有算法知情權、選擇權、管理權和退出權;未成年人、老年人、勞動者、消費者等主體應當受特別保護;算法推薦服務提供者應當允許用戶和公衆便捷地進行申訴、投訴和舉報，明確處理流程和反饋時限，及時受理、處理並反饋處理結果。
《規定》創新性地提出了貫穿算法推薦服務流程的監管體系：根據算法推薦服務的輿論屬性或者社會動員能力、用戶規模、處理的數據敏感程度等，對服務提供者實施分級分類管理;建立了算法備案制度，具有輿論屬性或者社會動員能力的算法推薦服務提供者應當對其名稱、服務形式、應用領域等信息進行備案;建立了算法安全評估機制，要求算法服務提供者設置算法安全管理組織機構和安全責任制度、科技倫理審查制度，並配備與算法推薦服務規模相適應的專業人員和技術支撐;嚴厲打擊算法推薦違法違規行爲，國家和地方網信部門將負責會同有關部門開展算法安全評估和監督檢查工作，形成多部門協同的規制體系。
《規定》還明確規定了嚴厲的法律責任，建立起權責明確的問責體系。以往頻發的算法問題，如算法歧視、大數據殺熟、誘導沉迷、電信網絡詐騙、網絡“水軍”、壟斷和不正當競爭等有望得到有效遏制。
實現算法積極良性發展
針對算法這一新興技術，規制算法必須考慮技術創新與用戶權益保障之間的良性動態平衡。總體而言，《規定》體現了整體統籌協調的監管機制以及綜合治理和精細治理並進的治理理念。《規定》的規制舉措具有創新性和實踐性，對保障信息內容安全、維護市場競爭秩序、保護公民權益等具有重要的作用。
當然，法律對算法的規制不能面面俱到。在《規定》具體落地層面，讓用戶單純退出算法推薦是否能滿足用戶最佳需求，如何清晰地滿足用戶對大量標籤的選擇和刪除的權利，如何針對隱性標籤進行管理，如何平衡算法備案的有效性和商業秘密的保護等，都需要進一步探索。在法律規制之外，還需要積極發揮行業標準、倫理規則、企業實踐等“軟法”作用。
在互聯網時代，對算法的監管不應僅侷限於“紙面”上的法律制度，更應提升算法的綜合治理能力，讓算法既符合技術邏輯又能發揮積極作用。法律既應當保護社會秩序和個人權利，防止算法作惡、引導算法向善，還應當在鼓勵提升我國的算法創新能力、促進算法應用安全、增強我國算法核心競爭力等方面發揮重要作用。未來的時代是算法的時代，技術與規制部門應當相互溝通學習，從而實現算法積極良性的發展。(作者單位分別爲：復旦大學法學院、中國人民大學法學院)
（刊於《半月談》2022年第2期）