算法規訓社會日益成型，如何糾偏算法暴政？

圖片來源@視覺中國

當前，大數據的快速發展正使算法融入並重塑人們的生活，算法作爲機器可讀的程序性指令，利用匯集人類行爲的大規模數據集影響着人們方方面面的社會生活。比如，算法推薦新聞、推送廣告、排名商品、安排專車，甚至經營工廠、駕駛飛機、評級信用。算法規訓的社會日益成型。

不可否認，算法給人類的生活帶來了諸多便利。然而，儘管算法在提高生產效率、社會福利、治理效能等方便發揮了重要作用，個體、社會和國家的發展都深受其益，但算法的應用也是一把雙刃劍，帶來了包括算法歧視、算法崩潰等新問題，也加劇了大數據時代以來的信息不對稱、知識不對稱以及信息繭房的問題。

算法賦能個體的同時，也增強了政府公權力和平臺企業私權力的支配力、控制力和影響力，即算法權力。從一開始的“算法理性”再到後來的“算法暴政”，算法是否已經偏離造福人類的軌道？而算法社會中賦能後失衡的權力與權利關係又如何糾偏再平衡？

從有限人類理性到無限算法理性

作爲一項當代科技，算法是一種有限、確定、有效並適合用計算機程序來實現的解決問題的方法，是計算機科學的基礎。算法是理論中最純粹的知識形式，在某種意義上，其可以看作是一種理性的計算工具。

由於有大數據和智能技術的支撐，因此，無論是在知識交流和知識共享方面，還是在學習既往經驗方面，算法都遠超過人類個體可以達到的程度。

以 Google 翻譯爲例，儘管其翻譯的質量還有待提高，但其目前已經可以處理 108 種語言，而且其翻譯的精度和可翻譯語言的數量每年甚至每個月都在提升。而在人類中，只要會十餘種外語，就會被視爲語言天才。藉助Google 翻譯，一個人工智能可以運用的知識，是人類個體遠遠比不上的。

在學習既往經驗方面，人工智能也遠遠超乎人類之上。比如，“人機大戰”中打敗人類圍棋高手李世石的 AlphaGo。要知道，李世石在過去 15 年獲得了十幾個世界冠軍頭銜，總共下了 1 萬盤圍棋對弈，經過了 3 萬個小時訓練，每秒可以搜索 10 個走子。而誕生只有兩年時間的 AlphaGo，差不多經歷了 3 萬小時的訓練，每秒卻可以搜索 10 萬個走子。

可見，無論是在佔有作爲理性運用之基礎的理論性知識方面，還是在佔有關涉理性運用本身的實踐性知識方面，算法都遠遠要超過人類。並且，作爲無機生命，算法沒有理性意志方面的弱點。

人是具有情感的動物，人類在做決定時很大程度上會帶有主觀色彩，而算法的運行則依靠着設計出的代碼，本身沒有情感可言，也就不存在理性意志薄弱的問題。與人類司機經常出現酒駕、不避讓行人、闖紅燈、疲勞駕駛等非理性行爲相比，一個搭載智能算法的自動駕駛汽車可以避免這些問題。

換言之，人類常常因爲情感或者慾望的限制，無法實施實踐理性所要求的行爲，從而導致“實踐非理性”的出現，而沒有感情的算法恰好可以做到完全的理性。算法就像是一個不知疲倦的“永動機”，只要有電源，只要機器運轉正常，它就可以永遠執行命令。正是這種“有理性、但又不會面臨着人類理性意志薄弱困境”的特性，使得算法具有廣闊的應用前景。

一方面，算法正在憑藉着日益增強的計算能力，在海量數據的投喂以及機器學習中不斷走向成熟。通過與互聯網絡的鏈接，開始逐步實現與整個社會的深度融合，實現權利賦能。算力的提高、算法技術自身的進步以及算法應用的多樣化，賦予了各類私主體更多的權能和社會福利。

比如，算法應用的成熟拓寬了民衆進行信息獲取、知識獲取、意見表達的渠道；政府可以通過相應的算法應用對民衆所需信息、反應意見進行快速的歸納與分類；平臺企業作爲私主體，也可以結合其所提供的相關服務，有針對性地收集各類用戶數據，促進算法技術的成長與成熟，再讓成熟的算法應用反哺平臺業務的發展。

另一方面，權力作爲一種社會關係，是某個主體能夠運用其擁有的資源，對他人發生強制性的影響力、控制力。而運用算法的主體可以通過算法進一步強化對其他主體的影響力和控制力，算法賦能權力由此而來。藉由評級、分類、預測和數據處理，算法實際上是在作決斷，選擇某些方向、結果而不是另外的方向、結果。面對算法的強大支配力，人們正在失去選擇的權力。

算法賦權走向失衡

相比傳統權力形態，“智能化”的算法權力表現出更強大的控制力，可以深入社會、無遠弗界，無孔不入，效能強大，但硬幣的另一面則是算法對社會的異化。算法權力的作用直接表現爲算法所產生的影響力與控制力，其深層次的影響在於對個體與社會之間關係的重塑，而重塑的結果卻帶來了權利與權力的格局失衡。

對於政府來說，當政府機關利用算法應用行使公權力時，其造成了治理的“算法化”與“去政治化”，人們必須普遍遵循政府機關所預設的算法規則。更進一步來看，算法已經與公權力緊密結合，在宏觀調控、市場監管、公共服務、司法執法等各個領域得到深入應用。

在相當多場景下，算法已經取代了人的位置，直接做出具體行政行爲。比如，公共區域遍佈人臉識別的監控探頭，人們須接受智慧交通系統所開出的交通罰單。這種無處不在的算法一方面便利了政府監管，另一方面也使得每個正常生活於現代社會的個人處於時刻被算法應用監聽、監控、監督的狀態，形成了一種控制型社會。

而對於企業來說，平臺企業通過算法行使的私權力則更加具有針對性與特殊性。究其原因，算法權力作爲一種“軟權力”，有其自身的運行邏輯。智能算法的研發與使用依託於大型互聯網企業，註定了算法權力以利益爲導向，遵循商業邏輯，具有與生俱來的歧視性和偏好性。

在這個過程中，算法的研發和運行作爲商業秘密，受到各個企業的保護，具有“黑箱”性質，資本可以輕易地將自身的利益訴求植入算法，利用技術的“僞中立性”幫助自身實現特定的訴求，實現平臺的發展與擴張，追求利益最大化。

研發者的價值導向會內化在算法運行的過程中，進行意識形態的催化和導向。享有資本支持的算法技術能夠享用更全面的數據樣本，建立更優化的運行架構，強化對政府、公民、社會的影響力和控制力。

於是，在技術企業的層層包裝下，“知情-同意”其實已經形同虛設，如在隱藏界面或者軟件升級中設置“後門”，在軟件下載使用過程中不設菜單式選擇而只有概括式同意，隱私政策和用戶協議有意用晦澀繁瑣冗長的表述等方式，讓用戶“被知情”“被同意”。

並且，由於算法應用的廣泛性，一旦拒絕使用或者由於能力所限不能使用，往往意味着正常生活受到影響。如不會使用二維碼、智能手機的老年人、殘疾人、貧困者，無法上網購物點餐、難以乘坐公共交通，不能掃碼進出小區等。

要知道，權利是經由社會判斷、協商和權衡後，得到公認受到保障的每個社會成員所應分配的合理利益。在法理學的視域下，權力是爲權利而設置的，權利是對利益分配的處置。權力的根本是利益，既爲特定的利益而存在，也以利益爲基礎和依託。

然而，算法權力的利益代表卻是資本。這意味着，資本能夠從事權利的界定及權衡，成爲一種“公共機關”。並且，隨着技術企業權力的不斷壯大，國家與社會的二元結構被打破，形成了“公權力-私權力-私權利”的新權力格局，但權力與權利之間卻出現了失衡。

一方面，公衆源源不斷地貢獻了自己的數據，這成爲了財富增長、權力實現的重要基礎，而自己非但沒能從中分享絲毫收益，反而還面臨着隱私泄露、信息繭房、大數據殺熟等種種侵害，收益與風險遠不成正比。另一方面，個人無時不刻地被算法定義、評級、處置，卻因算法的不公開、不透明，其知情權、參與權、異議權、救濟權等正當權利被架空。

以數字人權對抗算法暴政

從“算法理性”到“算法暴政”，算法彷彿偏離了軌道。但是亡羊補牢，從來都爲時不晚。事實上，秩序的構建正是人類社會文明的本質，規制權力也是規制技術。技術的良性發展不僅取決於自身的創新，更取決於人的正確引導。

首先，社會發展是制度進步的元動力，法律制度也應隨社會的進步而完善，逐步走向精細化和人文化。對算法權力進行法律規制時，既要堅持預防，又要考慮成本效益，增強算法技術本身的透明度和算法權力運行的公開程度。要進行具體法律條文的精細化修訂，增強法的可解釋性，並設置監管環節，不能以“技術中立”爲藉口，逃避意識形態和法律的責任。

其中，人工智能時代，不管算法如何向智能化階段演進，均不能脫離大數據而單獨存在。“技術只有透明才能獲益”。因此，防禦算法風險的首要舉措即是對大數據的收集與利用進行立法規制。只有對大數據收集與利用環節進行有力規制，算法決策環節纔有可能降低歧視風險的發生。

以算法歧視爲例，目前，很多大數據學習算法在決策判斷時，標準並不透明，這使得從技術層面跟蹤代碼違規，幾乎是不可能實現。由於算法的複雜性，研究人員很難判斷在哪一個環節導致算法帶上歧視。因此，大數據公司應公佈所使用的大數據算法的源碼和所用的數據，一旦出現算法歧視，也能有跡可循。

其次，規制算法私權力，首先要發揮算法公權力的作用。無疑，算法的研發與運行需要投入巨大的資金和人力，資本爲技術研發提供物質保障，成爲算法運行中的把控者。強大的技術研發能力是算法權力發展的重要推動力，但任何一項技術的發展都不應離開政府的監管。

而政府幹預的核心則是打破商業資本與技術之間強烈的依附性，避免商業利益成爲權力的方向盤。人工智能時代，算法治理是大勢所趨。政府要加大對算法技術的把控，建立透明的算法運行機制和協調的智能政務系統，設立算法技術研發和運行的標準，嵌入公共利益的價值觀，平衡多元價值。

最後，規制算法私權力，還需要以“數字人權”對抗“算法暴政”。所謂“數字人權”，就是要明確技術的出發點必須是要以人爲本，並將人權保障作爲技術應用的尺度和標準。算法倫理的核心是保障人的價值和尊嚴，充分尊重個人權利。

也就是說，算法倫理要將人視爲重要的、有權利的並且有價值的個體，體現技術關懷和以人爲本的理念，尊重人的自由和人格。在實踐中，一方面要對算法技術相關從業人員進行技能培訓和倫理培訓，在道德層面上進行自律；另一方面，要加強人工智能行業的倫理建設，加強行業標準的設立。

算法正在潛移默化的影響着當前的人們的生活以及人們做出的決定，但是這種微妙的操作並非不偏不倚。糾偏算法時代下權力與權利的失衡，更是項系統性工程。這需要緊抓算法權力的運行邏輯，加強對算法的立法規制與監管，更要轉換制約權力的思維與方式，讓算法助力社會治理，在治理中找回“人”的存在。（本文首發鈦媒體APP）