電馭新疆的「AI暴政」：中國數位恐怖的維吾爾監控再進化

「以 AI 分辨種族面譜、針對維吾爾人執行監控」是否只是天馬行空？由於維吾爾人與漢人的臉孔特徵十分不同，AI辨識技術難度並沒有想像中高。中國當局所企圖構築的，是一個什麼樣的社會控制圖像？是怎麼樣的一個美麗新世界？ 圖／美聯社

2009 年 7 月，中華人民共和國成立以來新疆最嚴重的族羣衝突事件——「七五事件」爆發，事件爆發一週後，烏魯木齊仍實施宵禁，南疆處於半緊急狀態，公路上每個進城的路口都安了哨口和滿滿的武裝警察，我自中巴邊境的塔什庫爾幹縣下山，預備進入喀什市區，輾轉休息後前往墨玉縣。

劇降兩千多米的海拔落差教我頭直髮疼，一股腫脹的炸裂感填塞了頭蓋骨內緣。只見進喀什的哨口亂哄哄的，層層鐵網路障前，人們被趕下車，人車分離地接受盤檢。我不以爲意，下了車、打開臺胞證，在幾個持槍的武警的眼前，晃了晃，過了關。

短短的通關過程，我注意到檢查臺旁卻有人沒像我這般好運，是個 20 出頭的年輕男人，戴着眼鏡：

他又指了指已擺在桌上的學生證辯解，正和盤檢哨口的武警爭得面紅耳赤。

不知道他缺了什麼文件，顯然武警不輕易放人，我過了關，他仍是卡在那兒，曬着熱辣辣的豔陽，任憑斗大的汗珠落下，屢屢將隨之滑落的眼鏡給推回鼻樑，狼狽至極地解釋，繼續那無盡地盤問、紀錄、檢驗、上報的監控程序。我輕易過了關，只因爲在容貌上我被定義爲漢人；他無法輕易過關，因爲他是維吾爾人。

「……我是新疆大學的學生，學校放暑假纔會來這裡的，放假了去塔縣轉轉，爲什麼不能讓我進城？」圖爲一名中國武警坐在烏魯木齊市二道橋一帶的卡車上。 圖／路透社

時序移至 2016 年冬日，我再訪了烏魯木齊的天山區，當年七五事件的爆發地。武警撤哨了，解放南路上的街容看上去與其他省份城市越來越爲相像；大路旁，好幾個街廓正在進行拆遷——那些當年漢人們叮囑千萬不要靠近的「維吾爾區的暗巷」。大路岔口重複播放着高頌社會主義價值觀的政令歌曲，只有和平南路底，接近二道橋清真寺的拐角，鎮着一輛武警武裝車、幾頂軍帳、幾隻武警。似乎，社會控制的施行手段正發生着看不見的演進。

時間再移至 2020 年末，日前《華盛頓郵報》報導，華爲和臉部辨識新創公司曠視（Megvii）曾於 2018 年合作測試一組人工智慧監控系統，以在人羣影像中，自動識別出每一個個體的年紀、性別與種族，並配有針對性的「維族告警」（Uyghur alarm）：一旦該系統自人羣中甄別出突厥裔羣體的臉孔，將通知有關監控單位。爲此，法國足球球星格里茲曼（Antoine Griezmann）在國際人權日，發表聲明譴責並中止與華爲的合作，引起軒然大波。

同樣出自於與全球影像監控技術研究機構 IPVM 的合作報導，《紐約時報》指出科技巨頭阿里巴巴在旗下產品「阿里雲」的指南網站中，指導用戶使用其產品內建的維吾爾人臉部辨識工具，用以檢測圖像與影片。

政府是如何盤檢、抓捕維吾爾族人的？近期媒體、非政府組織所發佈的訊息，或可協助我們理解新疆社會控制的新一輪趨勢，甚或，我們正目睹着一個科技極權治理模式的誕生？

2009 年 7 月位於喀什市區艾提尕爾清真寺前駐守的武警隊伍。 圖／作者攝影提供

2009 年 7 月，貼遍新疆各公共場所的政府公告，鼓勵民衆舉報「暴力犯罪份子」。 圖／作者攝影提供

▌「維族告警」辨識系統是什麼？

IPVM 的報告指出，華爲與曠視合作出品的攝錄監控系統，以及阿里巴巴的雲計算產品，均針對維族臉部影像進行研發測試，但目前尚無法獲知這類技術被實際應用的廣泛程度。

然而，華爲、曠視及阿里巴巴等公司均不否認維族臉部系統測試項目的存在。華爲發言人 Gleen Schloss 僅表示：「這只是一個未實際應用的簡單測試。」且保證「華爲並不會爲客戶提供客製化的演算法或應用程式」。

事實上，2019 年初即有相關人士，向《紐約時報》揭露中國政府正在進行類似的計劃，該報導稱多筆其他省份的政府採購案，正在找尋「可以識別出維吾爾人」的解決方案，且，該報導稱，由於維吾爾人與漢人的臉孔特徵十分不同，該計劃的技術難度並沒有想像中高。

由於維吾爾人與漢人的臉孔特徵十分不同，AI辨識技術難度並沒有想像中高。 圖／路透社

「以 AI 分辨種族面譜、針對維吾爾人執行監控」是否只是天馬行空？

《華盛頓郵報》向麻省理工學院的人工智慧實驗室詢問，研究人員 Jonathan Frankle 證實，儘管目前美國並未應用具有族羣身份偵測功能的軟體，且該判定技術深受光線、角度、個體差異的影響，但具特定演算法的 AI ，確實可以甄別出特定臉部特徵與個體種族身份之間的關聯性，且其敏銳度可以透過大量的臉部影像來進行訓練、累積、改善。而這類技術將致使「自動化族羣歧視」（automating ethnic discrimination）成爲可能。

然而，這類系統的開發需要大量資本投注，以維繫 AI 精進演算法所需的大量運算需求，還需要大量的人臉資訊以提高精準度。Frankle 語重心長地表示：

這類系統的開發需要大量資本投注，以維繫 AI 精進演算法所需的大量運算需求，還需要大量的人臉資訊以提高精準度。 圖／路透社

或許政府當局的野心，對於生活在新疆的人們而言，可說是毫不意外。更甚於 2009 年的滿城安檢哨點，類似概念的舉措早已貫徹在新疆的日常之中，例如系統性地採集部分維吾爾人的基因資訊，每個小區、巴札、百貨商場無所不在的查證與「刷臉」，早已建立起類似的「結界」。

此外自治區政府也早已於硬體層面積極佈局。

據《紐約時報》報導，隸屬自治區政府的烏魯木齊雲計算中心自 2016 年起投入營運，成立目的在於「在雲計算、大數據、深度學習等技術的幫助下，智能視頻分析引擎可以整合視頻錄像、Wi-Fi 熱點、檢查站信息、人臉識別分析等警方數據和應用，支持各部門行動。」

該中心的服務供應商中科曙光如此宣傳，以將工作思維「從事後追蹤升級爲事前預測性警務，提高維護社會穩定的能力」。中科曙光具有解放軍資金背景，也是中國軍用設備重要供應商。目前該中心已躋身全球最快計算機榜單前兩百位之內。

自動化地辨識出政府所欲監管的人士，以維護所謂的「社會穩定」，這類技術也越來越受商用市場、極權國家歡迎，也是中國政府口中，中國技術對於全球安全所做出的「重大貢獻」。

自動化地辨識出政府所欲監管的人士，以維護所謂的「社會穩定」。 圖／路透社

▌「阿克蘇名單」披露的監控內情

與「維族告警」新聞釋出同日，國際組織「人權觀察」（Human Rights Watch）發表了以〈新疆穆斯林成爲大數據計劃目標〉爲題的長篇分析報告，指出該組織取得一份自新疆阿克蘇地區流出的被拘留人士資料，繼去年首發的研究報告及年初的「墨玉名單」後，再次證實中國政府使用名爲「一體化聯合作戰平臺」（Integrated Joint Operations Platform, IJOP）的大數據計劃，以監控、標示（flag）、篩選並進而拘禁突厥裔人士。

該報告指出，中國政府部門使用「一體化平臺」，整合各類監控系統所蒐集來的資訊，諸如醫療資訊、通聯紀錄、居住遷移史、工作史、車輛紀錄、親友往來紀錄等等，而後進行初步的資訊比對，依據官方設定的標準、篩選出可疑人物清單，讓有關單位執行後續判處。這次流出名單的兩千多位阿克蘇居民即是於 2018 年期間被該平臺篩選出，評估後被收入所謂的「職業培訓機構」。

除外界所知的大批常見理由外，本次名單中，個體被該平臺標示爲可疑人物的理由還包括：「沒有固定居住地址」、「一再更換手機」、「使用不是自己名字登記的手機門號或身分證」、「屬於 80 後、90 後不放心人員」、「平時行爲可疑、社會關係複雜，或者思想不穩定，或（性）關係不正常者」等等。

近似於年初的「墨玉名單」，「阿克蘇名單」呈現了新疆警務體系的日常監控過程：將資訊整合過濾，決定是否拘禁個體，以及日後的拘留期程是否延長；在這兩個決策過程中，「一體化聯合作戰平臺」皆扮演提供必要決策資訊的角色。

2018年12月3日，人們在新疆的阿圖什市職業技能教育培訓服務中心。 圖／路透社

相對於過往的社會控制過程，高度仰賴大量警務基礎建設投注、安插多面向的舉報管道一類的預防措施，「維族告警」與「一體化作戰平臺」等政府治理意志的數位實踐均讓我們再次確認，自治區當局的治理思維已由「事發防範」，升級成爲種族針對性的「事前預警」，針對被設定爲「具有潛在威脅」的特定族羣，施以自動化的數位監控、篩選。

「人民反恐戰爭」的最前沿，不再是武警或路障，而是臉孔辨識演算法和大數據平臺；安檢人員自然不再需要聽取任何的辯解，查證刷臉後一切交給「大數據」決定。

且已有越來越多學術研究指出，中國的數據產業發展和政府的治理意圖緊密相關，兩者合作的背後涉及了大量國家資本投注、數據共享，彼此相互增強——在合作實務中增強產業技術、增強社會控制。

中國當局所企圖構築的，是一個什麼樣的社會控制圖像？是怎麼樣的一個美麗新世界？我們該如何理解這一系列發生在新疆的改變？

「人民反恐戰爭」的最前沿，不再是武警或路障，而是臉孔辨識演算法和大數據平臺；安檢人員自然不再需要聽取任何的辯解，查證刷臉後一切交給「大數據」決定。 圖／法新社

▌數位圍場與恐怖資本主義

在這個議題上，目前走得最遠的是人類學家 Darren Byler。

基於 2011 年起在首府烏魯木齊與南疆的田野工作，以及近三年與大量拘留營當事者所做的訪談，他提出了「數位圍場」（Digital Enclosure）與「恐怖資本主義」（Terror capitalism）等兩個概念，來理解眼下新疆的景況。

上週，Byler 在期刊《Society & Space》的論壇集中，提出〈突厥裔穆斯林的數位圍場〉（The Digital Enclosure of Turkic Muslims）一文，簡要的解析他對於當前政府數位化監控的見解。

他認爲當前政府以警務設施、拘留營體系，乃至於各樣的「就業安置」、「勞務轉移」，佐以影像監控、一體化平臺等科技工具所施行的社會控制系統，可統稱之爲「數位圍場」，其目的在於種族式地針對突厥裔住民，將他們圈限、監控、改造成爲一個以產業工人爲主的永久下層階級（permanent underclass）。

圖爲新疆的「就業安置」現場。當前政府以警務設施、拘留營體系，乃至於各樣的就業安置、勞務轉移，佐以影像監控、一體化平臺等科技工具所施行的社會控制系統，可統稱之爲「數位圍場」。 圖／美聯社

透過人工智慧、大數據、自動化資訊平臺等科技所建構起的「數位圍場」，對於政府和高科技財團而言，是一個全新、具多重意義的數位「新疆（域）」（new frontiers）：一方面，獲取其疆域內「壞穆斯林們」所產生的行爲監控數據，進行各樣的數據徵用以改良既有監控分析技術，一方面，則可更不受阻礙地以權力使人們成爲國家、產業所需的勞動力。

經過這樣長期的控制，維吾爾將成爲一個以受政府擺佈的低階勞務階層，數位圍場內的維吾爾生活，將具有三重彼此相關的核心意義：

順服黨與國家、產生數據、成爲勞動力。

透過人工智慧、大數據、自動化資訊平臺等科技所建構起的「數位圍場」，對於政府和高科技財團而言，是一個全新、具多重意義的數位「新疆（域）」（new frontiers）。 圖／美聯社

而爲了將數位圍場的概念放置在更全球性的歷史脈絡來理解，Byler 和社會學者 Carolina Sanchez Boe 將這類新崛起的治理模式稱爲「恐怖資本主義」。

乘着後 911 席捲全球的反恐風潮，恐怖資本主義係指國家以消滅潛在恐怖活動和維繫國家安全爲由，運用科技與數據積累，合理化並強化國家與財團對特定邊緣羣體的勞動剝削，這樣的合謀關係的目的，在於社會控制且擴展潛在的廉價勞動力來源。

其獲益模式可簡述爲：國家宣稱特定族羣涉及恐怖活動、可能顛覆國家安全，政府提供價格可觀的承包合約予科技財團，建立相關警務設備，監控、管理國家所設定的目標羣體，例如無所不在的檢查哨、監視儀器、臉部辨識系統等。

運用取自於目標羣體的大量的生物資訊數據與社羣網絡數據，相關產業藉此改善、精進現有的科技水平，並將更精準的設備轉賣給其他客戶，包括私人企業或其他政府客戶。

政府提供價格可觀的承包合約予科技財團，建立相關警務設備，監控、管理國家所設定的目標羣體，例如無所不在的檢查哨、監視儀器、臉部辨識系統等。 圖／美聯社

最後，無論是透過直接的國家暴力，或是間接的污名，將目標羣體轉化成爲國家或資本家所需要廉價勞動力來源。該特定羣體經此過程，往往被改造成沒有主體性，任由國家擺佈、且難以抵抗國家體制的低階勞動力。以新疆的例子而言，即爲大量被「職業培訓」後、安置到石化產業、紡織業工廠的維吾爾工人們。

值得注意的是，監控、資本與國家的合謀主要源自於 911 後，美國對尋求庇護的外來移民的監控實踐經驗，但這類運作模式，目前也廣泛爲各國政府所應用，如北印度的孟加拉裔住民和巴勒斯坦的阿拉伯裔住民，但新疆的案例卻是最能夠闡述其精髓，且是涉及規模最大、仍在進行中的駭人案例。

相關學者也開始擔憂，這套於新疆發展已臻成熟的數位治理技術——繼菲律賓與辛巴威之後——將輸出至更多以「反恐」爲名，行擴權統治之實的專制政權手中。

2019年7月11日，一名巴勒斯坦男子在耶路撒冷穿越使用指紋壓印的生物識別門。 圖／路透社

▌科技極權實驗場，終將走到何處？

2020 年末，對於華爲疑似正在開發的「維吾爾警報」系統，以及格里茲曼的解約通告，中國外交部發言人華春瑩僅冷淡迴應：「有關人士想跟誰合作，這是他的事情。」

對於人權觀察提出的阿克蘇名單，那些行使合法、不涉及暴力的行爲的人們，卻因被一體化平臺標示，而被爲當局所拘禁一事，另一位發言人趙立堅僅不屑地迴應：「這個所謂的人權組織一向充滿偏見、搬弄是非，有關言論不值一駁。」

相形於當局反應的雲淡風輕，長期關注科技監控與極權主義之間關係的學者們，則逐漸透過商業報告、被拘留者的證詞、外泄的受害者名單、政府文件，拼湊出一個愈加完整的、當代新疆的數位圖像。也據此警告，新科技與社會控制在中國，毫無節制的合謀，以及該技術模式的擴張輸送，將是未來全球社會所需面對的全新議題。

從高度仰賴人工攔檢、查證登記，到掃碼刷臉，十餘年過去了，維吾爾人的家園早已滄海桑田，而那位在喀什市郊、跟武警爭論着的維吾爾青年，現在人會在哪裡呢？我不大敢細想。

新科技與社會控制在中國，毫無節制的合謀，以及該技術模式的擴張輸送，將是未來全球社會所需面對的全新議題。 圖／路透社