中國的人臉辨識監控系統有多厲害？

不只是縮時，還有粉塵、噪音、位移偵測

CARNEGIE ENDOWMENT FOR INTERNATIONAL PEACE

越來越多的州，正在佈署先進的人工智慧監控工具，來監控、追蹤和監視公民。卡內基的新指標探討了不同國家是如何做到這一點的。

AIGS 指標 —— 方法學

AIGS 指標提供了全球人工智慧監控趨勢的詳細經驗圖景，並描述了全球各國政府，如何使用這項技術。它解決了三個主要問題：

哪些國家正在採用人工智慧監控技術？
政府正在佈署哪些特定型別的人工智慧監控？
哪些國家和公司正在供應這項技術？

執行摘要

人工智慧（AI）技術正在世界各地迅速擴散。從模糊真理和謊言之間界限的深度假影片開始，到可以在多人撲克中，擊敗世界上最好的玩家的先進演算法，驚人的發展不斷湧現。企業利用人工智慧能力來改善分析處理；市政官員利用人工智慧來監控交通堵塞，並監督智慧能源計量。然而，越來越多的國家正在佈署先進的人工智慧監控工具，來監控、追蹤和監視公民，以實現一系列政策目標 —— 有些是合法的，有些是侵犯人權的，許多國家陷入了模糊的中間地帶。

為了適當地解決這項技術的影響，首先要瞭解這些工具在哪裡佈署，以及如何使用它們。不幸的是，這些資訊很少。為了提高清晰度，本報導提出了人工智慧全球監控（AIGS）指標 —— 這是首批此類研究工作之一。該指標彙編了全球 176 個國家人工智慧監控使用的經驗資料。它沒有區分合法和非法使用人工智慧監控。相反，該研究的目的是展示新的監控能力，如何改變政府監控和跟蹤個人或系統的能力。它特別要求：

哪些國家正在採用人工智慧監控技術？
政府正在佈署哪些特定型別的人工智慧監控？
哪些國家和公司正在供應這項技術？

主要發現

人工智慧監控技術，正在以比專家通常理解的速度，更快地傳播到更廣泛的國家。全球 176 個國家中，至少有 75 個國家正在積極使用人工智慧技術進行監控。這包括：智慧城市/安全城市平台（56 個國家）、臉部辨識系統（64 個國家）和智慧警務（52 個國家）。
中國是全球人工智慧監控的主要驅動力。與中國公司相關的技術 —— 特別是華為、海康威視、大華和中興 —— 在 63 個國家供應人工智慧監控技術，其中 36 個國家已簽署了中國一帶一路倡議（BRI）。僅華為就負責向全球至少 50 個國家提供人工智慧監控技術。沒有其他公司能接近。排名第二，最大非中國的人工智慧監控技術供應商，是日本的 NEC 公司（14 個國家）。
中國產品推銷通常伴隨著軟貸款，以鼓勵政府購買其裝置。這些策略在肯亞、寮國、蒙古、烏干達和烏茲別克等國家尤為重要 —— 否則這些國家可能無法獲得這項技術。這引發了令人不安的問題，即中國政府在多大程度上補貼了先進的壓制技術。
但中國並不是唯一的一個在全球提供先進監控技術的國家。美國公司也活躍在這個領域。美國公司提供的人工智慧監控技術遍佈 32 個國家。最重要的美國公司是 IBM（11 個國家）、Palantir（9 個國家）和思科（6 個國家）。其他總部位於自由民主國家的公司 —— 法國、德國、以色列、日本 —— 也在這種技術的擴散中發揮著重要作用。民主國家沒有採取足夠的措施來監測和控制，與一系列違規行為相關的尖端技術的傳播。
自由民主國家是人工智慧監控的主要使用者。該指數顯示，51% 的先進民主國家佈署了人工智慧監控系統。相比之下，37% 的封閉獨裁國家、41% 的選舉獨裁/競爭專制國家，以及 41% 的選舉民主國家/非自由民主國家佈署了人工智慧監控技術。1完全民主國家的政府正在佈署一系列監控技術，從安全的城市平台到臉部辨識攝影機。這並不不可避免地，意味著民主國家正在濫用這些制度。決定政府是否將這項技術，用於鎮壓目的的最重要因素，是其治理品質。
與自由民主國家的政府相比，獨裁和半獨裁國家的政府更容易濫用人工智慧監控。一些專制政府 —— 例如中國、俄羅斯、沙烏地阿拉伯 —— 正在利用人工智慧技術，進行大規模監控。其他人權記錄不佳的政府，正在以更有限的方式，利用人工智慧監控來加強鎮壓。然而，所有政治背景都有非法利用人工智慧監控技術，來實現某些政治目標的風險。
一國的軍事支出與政府使用人工智慧監控系統之間，存在密切的關係：世界前 50 個軍事支出國家中，有 40 個國家（基於累積軍事支出）也使用人工智慧監控技術。2
「2018 年網路自由」報告確定了 65 個國家中，有 18 個國家訪問了中國公司開發的人工智慧監控技術。3 AIGS 指標顯示，2019 年，訪問中國人工智慧監控技術的國家數量，已上升到 65 個國家中的 47 個國家。

重點

AIGS 指標逐國展示了人工智慧技術監控的快照，大多數來源在 2017 年至 2019 年期間都有所下降。鑑於政府監控使用的不透明，幾乎不可能按具體年份，確定目前使用的人工智慧平台或系統。
AIGS 指標使用民主多樣性（V-Dem）專案中包含的相同獨立國家列表，但有兩個例外，總計 176.4 V-Dem 國家列表，包括全球所有獨立政體，但不包括人口低於 25 萬的微型國家。
AIGS 指標沒有提供在特定國家，營運的人工智慧監控公司的完整列表。本文使用開源報告和內容，分析來得出其發現。因此，存在某些內在的侷限性。一些公司，如華為，可能有動力強調該領域的新能力。其他公司選擇淡化其與監控技術的關聯，並故意將檔案排除在公共領域之外。

指標的完整版本可以在這裡線上訪問：https://carnegieendowment.org/files/AI_Global_Surveillance_Index1.pdf。可以在此處訪問指向視覺化視覺化人工智慧監控技術，全球傳播的指標的互動式地圖：https://carnegieendowment.org/publications/interactive/ai-surveillance。

所有用於建構指標的參考源材料，都已編譯成一個開放的 Zotero 庫。在這裡可以找到：https://www.zotero.org/groups/2347403/global_ai_surveillance/items。

探索地圖

介紹人工智慧全球監控（AIGS）指標

人工智慧技術曾經被降格為科幻世界，但今天它圍繞著我們。它為我們的智慧手機提供動力，策劃我們的音樂偏好，並指導我們的社交媒體提要。也許人工智慧最顯著的方面，是它突然無處不在。

一般來說，人工智慧的目標，是透過自動化或複製「使實體在其環境中適當和有遠見地運作」的行為，來「使機器智慧化」。5人工智慧不是一種特定的技術。相反，將人工智慧視為一個包含資訊獲取目標、邏輯推理原則，和自我糾正能力的綜合系統更準確。一個重要的人工智慧子領域是機器學習，這是一個統計過程，分析大量資訊，以辨識一種模式來解釋當前資料，並預測未來用途。6幾個突破正在使該領域的新成就成為可能：機器學習的成熟和深度學習的開始；雲端運算和線上資料收集；新一代先進微晶片和電腦硬體；複雜演算法的效能提高；以及市場驅動的人工智慧技術新用途激勵措施。7

毫不奇怪，人工智慧的影響，遠遠超出了個人消費者的選擇。它正開始轉變基本的治理模式，不僅為政府提供了前所未有的能力，來監測其公民和塑造他們的選擇，而且還賦予他們新的能力來破壞選舉，提升虛假資訊，並使跨境民主話語非法化。

史蒂文·費爾德斯坦

Steven Feldstein 是卡內基民主、衝突和治理計劃的高階研究員，他專注於民主和技術、人權和美國外交政策問題。

本報導的重點是人工智慧監控，以及政府利用多種工具的具體方式 —— 從臉部辨識系統和大數據平台，到預測警務演算法 —— 來推進其政治目標。非常重要的是，該指標沒有區分用於合法目的的人工智慧監控，和非法數位監控。相反，該研究的目的是揭示新的監控能力，這些能力正在改變國家 —— 從專制國家到先進民主國家 —— 監視個人的能力。

AIGS 指標 —— 方法學

AIGS 指標提供了全球人工智慧監控趨勢的詳細經驗圖景，並描述了全球各國政府，如何使用這項技術。它解決了三個主要問題：

哪些國家正在採用人工智慧監控技術？
政府正在佈署哪些特定型別的人工智慧監控？
哪些國家和公司正在供應這項技術？

AIGS 指標載於附錄1。它包括 75 個國家的詳細資訊，研究顯示，政府正在佈署人工智慧監控技術。該指標將人工智慧監控工具分為以下子類別：1）智慧城市/安全城市，2）臉部辨識系統，以及3）智慧警務。該指標的完整版本可以在 https://carnegieendowment.org/files/AI_Global_Surveillance_Index1.pdf上線上訪問可以在https://carnegieendowment.org/publications/interactive/ai-surveillance上訪問視覺化地描述人工智慧監控技術，全球傳播的指標的互動式地圖。

所有用於建構指標的參考源材料，都已編譯成一個開放的 Zotero 庫。可在https://www.zotero.org/groups/2347403/global_ai_surveillance/items上找到。

該指標引用的大多數來源，發生在 2017 年至 2019 年之間。少數來源可以追溯到 2012 年。該指標使用民主多樣性（V-Dem）專案中，發現的相同國家列表，但有兩個小例外。8 V-Dem 國家列表包括全球所有獨立政體，但不包括人口低於 25 萬的微型國家。研究收集工作透過開源材料、逐個國家、英語和其他語言進行梳理，包括新聞報導、網站、公司檔案、學術文章、非政府組織報告、專家提交材料，和其他公共來源。它依靠對每個國家，進行系統內容分析，並納入多個來源，以確定相關人工智慧監控技術，和相應公司的存在。來源被歸類為可靠性和準確性的分層次。第一線來源包括主要印刷和新聞雜誌（如《紐約時報》、《經濟學人》、《金融時報》和《華爾街日報》）。二線資訊來源，包括主要的國家媒體。第三層來源包括網路報導、部落格文章和其他證據不足的來源；這些只有在多次證實後，才包括在內。

鑑於資源有限和人員限制（一名全職研究人員加上志願者研究援助），該指標只能提供特定國家人工智慧監控水準的快照。它沒有對所有相關技術、政府監控用途和適用公司，進行全面評估。由於研究主要依靠內容分析和文獻綜述來得出其發現，因此存在某些內在的侷限性。一些公司，如華為，可能有動力強調該領域的新能力。其他公司可能希望淡化監控技術的連結，並故意將檔案排除在公共領域之外。

涉及實地資訊收集和驗證的實地研究，將是有益的。一些國家 —— 如安哥拉、亞塞拜然、白俄羅斯、匈牙利、祕魯、斯里蘭卡、突尼西亞和土庫曼 —— 提供了人工智慧監控的間接或軼事證據，但沒有足夠的可核實資料，來保證納入該指數。

一個主要困難，是確定哪些人工智慧技術應該被納入指標。直接支援監控目標的人工智慧技術 —— 智慧城市/安全城市平台、臉部辨識系統、智慧警務系統 —— 包含在索引中。對人工智慧功能非常重要，但對監控計劃沒有直接負責的使能技術，不包括在指數中。

另一個資料收集挑戰是，政府（和許多公司）故意隱藏其監控能力。因此，很難準確確定各州佈署演算法，以支援其監控目標的程度，或者人工智慧的使用，是否更具投機性而不是真實性。

該指標沒有區分，廣泛佈署人工智慧監控技術的政府，與使用人工智慧監控的政府（例如，該指標不包括與人工智慧監控水準相關的標準化間隔尺度）。這是按設計的。由於這是一個新生的領域，關於不同國家如何使用人工智慧監控技術的資訊很少，試圖對一個國家對人工智慧監控的相對使用進行評分，將帶來相當程度的研究人員偏見。相反，使用了一個基本變數：給定國家是否存在人工智慧監控的記錄？如果是這樣，國家正在佈署哪些型別的人工智慧監控技術？未來的研究可能能夠在交叉比較的基礎上，評估和分析人工智慧監控水準。

最後，指標中記錄的人工智慧監控例項，與有害結果沒有具體聯結。該指標沒有區分非法和合法監控。部分原因是很難確定政府在監控領域的具體做法，以及相關影響是什麼；有太多未知和隱藏的。

調查結果和三個關鍵見解

研究結果發現，全球 176 個國家中，至少有 75 個國家正在積極使用人工智慧技術進行監控。這包括：智慧城市/安全城市平台（56 個國家）、臉部辨識系統（64 個國家）和智慧警務（52 個國家）。AIGS 指數的調查結果中，出現了三個關鍵見解。

首先，全球對人工智慧監控的採用，正在世界各地迅速增加。75 個國家，佔評估國總數的 43%，正在以合法和非法的方式，佈署人工智慧驅動的監控。國家群是異質的 —— 它們來自所有地區，其政治制度從封閉的獨裁國家到先進的民主國家。「2018 年網路自由」報告報告稱，65 個被評估國家中，18 個國家正在使用中國公司的人工智慧監控技術，這引起了人們的注意。9該報告的評估期，從 2017 年 6 月 1 日至 2018 年 5 月 31 日。一年後，AIGS 指數發現，同一群體中的 47 個國家，現在正在佈署來自中國的人工智慧監控技術。

毫不奇怪，擁有專制制度和政治權利水準低的國家，正在大量投資人工智慧監控技術。海灣、東亞和南亞/中亞的許多政府，正在採購先進的分析系統、臉部辨識攝影機和複雜的監控能力。但歐洲的自由民主國家也在加速安裝自動邊境管制、預測警務、安全城市和臉部辨識系統。事實上，華為網站上釋出的安全城市監控案例研究，與德國、義大利、荷蘭和西班牙的市政當局有關，令人震驚。

在地區別方面，存在明顯的差異。東亞/太平洋和中東/北非地區，是這些工具的有力採用者。南亞、中亞和美洲也展示了對人工智慧監控儀器的大量使用。撒哈拉以南非洲落後 —— 只有不到四分之一的國家，投資於人工智慧監控。這很可能是由於技術不發達（非洲國家正在努力向其人口提供寬頻接入；該地區有二十個國家中的 18 個網際網路滲透率最低）。10鑑於中國公司積極透過一帶一路滲透非洲市場，這些數字在未來幾年可能會上升。圖1顯示了按地區分列的採用人工智慧監控的國家的百分比細目。

其次，中國是人工智慧監控的主要供應商。與中國公司相關的技術，在全球至少 63 個國家發現。僅華為就負責向至少 50 個國家，提供人工智慧監控技術。中國的一帶一路倡議與人工智慧監控之間，也存在相當大的重疊 —— 86 個英屬維爾接國家中，有 36 個國家也包含重要的人工智慧監控技術。然而，中國並不是唯一的一個提供先進監控技術的國家。法國、德國、日本和美國，也是該行業的主要參與者。例如，美國公司在 32 個國家有積極業務。圖2 細分了該行業的領先公司。

第三，自由民主國家是人工智慧監控的主要使用者。該指標顯示，51% 的先進民主國家佈署了人工智慧監控系統。相比之下，37% 的封閉獨裁國家、41% 的選舉獨裁/競爭獨裁國家，以及 41% 的選舉民主國家/非自由民主國家佈署了人工智慧監控技術。自由民主政府正在積極使用人工智慧工具，來監管邊境，逮捕潛在罪犯，監測公民的不良行為，並將恐怖分子嫌疑人從人群中拉出。這並不一定意味著民主國家正在非法使用這項技術。決定政府是否會將這項技術，用於鎮壓目的的最重要因素，是其治理品質 —— 是否存在侵犯人權的模式？是否有強大的法治傳統和獨立的問責制？這應該為居住在民主國家的公民，提供一定程度的保證。

但先進的民主國家，正在努力平衡安全利益和公民自由保護。在美國，越來越多的城市採用了先進的監控系統。例如，Axios 的Kim Hart 在 2016 年的一項調查顯示，巴爾的摩警方祕密佈署了空中無人機，對該市居民進行日常監控：「從一架從頭頂空飛行的飛機上，強大的攝影機捕捉到整個城市的航空影像。照片每秒鐘都會被拍下來，飛機每天可以在城市裡盤旋長達 10 個小時。」 11 巴爾的摩警方還佈署了臉部辨識攝影機，來監控和逮捕抗議者，特別是在 2018 年該市的騷亂期間。12美國公民自由聯盟譴責這些技術「相當於在巴爾的摩的每個人身上，安裝腳踝 GPS [全球定位服務]顯示器的技術」。 13

在美墨邊境，一系列高科技公司也提供先進的監控裝置。《衛報》的 Olivia Solon 寫道，以色列國防承包商 Elbit Systems 在「亞利桑那州建造了數十座塔樓，以發現 7.5 英哩外的人」。它的技術首先在以色列，得到了完善，簽訂了一份建造「智慧圍欄」的合同，將耶路撒冷與約旦河西岸隔開。另一家公司 Anduril Industries「開發了具有雷射增強攝影機、雷達和通訊系統的塔」，可以掃描兩英里半徑以檢測運動。捕獲的影像「使用人工智慧，從野生動物和其他移動物體中，挑選出人類。」 14 目前還不清楚這些監控佈署，在多大程度上被美國法律涵蓋，更不用說，這些行動是否符合必要性和相稱性標準了。

美國並不是唯一的一個，接受人工智慧監控的民主國家。在法國，港口城市馬賽，於 2016 年與中國的中興公司建立了合作關係，以建立公共安寧大數據專案。該計劃的目標，是透過建立一個龐大的公共監控網路來減少犯罪，該網路包括一個情報營運中心，和近一千台智慧閉路電視（CCTV）攝影機（到2020 年，數量將翻一番）。地方當局吹噓說，這個系統將使馬賽成為「法國和歐洲第一個‘安全城市’」。 15 同樣，2017 年，華為向法國北部的瓦朗謝訥鎮，「贈送」了一個展示監控系統，以展示其安全的城市模式。該軟體包包括升級的高畫質閉路電視監控和智慧指揮中心，該中心由演算法驅動，以檢測異常移動和人群形成。16

事實上，這麼多的民主國家 —— 以及獨裁國家 —— 正在採用這項技術，這意味著政權型別在確定哪些國家，將採用人工智慧監控方面是一個糟糕的預測因素。

更好地預測，政府是否會採購這項技術與其軍事支出有關。2018 年軍事支出細目顯示，前 50 名軍事支出國家中，有 40 個國家也擁有人工智慧監控技術。17 這些國家從完全民主國家到獨裁政權（以及介於兩者之間的一切）。它們包括法國、德國、日本和韓國等主要經濟體，以及巴基斯坦和阿曼等較貧窮的國家。這一發現並不完全出乎意料；在其軍隊中進行大量投資的國家，往往具有更高的經濟和技術能力，以及令人擔憂的具體威脅。如果一個國家認真對待其安全，並願意投入大量資源，來保持強大的軍事安全能力，那麼該國將尋求最新的人工智慧工具，也就不足為奇了。歐洲民主國家為什麼獲得人工智慧監控（控制移民、追蹤恐怖主義威脅）的動機，可能與埃及或哈薩克的利益不同（掩蓋內部異議，在活動家運動達到臨界品質之前打擊它們），但這些工具非常相似。未來的研究，可能會檢查國家一級的內部安全數字，並將其與人工智慧監控水準進行比較。

區分合法和非法監控

國家監控本質上並不非法。政府有合法理由進行監控，而監控並不植根於實施政治鎮壓，和限制個人自由的願望。例如，追蹤工具在防止恐怖主義方面，發揮著非常重要的作用。他們幫助安全部隊阻止不良行為，並解決有問題的案件。它們使當局能夠監測關鍵威脅，並做出相應反應。但技術改變了政府，如何進行監控的性質，以及他們選擇監控的內容。網際網路增加了有關個人的交易資料或「元資料」的數量，例如有關傳送和接收的電子郵件、位置辨識、網路追蹤，和其他線上活動的資訊。正如前聯合國特別報告員 Frank La Rue，在 2013 年一份具有里程碑意義的監測報告中，指出的那樣：

通訊資料是可儲存、可訪問和可搜尋的，向國家當局披露和使用這些資料，在很大程度上不受監管。對這些資料的分析，既具有高度啟示性，也可以具有侵入性，特別是當資料被合併和彙總時。因此，各國越來越多地利用通訊資料，來支援執法或國家安全調查。各國還強制儲存和保留通訊資料，使其能夠進行歷史監控。18

不言而喻，這種入侵深刻地影響了個人的隱私權 —— 不受聯合國人權事務高階專員辦事處（人權高專辦）所謂的「任意或非法干涉其隱私、家庭、住宅或通訊」的影響。19 監視同樣可能侵犯個人的結社和言論自由權。根據國際人權法，三項原則對於評估特定監視行動的合法性相當重要。

首先，國內法是否允許監控？ La Rue 的繼任者 David Kaye 於 2019 年釋出了一份報告，申明法律法規應「足夠精確地制訂，使個人能夠相應地規範其行為，並且必須向公眾開放。」法律要求不應「模糊或過於寬泛」，這將允許政府官員不受限制地自由裁量權。法律框架本身應該是「公眾可訪問、明確、準確、全面和非歧視的」。 20

其次，監控行動是否符合「必要性和相稱性」國際法律標準，該標準將監控限制在「實現合法目標所絕對必要和明顯必要」的情況？ 21

第三，證明監控行動合理的利益是否合法？在確定什麼是合法監控，什麼是濫用權力時，分歧比比皆是。雖然政府通常以國家安全，或公共秩序為由為監督辯護，但人權高專辦警告說，此類限制可能會「不合理或任意」限制公民的見解和言論自由權。它認為，合法監控要求各國「證明特定表達方式，對國家安全或公共秩序的明確利益構成的風險」，並且需要一個「強有力的獨立監督系統」，該系統委託司法機構授權相關監控措施，並在濫用案件中提供補救措施。22 Kaye 補充說，只有在「整個國家的利益受到威脅」時才應適用，並應排除「完全為政府、政權或權力團體的利益」進行的監控。 23

合法進行監控所需的法律標準很高，政府正在努力滿足這些標準。即使是擁有強大法治傳統和強大監督機構的民主國家，也經常無法在其監督計劃中充分保護個人權利。執法或專制制度薄弱的國家「經常逃避這些義務」。24 正如人權高專辦關於數位時代隱私的首次報告所結束時，「缺乏適當的國家立法和/或執法、程式保障薄弱和監督無效」的國家，導致非法數位監控的問責制減少和條件得到加強。25

人工智慧監控加劇了這些條件，使民主和專制政府，更有可能進行違反國際人權標準的監控。Frank La Rue 解釋說：「技術進步意味著，國家進行監控的有效性，不再受規模或持續時間的限制。技術和資料儲存成本的下降，消除了對進行監控的財務或實際抑制因素。因此，國家現在比以往任何時候，都更有能力同時進行侵入性、有針對性和大規模的監控。」 26

人工智慧監控，尤其為政府提供了兩大能力。首先，人工智慧監控允許系統自動執行以前，委託給人類操作員的許多跟蹤和監控功能。這帶來了成本效益，減少了對安全部隊的依賴，並推翻了潛在的首席代理忠誠度問題（正是根據政權要求運作的勢力，決定為自己奪取政權）。

第二，人工智慧技術可以投射比傳統方法，更廣泛的監控網路。與「時間和注意力有限的」的人類特工不同，人工智慧系統從不疲憊或疲勞。27因此，即使不訴諸身體暴力，這也會產生實質性的「冷卻效果」；公民永遠不知道自動機器人，是否在監控他們的簡訊，閱讀他們的社交媒體發文，或地理跟蹤他們在城鎮周圍的運動。28

本報導認識到人工智慧監控技術是「價值中立的」。這些工具本身並不煽動鎮壓，它們的存在，也不意味著政府正在將它們用於反民主目的。該指標沒有逐國具體說明，政府是否以合法或非法的方式使用這些工具。相反，該指標的目的，是確定哪些國家擁有足夠先進的工具，使它們能夠追求一系列監控目標。

中國在多大程度上推動了人工智慧監控的傳播？

從經驗上看，AIGS 指標顯示，以華為為首的中國公司，是全球領先的人工智慧監控供應商。總體而言，中國正在持續推動人工智慧的主管力和首要地位。29 日益成長的共識，將中國挑選為「專制技術」的全球驅動力。專家聲稱，中國公司正在直接與中國國家當局合作，向志同道合的政府出口「專制技術」，以傳播影響力並推廣替代治理模式。30 但這準確嗎？

這個論點有些道理 —— 中國出口的一小部分，直接流向辛巴威和委內瑞拉等嚴重侵犯人權的國家，否則這些國家將無法獲得此類技術。但人工智慧監控，不僅僅是從一個獨裁國家（中國）轉移到其他獨裁國家。相反，轉移正在以一種更加異質化的方式進行。中國正在向自由民主國家出口監控技術，同時也以專制市場為目標。同樣，總部位於自由民主國家的公司（例如，德國、法國、以色列、日本、韓國、英國、美國），正在積極向令人討厭的政權出售尖端裝置。

沙烏地阿拉伯就是一個很好的例子。華為正在幫助政府建設安全的城市，但谷歌正在建立雲伺服器，英國武器製造商 BAE 出售了大規模監控系統，NEC 正在自動售貨機面容辨識攝影機，亞馬遜和阿里巴巴都在沙烏地阿拉伯都有雲端運動中心，並可能支援一個重大的智慧城市專案。31該指標顯示，壓制性國家很少從單一來源採購此類技術。在泰國，政府官員一再強調「外交政策平衡」的重要性，並且不要與任何一方過於緊密聯絡：「總是這樣。這就是為什麼我們仍然是一個王國。我們妥協，我們談判，我們平衡。」 32

話雖如此，專家對中國公司進行更嚴格的審查是有特殊原因的。華為是全球領先的先進監控系統供應商，這是一個巨大的因素。與任何其他公司相比，其技術與指標中更多的國家有關。它正在撒哈拉以南非洲等地區，積極尋找新市場。華為不僅提供先進的裝置，還為設定、操作和管理這些系統，提供持續的技術支援。

《華爾街日報》最近的一份調查報告，提供了一個令人大開眼界的例子。記者發現，烏干達和尚比亞的華為技術人員，幫助政府官員監視政治反對派。這包括「攔截他們的加密通訊和社交媒體，並使用蜂窩資料追蹤他們的下落。」華為員工不僅「在政府攔截對手私人通訊的努力中，發揮了直接作用」，而且還鼓勵烏干達安全官員前往阿爾及利亞，以便研究華為在阿爾及爾營運的「智慧影像監控系統」。33烏干達隨後同意以 1.26 億美元的價格，從華為購買類似的臉部辨識監控系統。34

澳洲戰略政策研究所，關於繪製中國科技巨頭的專案發現，華為負責 75 個「智慧城市-公共安全專案」，其業務線大幅增加：「2017 年，華為列出了 40 個引入智慧城市技術的國家；據報導，2018 年，這一覆蓋範圍增加了一倍多，達到 90 個國家（包括 230 個城市）。」 35華為正在直接向國家安全機構，推銷安全城市模式，中國的 Exim 銀行似乎正在用補貼貸款達成協議。其結果是，像模里西斯這樣的國家，從中國政府那裡獲得長期融資，中國政府要求與中國公司簽訂合同。36 模里西斯政府隨後將華為作為主要承包商或次級獲獎者，以建立安全城市，並實施先進的監控控制。

同樣顯而易見的是，華為等公司的獨立性，遠遠低於他們聲稱的中國政府。《華盛頓郵報》的安娜·菲爾德指出，華為是由中國人民解放軍前軍官任正飛，於 1987 年創立的，曾在其「軍事技術部門」工作。37 有不斷有報導稱，華為從中國政府獲得了大量補貼。38華為的主管層與中國的安全和情報機構之間，似乎也有著密切的聯絡。例如，孫亞芳，1999 年至 2018 年，擔任華為董事會主席，曾在中國國家安全部工作。39 Max Chafkin 和Joshua Brustein在《彭博商業週刊》上報導說，有指控 Ren 可能是「中國高階間諜頭目，而且可能仍然是」。 40 名專家堅持認為，中國共產黨越來越多地在私營公司建立「黨派‘單元」，以加強訪問和控制。41華為公開斷言，它將「明確拒絕」中國政府移交使用者資料的任何要求。42但這違反了 2015 年中國國家安全法，該法要求公司允許第三方訪問其網路，並應要求移交源程式或加密金鑰。43華為宣佈的所有權結構非常不透明。Christopher Balding 和 Donald C 最近的一項學術研究。Clarke 得出結論，99% 的華為股票由「工會委員會」控制，該委員會很可能是中國國家控制該公司的代理人。」 44

即使中國公司，正在加大力度銷售先進的監控技術，意向性問題仍然令人困惑 —— 華為和中興等中國公司，在兜售監控技術與執行中國國家競標時，在多大程度上，是為了自己的經濟自身利益？至少在泰國，最近的研究採訪，沒有跡象顯示，中國公司正在推動一個協調一致的議程，以兜售先進的人工智慧監控裝置，或鼓勵政府建立複雜的監控系統。泰國內政部的一名官員指出，雖然人工智慧技術「存在」，政府正在更多地考慮一些事情，但「中國沒有提供任何人工智慧。它沒有給人工智慧 —— 泰國人必須問。」 45 智慧城市/安全城市模式也引起了懷疑。泰國領先的技術專家 Somkiat Tangkitvanich 評論說：「智慧城市的想法是一個笑話。」他轉達了他最近與泰國資訊和通訊技術（ICT）部長的談話：「他（部長）吹噓普吉島的智慧城市...... 他告訴我，我們正在考慮給遊客戴腕帶，這樣我們就可以跟蹤他們，幫助他們。類似的東西。但它並沒有真正實施。普吉島的智慧城市為遊客提供免費 Wi-Fi 和網際網路！」 46 這有助於提醒我們，需要更多的實地研究，以區分誇張和這一領域的事實。

人工智慧監控的型別

以下各節將描述關鍵的人工智慧監控技術，以及全球各國政府如何佈署這些技術，來支援具體的政策目標。

各州使用人工智慧技術，來實現廣泛的監控目標。本節詳細介紹了 AIGS 指標中包含的三個主要人工智慧監控工具：智慧城市/安全城市平台、臉部辨識系統和智慧警務。它還描述了使能技術 —— 如雲端運算和物聯網（IOT）網路 —— 這些技術，是人工智慧監控工具功能不可或缺的。賦能技術沒有納入指標。

重要的是，人工智慧監控不是壓制的獨立工具。它構成了一套數位鎮壓工具的一部分 —— 用於監視、恐嚇、脅迫，和騷擾對手的資訊和通訊技術，以便對目標施加懲罰，並阻止挑戰國家的具體活動或信仰。47（更多資訊見附錄2）。表1 總結了每種技術及其相應的全球佈署水準。

智慧城市/安全城市

世界銀行將智慧城市，描述為「技術密集型」城市中心，具有一系列感測器，從「數千個互聯裝置」即時收集資訊，以促進改善服務交付和城市管理。48它們幫助市政當局管理交通堵塞，將應急車輛導向所需地點，促進永續能源使用，並簡化行政流程。但人們越來越擔心，智慧城市也在大幅提高公共監控和侵入性安全能力。IBM 是該術語的原始創造者之一，它設計了一個類似於大腦的市政模型，其中可以集中處理和分析，與城市營運相關的資訊。49 IBM 智慧城市的一個關鍵組成部分是公共安全，它結合了一系列感測器、追蹤裝置和監控技術，以提高警察和安全部隊的能力。

華為一直坦率地為智慧城市吹噓公共安全技術。它正在向執法界行銷「安全城市」，以「預測、預防和減少犯罪」和「應對新的和新出現的威脅」。 50 在2016年的一份白皮書中，華為描述了一套「包括影像監控、緊急影像通訊、綜合事件指揮和控制、大數據、行動和安全的公共安全雲的技術」，以支援當地執法和警務，以及司法和懲戒系統。51華為明確將其安全城市技術，與應對區域安全挑戰聯結起來，並指出在中東，其平台可以防止「極端主義」；在拉丁美洲，安全城市使政府能夠減少犯罪；在北美，其技術將幫助美國推進「反極端主義」計劃。52

這些平台在實踐中，如何推進監控目標？與微軟在智慧城市合作的 IT 公司 Gartner 提供了一個例子：

沙烏地阿拉伯麥加地區發展局（MRDA），建立了一個人群控制系統，以提高朝聖者的安全和安保。資料是透過嵌入身份資訊、特殊醫療保健要求，和 GPS 的腕帶收集的。此外，還安裝了監控攝影機，以收集和分析 Al Mashaaer Al Mugaddassah 捷運南線（MMMSL），以及麥加大清真寺、阿拉法特山、賈馬拉特和米納等聖地的即時影片。53

毫不奇怪，這種系統容易被不當使用。最近，華為在塞爾維亞的安全城市專案，打算在貝爾格萊德的 800 個地點，安裝 1000 台具有臉部辨識和車牌辨識功能的高畫質（HD）攝影機，這引發了全國的憤怒。54華為釋出了一份關於安全城市好處的案例研究（自刪除以來），並描述了類似的監控技術，如何促進逮捕一名逃離該國，到中國城市的塞爾維亞肇事逃逸肇事者：「根據塞爾維亞警方提供的影像，......[當地]公安局在三天內使用新技術逮捕了。」 55 塞爾維亞評論員沒有為該系統的效率鼓掌，而是指出，在一個腐敗和侵犯獨裁主義的地方，這種技術為塞爾維亞當局，遏制異議和濫用行為，提供了一個強大的工具。

在 75 個國家中，至少有 56 個國家擁有人工智慧監控技術，至少有 56 個國家存在具有直接公共安全連結的智慧城市平台。

臉部辨識系統

臉部辨識是一種生物辨識技術，它使用攝影機（包括影像或靜止影像）將個人儲存或即時影像，與資料庫影像比對。並非所有臉部辨識系統都專注於，透過資料庫比對進行個人辨識。一些系統目的在評估總體人口趨勢，或透過臉部辨識人群掃描，進行更廣泛的情緒分析。

與 25 年來，一直是警察部隊中流砥柱的普通閉路電視不同，臉部辨識攝影機更具侵入性。他們可以在未經同意的情況下，掃描獨特的臉部特徵，以建立詳細的個人生物辨識地圖。通常，臉部辨識識監控攝影機是行動和可隱藏的。例如，馬來西亞的安全部隊，與中國科技公司 Yitu 建立了夥伴關係，為官員配備臉部辨識隨身攝影機。這將使安全官員能夠「快速將活體攝影機，捕捉到的影像，與中央資料庫的影像進行比較。」 56

華為是臉部辨識影片監控的主要供應商，特別是作為其安全城市平台的一部分。它描述了該技術在肯亞安全城市專案中的好處：

作為該專案的一部分，華為在首都奈洛比佈署了 1800 個高畫質攝影機，和 200 個高畫質交通監控系統。建立了一個支援 9000 多名警官和 195 個警察局的國家警察指揮中心，以實現監測和案件解決。該系統在教皇弗朗西斯於 2015 年，訪問肯亞期間發揮作用，800 多萬人歡迎他的到來。藉助華為的高畫質影像監控和視覺化的整合命令解決方案，警務工作的效率和拘留率顯著提高。57

專家詳細介紹了與臉部辨識相關的幾個問題。

首先，很少有規則可以管理影像資料庫（儲存從臉部辨識攝影機捕獲的影像的儲存庫）。政府如何使用這些資訊，儲存多長時間的影像，以及當局首先在哪裡獲得此類影像，這些都是不透明的問題，因司法管轄區而異。美國執法機構（聯邦調查、移民和海關執法局）在事先不知情或未經事先同意的情況下，掃描了州駕駛執照資料庫中的數百萬張照片，這並不令人驚訝。Drew Harrell在《華盛頓郵報》上指出，法律制衡的真空導致了「監督優先、請求許可後的制度」。58

其次，臉部辨識技術的準確性差異很大。某些測試顯示，錯誤比對率高得令人無法接受。英國大都會警察局，最近的一份獨立報告發現，其臉部辨識技術的異常錯誤率為 81%。59 同樣，美國領先的警察隨身攝影機供應商 Axon 宣佈，它將停止在其裝置上提供臉部辨識。Axon 的獨立道德委員會表示：「人臉辨識技術目前不夠可靠，無法在道德上證明其使用是合理的。」 60

但其他評估顯示出更有利的結果。 2014 年至 2018 年期間，美國對 39 名開發人員的 127 個演算法進行了評估。國家標準與技術研究所顯示，「臉部辨識軟體在搜尋資料庫，以找到吻合的照片方面提高了 20 倍。」同期的失敗率從 4.0% 下降到 0.2%。61

差異的一個原因是，在理想條件下，臉部辨識可以表現得很好。但是，當意外變數被丟擲時 —— 惡劣的天氣或模糊的資料庫影像 —— 故障率開始上升。Steve Lohr在《紐約時報》上指出，臉部辨識技術也無法動搖一貫的性別和種族偏見，這導致少數民族和婦女的假陽性升高 —— 「面板越深，出現的錯誤就越多—— 面板較深的女性影像高達近 35%。」62

公民們開始反擊臉部辨識系統。例如，香港的抗議者遮住臉部，禁用了智慧手機臉部辨識登入，以防止執法部門訪問。他們還透過拍攝未貼標籤的警官的照片，並使用臉部辨識影像搜尋在網上曝光警官的身份，從而扭轉了警察的局面。63

臉部辨識系統正在世界各地迅速傳播。該指數確定了至少 64 個國家，正在積極將臉部辨識系統，納入其人工智慧監控計劃。

智慧警務

智慧警務背後的想法，是將大量資料輸入演算法 —— 地理位置、歷史逮捕級別、犯罪行型別、生物辨識資料、社交媒體提要—— 以防止犯罪、應對犯罪行為，甚至預測未來的犯罪活動。正如隱私國際所指出的：「隨著監控攝影機、臉部辨識、開源和社交媒體情報、生物辨識和資料，從智慧城市湧現出來的擴散，警方現在可以前所未有的大量資料。」因此，智慧警務的一個主要組成，部分是建立自動化平台，這些平台可以分解大量材料，方便來自多個來源的資料，並允許微調收集個人資訊。

最近受到相當關注的一個領域，是預測性警務。在美國國家司法研究所，於 2009 年開始為試點預測警務專案發放贈款後，這項技術在美國加速了。從核心上講，這些程式聲稱根據大量資料彙總，以驚人的準確性，預測未來犯罪地點，以及哪些人可能會犯下這些罪行。預測性警務已經大受歡迎。例如，PredPol 預測分析計劃由「全國 60 多個警察部門」佈署。 64

但人們越來越擔心演算法偏見和偏見，以及這些預測的有效性。Caroline Haskins 最近為 Vice 撰寫的報導，描述了 PredPol 的預測性犯罪預測演算法是如何運作的。Predpol 的軟體為警官生成犯罪預測，「規模小至 500 乘500平方英尺」，可以精確定位特定房屋。它假設「在特定時間犯下的非某些罪行，在未來更有可能發生在同一地點。」 65 PredPol 透露，「歷史事件資料集用於訓練每個新城市的演算法（最好是 2 到 5 年的資料）。然後，PredPol 每天用從該部門收到的新事件、更新演算法。」新的預測在谷歌地圖上，疊加的特殊紅色框中突出顯示，這些紅色框代表了值得警察巡邏隊特別關注的高風險地區。66 PredPol 方法的一個關鍵缺陷是，它根據過去犯罪活動和逮捕的資料，生成未來預測。某些遭受「過度警務」和有偏見的警察行為的少數民族社群，在 PredPol 的儀表板中，出現頻率更高。這可能不代表微調的演算法犯罪預測，因為它涉及結構偏見警務的延續。

中國熱衷於接受預測性警務，作為其新疆鎮壓的一部分。人權觀察報告了綜合聯合行動平台（IJOP）的建立情況，該平台從閉路電視攝影機、臉部辨識裝置和「wifi 嗅探器」（竊聽無線網路內的活動或通訊的裝置）收集資料。IJOP 從檢查站掃描的車牌和身份證，以及健康、銀行和法律記錄中，獲取額外資料。67中國當局正在用所有 12 至65 歲的新疆居民的強制性 DNA 樣本，來補充 IJOP。68這些資訊被輸入 IJOP 電腦，演算法篩選尋找威脅模式的資料庫。一旦 IJOP 標記了一個人，該人就會被安全部隊接走，並被拘留審問。69

在75 個有人工智慧監控的國家中，至少有 53 個國家使用智慧警務技術。

人工智慧監控使能技術

第二類技術不直接負責支援監控計劃，而是提供對實施應用非常重要的關鍵能力。沒有雲端運算功能，先進的影像監控和臉部辨識攝影機就無法執行。正如一位專家所說，如果影像監控是「眼睛」，那麼雲服務就是「透過 5G 網路，將攝影機和硬體連線到雲端運算模型」的「大腦」。 70 然而，孤立的雲端運算並非本質上面向監控。因此，這些二級技術被歸入「使能技術」類別，並在下面描述。71它們不包括在 AIGS 指數中。

自動邊境控制系統

這些主要存在於國際機場和過境點。據埃森哲諮詢公司稱，ABC 系統使用「多模型生物辨識比對」 —— 臉部影像辨識與電子競技，或其他生物辨識檔案相結合 —— 來處理乘客。72當乘客走在多攝影機牆前時，該過程就會啟動。位於相機旁邊的數位鏡子，吸引了乘客的眼睛來捕捉影像。然後，透過對個人護照和某些安全觀察名單的身份，進行自動測試來進行風險評估。73 那些未被自動系統清除的人，必須與人類代理人一起進行二次篩查。

政府正在 ABC 系統中試行新功能，如自動謊言檢測技術。例如，歐盟正在希臘、匈牙利和拉脫維亞這三個國家，測試一種名為 iBorderCtrl 的技術，以便在過境點篩查移民。個人被問及有關其原籍國，和出發情況的問題。然後，答案由基於人工智慧的測謊系統進行評估。74被發現誠實回答問題的旅行者，會得到一個允許他們穿越的程式。所有其他人員，都被轉移到人類邊防警衛那裡，進行進一步的審問。iBorderCtrl 背後的技術，基於「影響辨識科學」，該科學目的在閱讀臉部表情，並推斷情感狀態，以便做出法律判斷或政策決定。心理學家廣泛批評這些工具，堅持認為僅靠臉部表情來準確確定一個人的心態是困難的。75儘管科學上對這些技術持懷疑態度，但政府仍在繼續探索它們的使用。

雲端運算

政府和公司越來越多地將資料，儲存在大規模的異地位置 —— 稱為雲 —— 這些位置可以透過網路（通常是網際網路）訪問。76雲端運算是一種通用技術，包括從逐嚮 GPS 地圖、社交網路和電子郵件通訊、檔案儲存，和流媒體內容訪問等所有內容。國家標準與技術研究所將雲端運算定義為「實現無處不在、方便、按需網路訪問可配置計算資源（例如網路、伺服器、儲存、應用程式和服務）共享池的模型，這些資源可以在最少的管理工作或服務提供商互動下，快速配置和釋出。」 77 基本上，雲端運算資料中心是網際網路的支柱，可以即時儲存、通訊和傳輸生成的資訊。因此，雲端運算對於有效執行人工智慧系統非常重要。微軟、IBM、亞馬遜、華為和阿里巴巴，都建立了這些資料中心，以促進人工智慧營運。

越來越多的國家已經完全接受了雲端運算，並將其所有資料儲存需求，外包給一個單一的企業平台。例如，2018 年，冰島與微軟簽署了一項服務協議，使其成為該國整個公共部門的唯一 IT 供應商。78雲端運算趨勢並非沒有問題。首先，雲伺服器為網路駭客提供了誘人的目標。像 NSO 集團這樣的安全公司聲稱，他們能夠滲透雲伺服器，並訪問目標的「位置資料、存檔資訊息或照片」，這導致許多人質疑雲端運算公司是否可以保護個人資訊、公司機密、機密政府材料或健康記錄的安全（然而，它們通常代表著比傳統現場資料儲存設施更安全的儲存方法）。79一個相關的問題，是強制資料披露 —— 即使雲伺服器在技術上保持安全，政府也可能脅迫公司披露雲中的某些資料（如電子郵件通訊或政權批評者的簡訊）。

物聯網

物聯網基於這樣一個現實，即越來越多的裝置，將透過網際網路相互連線，允許共享資料，以便在雲中進行分析處理。80 物聯網的一個主要障礙是裝置之間缺乏互操作性。目前，iPhone、Alexa 揚聲器、Nest 恆溫器和 OnStar 自動系統，從不同的平台執行，並使用不同的資訊來源。物聯網的目標是「幫助馴服這座巴別塔」，並確保裝置整合和資料聚合（儘管亞馬遜、蘋果和谷歌等公司也在建立不同的生態系統，與其他平台的互操作性有限）。81雖然物聯網將帶來更高的效率，但它也可能將智慧揚聲器等，傳統非網路裝置，轉變為無處不在的監控工具：

物聯網承諾以我們剛剛開始理解的方式，為網路物件、機器和環境提供新的前沿。例如，當電視機具有麥克風和網路連線，並且其供應商可以重新寫程式時，它可以用於收聽其房間裡發生的電話對話的一面 —— 無論電話服務本身有多加密。這些勢力正走向未來的軌跡，有更多的監視機會。82

圍繞物聯網技術的爭議正在增加。2019 年初，亞馬遜透露，數千名員工聆聽了 Echo 智慧揚聲器錄製的對話。在某些情況下，其工作人員就是否應將可能犯罪的錄音，移交給執法當局進行了辯論。83 亞馬遜在客戶不知情或未經其同意的情況下，分析了這些記錄。同樣，谷歌和 Facebook 承包商一直在定期收聽，其平台和個人消費者之間的錄音。84

物聯網驅動的行動監控，是此類技術的另一個可能性。記者安迪·格林伯格（Andy Greenberg）描述說，最近演示了一種新裝置，可以插入特斯拉 Model S 或 Model 3 汽車，並將其內建攝影機「變成一個隨著時間的推移發現、跟蹤和儲存車牌和臉孔的系統」。當車主停放汽車時，「它可以跟蹤附近的臉孔，看看哪些人臉反覆出現。」該裝置的目的，是警告車主不要盜賊和破壞者。但正如該裝置的發明家杜魯門·凱恩所承認的那樣，「它把你的特斯拉變成了一個人工智慧驅動的監控站」，並提供了「另一隻眼睛，以幫助你，並告訴你它看到一個車牌跟隨你超過了幾天，甚至是一次旅行的多個轉彎。」 85

結論

人工智慧監控的傳播有增無減。鎮壓政權利用它來策劃，對目標人群的鎮壓，這已經敲響了警鐘。但即使在有強大法治傳統的國家，人工智慧也會引起麻煩的道德問題。專家對少數民族人口的臉部辨識錯誤率，和假陽性增加表示擔憂。公眾越來越意識到，人工智慧培訓資料集中的演算法偏差，及其對預測警務演算法，和執法部門使用的其他分析工具的偏見影響。即使是良性的物聯網應用程式 —— 智慧揚聲器、遠端無鑰匙進入鎖、汽車智慧儀表盤顯示器 —— 也可能為監控開闢令人不安的路徑。儘管有人批評國家基於錯誤的科學和未經證實的研究，但各州正在邊境測試的試點技術 —— 如 iBorderCtrl 的情感辨識系統 —— 正在擴充套件。累積影響會暫停。關於先進監控技術的準確性、公平性、方法一致性和偏見影響，令人不安的問題正在浮出水面。政府有義務，就如何使用這些新的侵入性工具，提供更好的答案和更充分的透明度。

該指標和工作檔案的目的，是強調一項尚未被很好地理解的技術的新興趨勢，該技術將日益塑造現代生活。好消息是，有充足的時間就人工智慧技術、政府監控和公民隱私權之間的適當平衡，展開急需的公開辯論。但隨著這些技術越來越嵌入治理和政治中，變革的視窗將縮小。

致謝

特別感謝喬治敦大學本科生 Luke Lamey 在彙編人工智慧全球監測指標參考資料方面的研究援助。也非常感謝 Jon Bateman（卡內基國際和平基金會）、Thomas Carothers（卡內基國際和平基金會）、Adrian Shabhaz（自由之家）、Brian Wampler（博伊西州立大學）和 Nick Wright（喬治敦大學智慧生物學）慷慨解讀本文的先前草案，並提供寶貴的反饋和建議。

附錄1：AIGS 指標

CA：封閉式專制

EA：選舉專制

ED：選舉民主

LD：自由民主

AF：非洲

EAP：東亞和太平洋

歐元：歐洲和歐亞大陸

中東和北非：中東和北非

SCA：南亞和中亞

WHA：西半球

來源說明

總政權得分：包括 2019 年世界自由組織國家分數的均勻加權平均數，https://freedomhouse.org/report/countries-world-freedom-2019；EIU 民主指數 2018，https://www.eiu.com/topic/democracy-index；以及 V-Dem 資料集版本 9，選舉民主指數，https://www.v-dem.net/en/data/data-version-9/。
政權型別：AIGS 指數使用由 V-Dem 和世界政權建立的四部分政權類別型別：封閉式專制國家、選舉專制、選舉民主和自由民主國家。平均得分低於 2.5 的國家，被貼上了封閉式專制國家的標籤。平均得分在 4.9 到 2.5 之間的國家，被貼上了選舉專制國家的標籤。平均得分在 7.9 到 5.0 之間的國家，被貼上了選舉民主國家的標籤。平均得分為 8 分或更高的國家被貼上了自由民主國家的標籤。見 Anna Lührmann、Marcus Tannenberg 和 Staffan I。 Lindberg，「世界政權（RoW）：為政治政權比較研究開闢新的途徑」，Politics & Governance 6，no. 1（2018）。
「2018年網路自由」資料可在https://freedomhouse.org/report/freedom-net/freedom-net-2018上訪問。
斯德哥爾摩國際和平研究所彙編的軍事支出資料，可在 https://www.sipri.org/databases/milex上訪問。
根據 Dan Kliman 和 Abigail Grace 的報告《Power Play: Addressing China’s Belt and Road Strategy》彙編的一帶一路倡議參與國資料，2018年，https://s3.amazonaws.com/files.cnas.org/documents/CNASReport-Power-Play-Addressing-Chinas-Belt-and-Road-Strategy.pdf? mtime=20180920093003，以及來自開源報告。
《經濟學人》情報部門彙編的中國海外直接投資資料「2017 年中國走向全球投資指數」http://pages.eiu.com/rs/753-RIQ-438/images/ODI_in_China_2017_English.pdf。

附錄2：數位鎮壓分類學

重點

1 該指標使用由 V-Dem 和世界政權建立的四部分政權類別型別：封閉式專制、選舉專制、選舉民主和自由民主。正如作者所描述的那樣，「在封閉的獨裁國家，行政長官要麼不受選舉，要麼在選舉中沒有有意義的、事實上的競爭。選舉專制國家為行政長官舉行事實上的多黨選舉，但由於嚴重的違規行為、政黨競爭限制，或其他違反達爾民主國家體制要求的行為，他們沒有達到民主標準。要算作選舉民主國家，各國不僅必須舉行事實上的自由、公平的多黨選舉，而且......實現足夠水準的民主機構保障，如結社自由、選舉權、乾淨選舉、民選行政部門和言論自由。此外，自由民主的特點，是對行政部門進行有效的立法和司法監督，並保護個人自由和法治。」 Anna Lührmann、Marcus Tannenberg和Staffan I。 Lindberg，「世界政權（RoW）：為政治政權比較研究開闢新的途徑」，Politics & Governance 6，no. 1（2018）。

2 來自斯德哥爾摩國際和平研究所（SIPRI）的資訊，SIPRI 軍事支出資料庫，2019 年，https://www.sipri.org/databases/milex。

3「2018 年網路上的自由：數位獨裁主義的崛起」，自由之家，2018 年 10 月 30 日。https://freedomhouse.org/report/freedom-net/freedom-net-2018/rise-digital-authoritarianism。

4 與 V-Dem 相反，AIGS 指標沒有評估巴勒斯坦領土（西岸、加沙）和桑給巴爾，因為外部來源的處理不一致。見 Michael Coppedge、John Gerring、Carl Henrik Knutsen、Staftan I。Lindberg，Jan Teorell，David Altman，Michael Bernhard 等人，「2019 年 V-Dem 國家年資料集」，民主品種（V-Dem）專案，2019 年，https://doi.org/10.23696/vdemcy19。

5 Nils J. Nilsson，《對人工智慧的探索》（美國：劍橋大學出版社，2009年），4。

6「為人工智慧的未來做準備」，whitehouse.gov，2016 年 10 月，https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/preparing_for_the_future_of_ai.pdf。

7 同上。

8 如執行摘要所述，與 V-Dem 相反，AIGS 指標沒有評估巴勒斯坦領土（西岸、加沙）和桑給巴爾，因為外部來源的處理不一致。「V-Dem 國家-Year資料集 2019」，2019 年。

9「2018 年網路上的自由：數位獨裁主義的崛起」，2018 年 10 月 30 日，9。

10「數位 2019：2019 年第三季的網際網路趨勢」，DataReportal—Global Digital Insights，2019 年 7 月 19 日。https://datareportal.com/reports/digital-2019-internet-trends-in-q3。

11 Kim Hart，「巴爾的摩與空中監視摔跤」，Axios，2019 年 7 月 31 日，https://www.axios.com/baltimore-wrestles-with-aerial-surveillance-to-reduce-crime-2d973591-0b33-4e25-94a7-c3f553dc2934.html。

12 Kevin Rector 和 Alison Knezevich，「瑪麗蘭使用臉部辨識軟體受到研究人員、公民自由倡導者的質疑」，《巴爾的摩太陽報》，2016年10月18日，https://www.baltimoresun.com/news/crime/bs-md-facial-recognition-20161017-story.html。

13「持續監控從巴爾的摩的創傷中獲利的憤世嫉俗嘗試」，馬里蘭州美國公民自由聯盟，2018 年 6 月 8 日，https://www.aclu-md.org/en/press-releases/persistent-surveillances-cynical-attempt-profit-baltimores-trauma。

14 Olivia Solon，「‘監視社會’：美墨邊境的技術走得太遠了嗎？」《衛報》，2018年6月13日，https://www.theguardian.com/technology/2018/jun/13/mexico-us-border-wall-surveillance-artificial-intelligence-technology。

15 Alvaro Artigas，「監控、智慧技術和安全城市解決方案的開發：中國 ICT 公司及其向新興市場的國際擴張案例」，IBEI 工作檔案，2017 年，https://www.ibei.org/surveillance-smart-technologies-and-the-development-of-safe-city-solutions-the-case-of-chinese-ict-firms-and-their-international-expansion-to-emerging-markets_112561.pdf。

16 西奧多·特施盧森，「瓦朗謝納：Demain Les Caméras de Vidéosurveillance Seront Intelligentes Et...Chinoises」，2017年9月2日，https://webcache.googleusercontent.com/search? q=cache:FS-IyIma564J:www.lavoixdunord.fr/116566/article/2017-02-09/demain-les-cameras-de-videosurveillance-seront-intelligentes-et-chinoises+&cd=1&hl=en&ct=clnk&gl=us。

17 SIPRI 軍事支出資料庫，2019年。

18「促進和保護見解和言論自由權特別報告員 Frank La Rue 的報告」，A/HRC/23/40，2013 年 4 月 17 日，https://www.ohchr.org/Documents/HRBodies/HRCouncil/RegularSession/Session23/A.HRC.23.40_EN.pdf。

19「數位時代的隱私權」，聯合國人權事務高階專員辦事處的報告，A/HRC/27/37，2014 年 6 月 30 日，https://www.ohchr.org/EN/HRBodies/HRC/RegularSessions/Session27/Documents/A.HRC.27.37_en.pdf。另見《世界人權宣言》第 12 條。

20「監視與人權，促進和保護見解和言論自由權特別報告員的報告」，A/HRC/41/35，2019 年 5 月 28 日，https://undocs.org/A/HRC/41/35。

21「必要和相稱」，必要和相稱：關於將人權應用於通訊監控的國際原則，2016 年 3 月 4 日。https://necessaryandproportionate.org/principles。

22「數位時代的隱私權」，A/HRC/27/37。

23「監視與人權」，A/HRC/41/35。

24 史蒂文·費爾德斯坦，「聯合國能報告幫助控制廣泛和濫用數位監控？，」世界政治評論，2019 年 7 月 9 日，https://www.worldpoliticsreview.com/articles/28016/can-a-u-n-report-help-rein-in-expansive-and-abusive-digital-surveillance。

25「數位時代的隱私權」，A/HRC/27/37。

26「促進和保護見解和言論自由權問題特別報告員弗蘭克·拉魯的報告」，A/HRC/23/40。

27 Steven Feldstein，《數字無自由之路：人工智慧如何重塑鎮壓》，《民主雜誌》30，第30期。 1（2019）：42。

28尼古拉斯·賴特指出：「人們會知道，對其身體和數位活動的無處不在的監控，將用於預測不良行為，甚至是他們只是在考慮的行為...... 為了防止系統做出負面預測，許多人將開始模仿社會中「負責任」成員的行為。這些可能就像眼睛看手機螢幕上，不同元素的時間一樣微妙。這不僅將透過迫使人們以某種方式行事，而且透過改變他們的思維方式來改善社會控制。」 Nicholas Wright，「人工智慧將如何重塑全球秩序」，外交事務，2018 年 7 月 10 日，https://www.foreignaffairs.com/articles/world/2018-07-10/how-artificial-intelligence-will-reshape-global-order。

29 參見 Jeffrey Ding，《解讀中國的人工智慧夢想》，牛津大學人類未來研究所，2018 年，https://www.fhi.ox.ac.uk/wp-content/uploads/Deciphering_Chinas_AI-Dream.pdf。

30 例如，請參閱：「中國的數位獨裁主義：監控、影響力和政治控制」，美國。眾議院，常設情報特設委員會，委員會聽證會，2019 年 5 月 16 日，https://docs.house.gov/Committee/Calendar/ByEvent.aspx? EventID=109462；Robert Morgus和Justin Sherman，「獨裁者正在出口監控技術，並隨之出口他們對網際網路的願景」，外交關係委員會，2018 年 12 月 5 日，https://www.cfr.org/blog/authoritarians-are-exporting-surveillance-tech-and-it-their-vision-internet；「2018 年網路上的自由：數位獨裁主義的崛起」，2018 年 10 月 30 日；以及 Jonah M. 的 Paul Mozur。 Kessel 和 Melissa Chan，「中國製造，出口到世界：監控國家」，《紐約時報》，2019 年 4 月 24 日，https://www.nytimes.com/2019/04/24/technology/ecuador-surveillance-cameras-police-government.html。

31「延布：智慧工業石油王國城市 —— 華為出版物」，華為，2019 年，https://e.huawei.com/us/publications/global/ict_insights/201708310903/manufacturing/201712061133；Sebastian Moss，「谷歌雲繼續成長，即將來到沙烏地阿拉伯」，資料中心動態，2018 年 4 月 24 日，https://www.datacenterdynamics.com/news/google-cloud-continues-to-grow-is-coming-to-saudi-arabia/；Rob Evans，「BAE‘祕密出售大規模監控技術到鎮壓制政權’」《衛報》，2017 年 6 月 14 日，https://www.theguardian.com/business/2017/jun/15/bae-mass-surveillance-technology-repressive-regimes；Tri

32 Korkit Danchaivichit（國家電信和廣播委員會副祕書長），採訪作者，2019 年 5 月 17 日。

33 Joe Parkinson、Nicholas Bariyo和Josh Chin，「華為技術人員幫助非洲政府監視政治反對派」，《華爾街日報》，2019 年 8 月 14 日，https://www.wsj.com/articles/huawei-technicians-helped-african-governments-spy-on-political-opponents-11565793017。

34「烏干達的現金困擾警察，從華為的閉路電視上花了 1.26 億美元」，路透社，2019 年 8 月 16 日，https://www.reuters.com/article/us-uganda-crime-idUSKCN1V50RF。

35 Danielle Cave Thomas、Samantha Hoffman、Alex Joske 和 Fergus Ryan、Elise，「繪製中國科技巨頭地圖」，澳洲戰略政策研究所，問題檔案，第 15/2019 號報告，https://www.aspi.org.au/report/mapping-chinas-tech-giants。

36「建設安全的模里西斯，天堂的靈感」，華為，2019年，https://e.huawei.com/topic/leading-new-ict-en/mauritius-safecity-case.html。

37 Anna Fifield，「嗜血像狼：中國科技巨頭華為的軍事風格紀律內部」，《華盛頓郵報》，2018 年 12 月 13 日，https://www.washingtonpost.com/world/asia_pacific/bloodthirsty-like-a-wolf-inside-the-military-style-discipline-at-chinas-tech-titan-huawei/2018/12/12/76055116-fd85-11e8-a17e-162b712e8fc2_story.html? noredirect=on&utm_term=.fca5427820cf。

38 歐盟前最高貿易官員 Karel De Gucht 記錄在案：「他們[華為]獲得了補貼。如果你在銀行有幾百億美元的行，你可以酌情使用，這是一個巨大的補貼，不是嗎？」 Shawn Donnan 和 Christian Oliver，「歐盟專員攻擊中國電信補貼」，英國《金融時報》，2014 年 3 月 27 日，https://www.ft.com/content/d6d0bcc6-b5cb-11e3-b40e-00144feabdc0。同樣，眾議院情報委員會 2012 年美國國會的一份報告指出，華為獲得了「數十億美元的中國政府融資收益」，華為和中興通訊「為中國情報機構，將惡意硬體或軟體植入物插入關鍵電信元件和系統，提供了豐富的機會」。「關於美國的調查報告。中國電信公司華為和中興公司提出的國家安全問題，」美國眾議院，情報常設特設委員會，

2012 年 10 月 8 日，https://republicans-intelligence.house.gov/sites/intelligence.house.gov/files/documents/huawei-zte%20investigative%20report%20(final).pdf，3。

39 Max Chafkin 和 Joshua Brustein，「為什麼美國如此害怕中國最大的科技公司」，彭博商業週刊，2018 年 3 月 23 日，https://www.bloomberg.com/news/features/2018-03-22/why-america-is-so-scared-of-china-s-biggest-tech-company。

40 同上。

41張林，「中國共產黨需要減少其在私營企業中的存在」，《南華早報》，2018 年 11 月 25 日，https://www.scmp.com/economy/china-economy/article/2174811/chinese-communist-party-needs-curtail-its-presence-private。

42 Arjun Kharpal，「華為執行長：無論我的共產黨關係如何，如果北京想要我們的客戶資料，我都會‘絕對’拒絕，」CNBC，2019 年 1 月 15 日，https://www.cnbc.com/2019/01/15/huawei-ceo-we-would-refuse-a-chinese-government-request-for-user-data.html。

43 Paul Mozur，「中國的網際網路控制將變得更加嚴格，讓外國商業感到沮喪」，《紐約時報》，2016 年 11 月 7 日，https://www.nytimes.com/2016/11/08/business/international/china-cyber-security-regulations.html。

44 Christopher Balding 和 Donald C. Clarke，「誰擁有華為？」 SSRN 學術論文，紐約州羅切斯特：社會科學研究網路，2019 年 4 月 17 日，https://papers.ssrn.com/abstract=3372669。

45 作者採訪泰國內政部官員，2019 年 5 月 14 日。

46 Somkiat Tangkitvanich（泰國發展研究所所長），採訪作者，2019 年 5 月 14 日。

47 Christian Davenport，《國家鎮壓和政治秩序》，政治學年度評論10（2007）：2。

48「智慧城市」，世界銀行，2015 年 1 月 8 日，https://www.worldbank.org/en/topic/digitaldevelopment/brief/smart-cities。

49「智慧城市：烏托邦願景，反烏托邦現實」，隱私國際，2017 年 10 月，http://www.privacyinternational.org/report/638/smart-cities-utopian-vision-dystopian-reality。

50「華為智慧城市白皮書」，華為企業，2016年，https://e.huawei.com/en/material/onLineView？材料ID=9b0000e57fa94a2dbc0e43f5817ca767。

51 同上。

52「協作公共安全之路」，華為，2017 年，http://e-file.huawei.com/~/media/EBG/Download_Files/Publications/en/Safe%20City%20Extra.pdf。

53「使用人工智慧為你的物聯網智慧城市增加價值時的三條規則」，Gartner，2018 年 1 月 29 日，https://www.gartner.com/doc/reprints？ id=1-4XYENKG&ct=180501&st=sb。

54 Bojan Stojkovski，「老大哥來到貝爾格萊德」，外交政策，2019 年 6 月 18 日，2019 年 7 月 29 日訪問，https://foreignpolicy.com/2019/06/18/big-brother-comes-to-belgrade-huawei-china-facial-recognition-vucic/。

55「華為安全城市解決方案：保護塞爾維亞」，華為企業，2018 年 8 月 23 日，http://archive.li/pZ9HO。

56 Feldstein，「數位無自由之路：人工智慧如何重塑鎮壓」，40。

57「影像監控是肯亞‘安全城市’的基礎」，華為，2019 年，https://www.huawei.com/en/industry-insights/technology/digital-transformation/video/video-surveillance-as-the-foundation-of-safe-city-in-kenya。另見 Victor Kapiyo 和 Grace Githaiga，「肯亞，數位時代的通訊監控」，全球資訊社會觀察，2014年，https://www.giswatch.org/en/country-report/communications-surveillance/kenya。

58 Drew Harrell，「聯邦調查局，ICE 查詢州駕駛執照照片是臉部辨識搜尋的金礦」，《華盛頓郵報》，2019 年 7 月 7 日，https://www.washingtonpost.com/technology/2019/07/07/fbi-ice-find-state-drivers-license-photos-are-gold-mine-facial-recognition-searches/。

59 Rowland Manthorpe 和 Alexander J Martin，「獨立報導稱，81% 的‘嫌疑人’被大都會警察臉部辨識技術標記為無辜的，」天空新聞，2019 年 7 月 4 日，https://news.sky.com/story/met-polices-facial-recognition-tech-has-81-error-rate-independent-report-says-11755941。

60 Charlie Warzel，「一家大型警察機構攝影機公司剛剛禁止臉部辨識」，《紐約時報》，2019 年 6 月 27日，https://www.nytimes.com/2019/06/27/opinion/police-cam-facial-recognition.html。

61「NIST 評估顯示人臉辨識軟體功能的進步，」美國國家標準與技術研究所，2018 年 11 月 30 日，https://www.nist.gov/news-events/news/2018/11/nist-evaluation-shows-advance-face-recognition-softwares-capabilities。

62 Steve Lohr，「如果你是白人，臉部辨識是準確的」，《紐約時報》，2018 年 2 月 9 日，https://www.nytimes.com/2018/02/09/technology/facial-recognition-race-artificial-intelligence.html。

63 Paul Mozur，「在香港抗議，臉孔成為武器」，《紐約時報》，2019 年 7 月 26 日，https://www.nytimes.com/2019/07/26/technology/hong-kong-protests-facial-recognition-surveillance.html。

64 Randy Rieland，「人工智慧現在被用來預測犯罪。但這是有偏見的嗎？」史密森尼，2018 年 3 月 5 日。https://www.smithsonianmag.com/innovation/artificial-intelligence-is-now-used-predict-crime-is-it-biased-180968337/。

65 Caroline Haskins，「Revealed：這是 Palantir 的警察絕密使用者手冊」，Vice，2019 年 7 月 12 日，https://www.vice.com/en_us/article/9kx4z8/revealed-this-is-palantirs-top-secret-user-manual-for-cops。

66「預測警務的三大支柱」，PredPol，2018年，https://www.predpol.com/law-enforcement/。

67「中國：大數據助長少數民族地區的鎮壓」，人權觀察，2018 年 2 月 26 日，https://www.hrw.org/news/2018/02/26/china-big-data-fuels-crackdown-minority-region。

68 Cate Cadell，「來自遠西的實驗室，中國的監測國家蔓延」，路透社，2018 年 8 月 14 日，https://www.reuters.com/article/us-china-monitoring-insight-idUSKBN1KZ0R3；「中國：少數民族地區從數百萬人那裡收集 DNA」，人權觀察，2017 年 12 月 13日，https://www.hrw.org/news/2017/12/13/china-minority-region-collects-dna-millions。

69 Feldstein，「數位無自由之路：人工智慧如何重塑鎮壓」，45。

70 Jeffrey Ding，「ChinAI #59：Hikvision 的冬天來臨嗎？」，於 2019 年 7 月 28 日訪問，https://chinai.substack.com/p/chinai-59-is-winter-coming-for-hikvision。

71 有關人工智慧機器學習價值鏈的深入研究，包括對資料儲存模式的深入研究，請參閱：Charlotte Stanton 等人，「機器學習價值鏈對地緣政治意味著什麼」，卡內基國際和平基金會，2019 年 8 月 5 日，https://carnegieendowment.org/files/7-1-19_Stanton_etal_Machine_Learning.pdf。

72「埃森哲自動邊境清關解決方案」，埃森哲，2019 年，https://www.accenture.com/us-en/service-border-management-automated-border-clearance-summary。

73「EGate 解決方案：自動邊境管制（ABC），」Gemalto，2019 年 4 月 12 日，https://www.gemalto.com/govt/coesys/eborder-abc。

74「IBorderCtrl：專案」，iBorderCtrl，2016年，https://www.iborderctrl.eu/The-project。

75 Lisa Feldman Barrett，Ralph Adolphs，Stacy Marsella，Aleix M. Martinez和Seth D. Pollak，「重新考慮情感表達：從人類臉部運動中，推斷情感的挑戰」，心理科學符合公共利益，2019 年 7 月 17 日，https://doi.org/10.1177/1529100619832930。另見 Lucien Begault，「自動化技術和歐洲堡壘的未來」，大赦國際，2019 年 3 月 28 日，https://www.amnesty.org/en/latest/news/2019/03/automated-technologies-and-the-future-of-fortress-europe/。

76 Patricia Moloney Figliola 和 Eric A Fischer，「聯邦雲端運算倡議實施概述和問題：對聯邦資訊科技改革管理的影響」，國會研究服務，2015 年 1 月 20 日

https://fas.org/sgp/crs/misc/R42887.pdf

77 Peter Mell 和 Timothy Grance，「雲端運算的 NIST 定義」，NIST 特別出版物 800-145，2011 年 9 月，https://nvlpubs.nist.gov/nistpubs/Legacy/SP/nistspecialpublication800-145.pdf。

78 Esat Dedezade，「冰島將成為第一個‘雲第一國家’」，微軟歐洲新聞中心，2018 年 9 月 19 日，https://news.microsoft.com/europe/features/iceland-to-become-the-first-cloud-first-nation/。

79 Mehul Srivastava 和 Tim Bradshaw，「以色列集團的間諜軟體‘為大型科技的雲提供鑰匙’」，英國《金融時報》，2019 年 7 月 19 日，https://www.ft.com/content/95b91412-a946-11e9-b6ee-3cdf3174eb89。

80「2030 年人工智慧與生命：人工智慧百年研究」，史丹佛大學 2015-2016 年研究小組的報告，2016 年 9 月，https://ai100.stanford.edu/sites/g/files/sbiybj9861/f/ai100report10032016fnl_singles.pdf。

81 同上。

82 喬納森·L· Zittrain，Matthew G. Olsen、David O'Brien 和 Bruce Schneier，「不要驚慌：在「變黑」辯論中取得進展。」伯克曼中心研究出版物2016-1，https://cyber.harvard.edu/pubrelease/dont-panic/Dont_Panic_Making_Progress_on_Going_Dark_Debate.pdf

83 Matt Day、Giles Turner 和 Natalia Drozdiak，「亞馬遜工人正在聽你告訴 Alexa 的話」，彭博社，2019 年 4 月 10 日，https://www.bloomberg.com/news/articles/2019-04-10/is-anyone-listening-to-you-on-alexa-a-global-team-reviews-audio。

84 Greg Bensinger，「谷歌僱用人類聽一些語音輔助錄音」，《華盛頓郵報》，2019 年 7 月 11 日，https://www.washingtonpost.com/technology/2019/07/11/google-employs-humans-listen-some-voice-assistant-recordings/。

85 Andy Greenberg，「這款特斯拉模組將 Model S 變成了行動‘監控站’」，有線，2019 年 8 月 9 日，https://www.wired.com/story/tesla-surveillance-detection-scout/。