Justice Vs. : Surveillance Protecting Privacy in Smart Cities

正義與監視保護智慧城市中的隱私

新的研究顯示，加拿大各地的警察部隊正在建立廣泛的數位監控中心，而沒有任何公眾參與。智慧城市項目使用非常相似的技術，具有相同的危險，但這裡的居民和市政當局正在越來越多地實施開放智慧城市原則，以避免潛在危害並加強公眾監督。警察不應免於民主問責制，同樣的原則可以適用於他們來重建它。

世界各地的人們正在認識到新興「智慧」技術的潛力 —— 這些技術使用機器學習、人工智慧和大規模數據分析 —— 來提供更高效和有效的服務。然而，它們也有很大的潛力在隱私、歧視、透明度，以及企業獲取政府的公共和民主控制工具方面造成損害。

這種危險越來越得到公眾和政府的認可，2017 年，加拿大聯邦政府發起了智慧城市挑戰賽，這是一項耗資 7500 萬美元的倡議，在多倫多為谷歌人行道實驗室發起智慧城市項目的失敗嘗試，提供了一種明確的替代方法。在眾多元素中，與人行道實驗室的項目相比，智慧城市挑戰賽的獲勝者，透過他們對居民主導的設計和開發的基本強調而脫穎而出。（此倡議據了解，去年因全球疫情，目前也擱置停滯）

普通民眾和政府都清楚地了解，擁有高度透明和民主的原則來支持開發和實施具有潛在變革性但也具有潛在危險的智慧技術的重要性。事實上，安大略省政府已承諾繼續基於開放政府夥伴關係原則開發其人工智慧框架，這是一套將透明度、隱私、減少危害和公眾參與納入流程的價值觀。

然而，由同一個市級和省級機構資助的相同類型的數據收集和分析技術，在警察使用時如何不受這些民主原則的約束？

廣泛的研究，包括最近完成的一項為期 4 年的博士研究，對加拿大警務中智慧技術的興起進行了研究，顯示在過去的二十年裡，加拿大警察部隊已經不再強調「社區-基於警務」與「情報主導警務」之一。該策略避免與社區建立信任關係，以了解他們正在經歷的事情，而是佈署不斷成長的數位監控機器，在未經同意或監督的情況下，提取該資訊的鳥瞰版本。

該策略的核心是在加拿大各地的警察服務中，建立「即時操作中心」（RTOC）：以美國融合中心為藍本的高科技監控中心，在 9/11 之後為國內反恐計劃。

這些 RTOC 匯集了許多智慧城市項目使用的相同類型的智慧、人工智慧驅動、基於監控的技術，實際上它們經常將現有的智慧城市系統（例如來自公共交通卡¹或私人和公共閉路電視網絡的數據）整合到他們的監控中儀器。

事實上，對警察採購和使用這些技術的公共監督和控製程度不同，這一事實構成了嚴重的民主赤字。

加拿大的 RTOC

雖然以各種名稱出現，但 RTOC 已經在加拿大幾乎所有主要的市政警察服務中運作。

基於數千頁的資訊請求、現場訪問和採訪，Thomas Linder ²拼湊出過去十年來尼亞加拉、約克區、渥太華、卡爾加里、埃德蒙頓、溫哥華等地的此類中心，如何成為為尋求「數位時代」「現代化」的加拿大警察部隊提供解決方案。

就像城市尋求智慧城市技術一樣，這些警察服務正在響應在日益數位化的社會中，有效運作的感知需求。然而，這項研究顯示，警察部隊避免了關於最佳方法的公開辯論，而是單方面採用了美國軍方和國內反恐機構，在 9/11 之後開發的大規模監視模型。

這種模式涉及集中和擴展監視能力，以遠遠超出警察以前可以訪問的社會部分，並使用具有公認的濫用和歧視潛力的工具來做到這一點。³這些工具由 IBM、Palantir 和摩托羅拉解決方案等公司開發，這些公司為美國和加拿大的軍事和國家安全機構，開發了類似的技術，並且還經常簽約幫助指導警察部門開發其 RTOC。軍事化反恐模式從一開始就融入了這些中心。

雖然警方長期以來在一些關鍵領域使用閉路電視，但 RTOC 透過連接現有的私人（如校園和商場）和公共（如公園、交通或道路）網路，可以佈署更多的攝影機。

^{儘管圍繞自動臉部辨識、}⁴預測性警務⁵和國際行動用戶身份 (IMSI) 捕捉器⁶等技術，出現了幾起引人注目的醜聞，這些醜聞已導致其停產，但智慧監控技術與許多智慧城市項目中使用的技術非常相似，這些 RTOC 仍在使用這些資訊，在沒有任何公開辯論或監督的情況下，直接向日常警察行動提供這些可能存在高度問題的資訊。

在「開源情報」的幌子下，這些中心將網路上所有公開可用的資訊，視為監視記錄的公平遊戲。這包括社交媒體監控工具，以用戶大多不知道也未同意的方式，將警察的目光深入到人們日常生活的各個領域。

雖然警方長期以來在一些關鍵領域使用閉路電視，但 RTOC 透過連接現有的私人（如校園和商場）和公共（如公園、交通或道路）網路，可以佈署更多的攝影機。研究顯示，CCTV 會加劇歧視性的刻板印象，⁷和 RTOC 使 CCTV 能夠即時訪問以前沒有以這種方式監管的空間。

另一個關鍵功能是整合越來越多的數據庫，從私人和公共來源，例如僅與警察接觸的人的信息（例如透過「梳理」 ⁸等程序）到收集人口統計等資訊的外部數據庫，車輛和執照以及加拿大隱私法未明確禁止的任何其他內容。此類數據挖掘具有公認的潛在危害，甚至可能被證明違反了憲章權利。⁹

智慧城市技術經常使用相同類型的開源數據收集、CCTV 報導或數據挖掘技術，但隨著 Sidewalk Lab 項目的拒絕和智慧城市挑戰賽的獲勝者展示，公眾和政府都在大力推動圍繞透明度、避免傷害和居民參與進行公開、民主的辯論。

鑑於智慧城市技術和 RTOC 的驚人相似性和深度融合，沒有理由不就警察對這些實踐和技術的使用進行同樣的辯論。至於智慧城市項目，開放智慧城市原則可以為如何以有利於居民和他們居住的社區的方式，推進智慧技術提供一個強有力的框架。

開放智慧城市原則

開放式智慧城市原則¹⁰認識到智慧技術在警務和智慧城市中的利弊往往在社區之間分佈不均，因此強調公平、公共監督和控制的價值。這些價值觀被提煉為五個原則：

技術使用的合乎道德、負責任和透明的治理；
跨社區、私營、公共和民間社會部門的民主、參與和協作方法；
考慮適合目的並能對抗傷害和偏見的技術；
一個開放的數據管理結構，其中隱私得到保障，對智慧技術產生的數據的保管和控制是為了公共利益而持有和行使的；
認識到數據和技術不是社會問題的自動解決方案。這些問題往往需要創新和戰略性的社會、經濟和政治解決方案，而不是快速的技術修復。

這些原則是民主技術社會的基本要求，地方政府正在將它們應用於加拿大各地的開放智能城市項目。不幸的是，本文頂部描述的警察部隊對智慧監控技術的不透明，獲取和使用經常與他們直接矛盾。確實，一些部門積極阻止對其活動進行合法研究！

這種對民主透明度和治理豁免的明顯渴望，說明了警察部隊如何理解這些技術及其使用。然而，這種受反恐啟發的方法適得其反，世界各地的許多新生項目已經展示了替代方案。例如，涉及美國 120 多個機構的警察數據倡議正在朝著開放數據治理價值的正確方向邁出步伐；在加利福尼亞州的奧克蘭，現在在美國許多其他城市，居民在警察技術採購和預算方面獲得了相當大的權力；¹¹溫哥華警察局一直在採取措施，讓許多不同的公眾和民間團體參與其 GeoDash 預測性警務技術的開發，以盡量減少潛在危害。

顯然，這些問題對公平和民主具有潛在的重大負面影響，它們的解決不應由公司和警察自己來決定。開放智慧城市原則為公眾和民主地討論其應用提供了一個清晰的價值觀框架。公開辯論可能會確定，在某些情況下，這些原則中的一些原則適用於治安，而不是智能城市交通管理，或者它可能會確定某個問題不需要高科技解決方案，甚至不需要警務解決方案。全部。無論結果如何，都必須進行基於共同的、公眾理解的價值觀的民主辯論。