Facial recognition is everywhere, but are we ready for it?
人臉辨識無處不在，但我們準備好了嗎？
臉部辨識 —— 一種映射、分析然後確認照片或影像中人臉身份的軟體 —— 是有史以來最強大的監控工具之一。雖然許多人與臉部辨識交互，只是作為解鎖手機或整理照片的一種方式，但公司和政府如何使用它，會對人們的生活產生更大的影響。
當它是你擁有的設備或你使用的軟體時，你可能可以選擇退出或關閉臉部辨識，但無處不在的攝影機，使得該技術越來越難以在公共場合避免。對這種無處不在的擔憂，加上種族定性和抗議者身份的證據，已經導致包括亞馬遜、IBM 和微軟在內的大公司暫停向執法部門出售他們的軟體。但隨著禁令的到期以及臉部辨識技術變得越來越好、越來越便宜，社會將需要回答關於臉部辨識應該如何監管的大問題，以及關於我們每個人都願意使用哪些服務，以及我們會犧牲哪些隱私的小問題。每個人都願意做。
臉部辨識軟體的工作原理
大多數人已經在電影中看到臉部辨識使用了幾十年（影片），但它很少被正確描繪。每個臉部辨識系統的工作方式都不同 —— 通常建立在專有算法之上 —— 但你可以將這個過程分為三種基本類型的技術：
- 檢測是在圖像中找到人臉的過程。如果你曾經使用過可以檢測人臉，並在其周圍畫一個框，以自動對焦的相機，那麼你就會看到這項技術的實際應用。就其本身而言，它並不是邪惡的 —— 人臉檢測只專注於尋找一張臉，而不是它背後的身份。
- 分析（又名歸因）是繪製臉部的步驟 —— 通常透過測量眼睛之間的距離、下巴的形狀、鼻子和嘴巴之間的距離 —— 然後將其轉換為一串數位或點，通常稱為「印臉」。「Goofy Instagram 或 Snapchat 過濾器使用類似的技術（影片）。儘管分析可能會出現故障，特別是涉及錯誤辨識，但通常只有在將臉部指紋添加到辨識數據庫時，才會出現問題。
- 辨識是嘗試確認照片中的人的身份。此過程用於驗證，例如在較新的智慧手機上的安全功能中，或用於身份驗證，它試圖回答「這張照片中是誰？」這個問題。這就是技術進入事物令人毛骨悚然的一面的地方。
臉部辨識的檢測階段，從學習人臉是什麼的算法開始。通常算法的創建者透過用人臉照片「訓練」它，來做到這一點。如果你填入足夠多的圖片來訓練算法，隨著時間的推移，它就會學會區分牆壁插座和人臉。添加另一個用於分析的算法，以及另一個用於辨識的算法，你就擁有了一個辨識系統。
在分析和辨識步驟中，輸入系統的照片的多樣性，對其準確性有深遠的影響。例如，如果樣本集主要包括白人男性 —— 就像在早期臉部辨識系統的訓練中那樣 —— 程序將難以準確辨識 BIOC 臉部和女性。近年來，最好的臉部辨識軟體已經開始糾正這一點，但與其他群體相比，白人男性的錯誤匹配頻率仍然較低 (PDF)；某些軟體辨識錯誤一些黑人和亞洲人的頻率，是白人男性的 100 倍。史丹佛大學數位公民社會實驗室研究員、TikTok 內容諮詢委員會成員 Mutale Nkonde 指出，即使系統運行良好，性別辨識問題仍然存在：「標籤通常是二元的：男性，女性。這種類型的系統無法查看非二進制甚至已經轉換的人。」
一旦公司訓練其軟體檢測和辨識人臉，該軟體就可以找到它們，並將其與數據庫中的其他人臉進行比較。這是辨識步驟，軟體訪問照片和交叉引用的數據庫，以嘗試根據來自各種來源的照片（從臉部照片到從社交網路上抓取的照片）來辨識一個人。然後顯示結果，通常按準確度對它們進行排名。這些系統聽起來很複雜，但通過一些技術技能，您可以使用現成的軟體自己構建臉部辨識系統。
人臉辨識簡史
臉部辨識的根源形成於 1960 年代，當時 Woodrow Wilson Bledsoe開發了一種測量系統來對臉部照片進行分類。然後可以將一張新的、未知的面孔與之前輸入的照片的數據點進行比較。按照現代標準，該系統並不快，但它證明了這個想法是有價值的。到 1967 年，執法部門的興趣已經開始蔓延，這些組織似乎資助了 Bledsoe 的持續研究——該研究從未發表過——用於匹配計劃。
在整個 70 年代、80 年代和 90 年代，諸如「特徵臉方法」(PDF)和「Fisherfaces 」之類的新方法，提高了該技術定位人臉然後辨識特徵的能力，為現代自動化系統鋪平了道路.
臉部辨識首次在美國公開舞台上的戲劇性轉變，也引發了其第一次大爭議。2001 年，執法官員在超級碗 XXXV 上對人群使用臉部辨識。批評者稱其違反了第四修正案反對不合理搜查和扣押的權利。那一年還見證了警方首次廣泛使用該技術，該技術的數據庫由皮內拉斯縣警長辦公室螢運，該辦公室現在是該國最大的本地數據庫之一。
提前幾年，直到 2008 年，伊利諾伊州的《生物特徵資訊隱私法》生效，成為美國同類法律中第一部規範非法收集和儲存生物特徵資訊（包括臉部照片）的法律。電子前沿基金會的監督訴訟主管詹妮弗林奇將 BIPA 描述為商業監管的典範。「伊利諾伊州需要通知並書面同意收集任何類型的生物辨識資訊，」她說。「在這一點上，伊利諾伊州是唯一需要這樣做的州。」
2010 年代開啟了臉部辨識的現代時代，因為電腦終於強大到，足以訓練使臉部辨識成為標準功能所需的神經網路。2011 年，臉部辨識用於確認奧薩馬·賓·拉登的身份。2014 年，Facebook公開披露了其 DeepFace照片標記軟體，同年臉部辨識在芝加哥對一名小偷進行定罪中發揮了關鍵作用，同年愛德華·斯諾登發布的文件顯示美國政府收集圖像，以建立一個數據庫。2015年，巴爾的摩警方使用臉部辨識 ，在 Freddie Gray 因在一輛警車上遭受的脊椎損傷而喪生後，確定了抗議活動的參與者。
臉部辨識首先在 2015 年透過Windows Hello和Android 的 Trusted Face作為安全功能滲透到個人設備中，然後在 2017 年引入iPhone X 和 Face ID。
從那時起，事情就變得更糟了：
- 2017 年，唐納德·川普總統發布了一項行政命令，以加快在美國邊境的臉部辨識使用（此後私人航空公司也努力整合該技術）。
- 2018年，泰勒斯威夫特的安全團隊使用人臉辨識來辨識纏擾者，中國的使用量迅速增加。臉部辨識作為一項一般安全措施來到麥迪遜廣場花園，美國零售商嘗試使用該技術來追踪合法購物者和入店行竊者。
- 2019年，紐約的一位房東嘗試安裝它來更換鑰匙，幾所學校也嘗試過。
- 今天，少數城市——舊金山、奧克蘭和加利福尼亞的伯克利，以及馬薩諸塞州的波士頓和薩默維爾——已經禁止政府實體使用臉部辨識。該國還發生了已知的首例誤報導，致在美國被捕的案例。在 6 月份開始了 Black Lives Matter 警察暴力抗議活動之後，包括亞馬遜、IBM 和微軟在內的幾家大型臉部辨識供應商停止向執法部門出售他們的技術。
然而，其他新玩家已經進入了競技場。Clearview AI 在 2020 年初發布了新聞，當時《紐約時報》透露，該公司定期針對從網路上的來源（包括社交媒體、新聞網站和就業網站）中抓取的照片數據庫運行其辨識軟體 - Wirecutter和許多其他網站，能夠透過測試進行確認 - 在它用來辨識嫌疑人的過程中。2020 年 5 月，ACLU 宣佈在伊利諾伊州法院對 Clearview AI 提起訴訟，指控其侵犯了 BIPA 規定的伊利諾伊州居民的隱私權。Clearview AI 的異常之處僅在於它面臨公眾監督：同樣不道德的軟體公司 存在——將其軟件出售給當地執法部門的公司，通常不會對照片的來源或辨識算法的工作方式，進行監督或公開審查。
支持和反對臉部辨識的論點
臉部辨識的支持者認為該軟體很有用，因為除了辨識嫌疑人外，它還可以監控已知的罪犯並幫助辨識受虐待的兒童受害者。在人群中，它可以在大型活動中監控嫌疑人，並提高機場或過境點的安全性。運行時間最長的臉部辨識軟體，透過政府控制的數據庫運行照片，例如FBI 擁有超過 4 億張照片的數據庫，其中包括一些州的駕照，以辨識嫌疑人。當地警察部門使用各種臉部辨識軟體，通常從私人公司購買。
臉部辨識可以在執法之外提供一長串好處，為日常事物和體驗增加便利性或安全性。臉部辨識有助於組織照片，有助於保護筆記本電腦和手機等設備，並有助於幫助盲人和低視力社區。對於進入營業場所、ATM 的詐欺保護、活動註冊或登錄在線上帳戶，它可能是一個更安全的選擇。臉部辨識的廣告和商業應用承諾了廣泛的預期好處，包括追踪商店中的客戶行為，以在線上個性化廣告。
隱私未來論壇的高級顧問兼人工智慧和道德總監 Brenda Leong 在接採訪時表示，支持者指出臉部辨識可以替代忠誠度計劃或門禁訪問：「你只需走過一組攝像頭和所有這些運動場、活動場地、遊樂園，所有這些地方要么正在使用，要么有類似使用方法的想法。」
反對者認為這些好處不值得冒隱私風險，也不信任系統或運行它們的人。第一個爭論點在於收集行為本身 —— 執法部門收集照片很容易，但公眾幾乎不可能避免拍攝他們的照片。例如，大頭照發生在被捕後但在定罪之前。辨識中的錯誤率也存在問題，包括誤報（錯誤地辨識出無辜者）和誤報（未辨識出有罪的人）。
執法機構使用的臉部辨識軟體目前無法用於公共審計，而為檢測和辨識軟體提供動力的算法，通常是研究人員無法調查的封閉式專有系統。當公眾不知道這些臉部辨識系統，如何工作或它們有多準確時，公眾不知道這些系統是否得到了適當的使用，尤其是在執法方面。Joseph Flores，一位軟體開發人員，他在空閒時間將機器學習用於藝術項目（披露：我曾與弗洛雷斯合作過相關的藝術項目，為了好玩，而不是為了盈利），向我解釋了他如何經常故意偏向他的數據集，以產生他想要的結果，執法部門也可以這樣做：「你可以對執法人員的臉部辨識數據執行相同的操作，以確保您的朋友無法識別，並且您的敵人被誤認為是罪犯。「 弗洛雷斯補充道，」很難挑戰你無法審查的數學的合法性或可靠性。尤其是我們正在談論的數據規模。沒有審查，一切都是可證偽的，只是現代顱相學。」
另一個日益嚴重的問題是執法部門，對即時影像源或警察身體攝影機鏡頭中的即時辨識的興趣。但是，即使是熱情推進該技術的城市，例如佛羅里達州奧蘭多市（那裡的警察局使用亞馬遜的 Rekognition 軟體嘗試從影像串流中即實時辨識嫌疑人），在該技術未能達到預期效果後，也撤回了這些努力。期望。但是，僅僅因為即臉部辨識在現場測試中，仍然存在大規模打嗝，並不意味著它在未來不會普及。這個想法對一些社區來說是如此駭人聽聞，以至於加利福尼亞、俄勒岡和新罕布什爾州已經暫時禁止了這種做法。
臉部辨識和監管的未來
一般來說，臉部辨識的未來可以採取三種可能形式中的任何一種：完全沒有監管、有監管和禁止。
無監管
該黑鏡事件說明世界沒有臉部辨識調控寫自己的。Brenda Leong 舉了幾個例子：「創造非常奧威爾式的未來非常容易，因為攝影機無處不在，所以無論你走到哪裡，事物都會透過你的臉跟追踪你。如果你是一名學生，它可以從字面上看你是專注於你的工作還是做白日夢。如果你是一名員工，在你的電腦上監控你的參與度或告訴你是否在其他地方徘徊。」 監控可能性的清單幾乎是無窮無盡的，中國的「社會信用評分」或倫敦警察部隊即時使用臉部辨識攝影機可以讓我們一瞥一個特別嚴峻的現實。
規定
在撰寫本文時，美國聯邦一級有一項法律提案禁止警察和 FBI 使用臉部辨識，另一項法律允許有逮捕令的例外情況。還有一項法案要求企業在公開使用臉部辨識軟體之前徵得同意，還有一項法案禁止在公共住房中使用。雖然臉部辨識肯定有一段時間，但目前尚不清楚這些法案中的哪些（如果有的話）將獲得足夠的支持以成為法律。
當任何人談論規範臉部辨識時，他們需要將這個想法分為兩個部分：規範商業使用和規範政府使用，包括執法。
Leong 強調，對於商業用途，任何商業特徵（忠誠度計劃、主題公園 VIP 訪問權或其他任何內容）的監管主旨都應該是同意。她說，臉部辨識「不應該成為默認設置」。「它永遠不應成為標準服務條款或隱私政策的一部分。它永遠不應該像發生的事情那樣，你必須選擇退出。」 了解此類法規在聯邦層面如何在實踐中發揮作用的最簡單方法是查看伊利諾伊州的 BIPA，該法案要求實體在收集和使用生物辨識數據（包括面部指紋）之前獲得同意，並對該數據的儲存提出要求。
但是，同意可能很棘手。對於商店來說，詢問你是否想跳過出示你的 ID 進入是一回事，而當商店使用這項技術來追踪其所有特許經營地點的入店行竊者時，又是另一回事。例如，EFF 的詹妮弗·林奇 (Jennifer Lynch) 指出了最近倫敦商業區的一個案例，一家公司在附近工作的人經過的私人經營區域放置了攝影機：「你可以看到商業區可能會說，‘哦，好吧，我們張貼了標誌，'」林奇說。「所以人們知道，當他們在這個區域行走時，或者他們的臉會被記錄和捕捉，但我真的不相信人們在這種情況下，能夠真正有意義地表示同意。如果您在該領域工作，您可能無法選擇在其他地方工作。」
當談到政府對臉部辨識的使用時，建議的政策方法存在分歧。Leong 表示，雖然未來隱私論壇的主要重點是臉部辨識的商業用途，但該組織也希望看到政府使用的監管。「我們非常希望看到關於政府如何並且應該如何使用臉部辨識的公開、有意的監管指導，」她說，「即使只是像真正清楚，機構需要什麼級別的授權或可能的原因一樣訪問它。」
其他團體，包括 EFF，認為對執法的監管還不夠。
禁止
林奇和 EFF 認為，監管是不夠的。「我們正在推動聯邦、州和地方各級禁止或至少暫停政府使用人臉辨識，」林奇說。「是一項真正改變遊戲規則的技術，我認為我們正處於歷史的關鍵時刻，我們可以阻止政府廣泛使用人臉辨識。」
即使臉部辨識解決了其多樣性問題，關於如何使用它仍然存在太多潛在問題。「安全和警務行業的基礎是黑人是危險的，」穆塔萊·恩孔德說。「因此，在考慮警務工具或安全工具時，將會有針對黑人的不成比例的佈署。」這就是 Nkonde 支持徹底禁止使用該軟體的原因：「我希望看到對人類主體的禁令，因為我認為隱私權衡太大了。」
透過臉部辨識使用日常用品的隱私提示
儘管政策變化，無論是以監管還是禁令的形式，在全國提供了最明確的前進道路，但實施此類變化需要時間。與此同時，人們每天與臉部辨識互動的方式雖小，但並非微不足道，值得深入思考。
「我認為令人擔憂的事情和區別有點模糊的地方是，我們越多地使用臉部辨識，我們就越少想到它，我們越不認為它在世界上有風險，我們就會習慣到它，」林奇說。「我認為從在手機上使用人臉辨識，到政府使用人臉辨識來追踪我們，無論走到哪裡都是一個滑坡。」
- 谷歌照片或蘋果照片中的臉部辨識怎麼樣？照片組織是許多人第一次看到臉部辨識在起作用。蘋果大秀描述其照片中的臉部辨識數據如何在設備上運行 (PDF)。這項技術比雲伺服器更私密，但也不如基於雲的軟體準確。Google 相冊中的臉部分組可能非常準確，但 Google 廣泛的服務和設備，意味著該公司傾向於在其提供的服務之間自由地共享數據。2016 年，谷歌因使用臉部辨識技術在伊利諾伊州被起訴，但該訴訟後來被駁回。2020年，一個新的集體訴訟指控類似的罪行。儘管使用照片應用中的臉部辨識功能，按臉部組織照片的能力，提供了可量化的好處，但需要考慮隱私權衡。很難確切地知道一家公司可能會如何濫用你的數據；照片儲存公司 Ever ，就是這種情況，其客戶在沒有意識到的情況下訓練了 Ever AI 算法。你可以在 Google 相冊中禁用面孔分組。你無法在 Apple 的照片應用程序中關閉相應的功能，但如果你不主動進入並將照片鏈接到名稱，則辨識數據永遠不會離開你的設備。
- 臉書呢？Facebook 可能擁有有史以來最大的面部數據集，如果 Facebook 多年來證明了什麼，那就是人們不應該相信該公司會用它收集的數據做正確的事情。Facebook 最近同意支付 5.5 億美元，以解決伊利諾伊州對其照片標記系統的訴訟。以下是如何選擇退出。
- 解鎖手機或電腦怎麼樣？由於這些功能現在起作用，人臉解鎖通常只發生在設備本身上，而且數據永遠不會上傳到伺務器或添加到數據庫中。
- 家庭安全攝影機中的臉部辨識怎麼樣？安全攝影機背後的系統缺乏明確的同意，因為它們自動記錄和選擇加入，通常無視當地隱私法，這是許多人忽視的道德問題。目前，只有少數家庭安全攝影機具備臉部辨識功能，包括 Wirecutter 的智慧門鈴升級選擇、谷歌的 Nest Hello。但是，默認情況下，Nest 攝影機上的人臉檢測處於關閉狀態。隱私倡導者更擔心的是，Ring 攝影機可能包含臉部辨識功能，該系統透過其鄰居應用APP與警方共享數據。
- 你是否需要擔心那些一年左右彈出一次的傻瓜臉應用APP？最近在這個領域取得突破的應用 APP 是 FaceApp，它透過讓人們自己變老而廣受歡迎。儘管該公司表示它不使用該應用 APP 來訓練臉部辨識軟體，但很難知道如果該公司被出售，該應用 APP 收集的數據會發生什麼。下一個版本的 FaceApp 也是如此。最好警惕這種類型的軟體。
- 如果你戴著口罩，臉部辨識可以辨識你嗎？現在不太可能，但將來可能會。中國的一家公司能夠對 95% 的口罩佩戴者進行臉部辨識，但這種特定的軟體是為大約 50,000 名員工的小型數據庫設計的。企業正在爭先恐後地解決這個問題。
社會的發展方向是政策，和對人們個人習慣的調整的混合體，但關於技術的討論可能不會在很長一段時間內發生。像任何技術一樣，臉部辨識本身只是軟體，但正如 Mutale Nkonde 指出的那樣，社會如何使用它才是最重要的：「我的干預點是該工具影響我們公民和人權的方式，因為我認為所有技術是不可知論者。」
 |
沒有留言:
張貼留言