How does facial recognition work?
近年來，與人臉辨識技術相關的警告，變得越來越緊迫。研究顯示，人臉辨識系統仍然會產生相對較高的誤報率，而且始終帶有種族和性別偏見。然而，這項技術在美國的泛濫，卻沒有得到遏制，繼續在各級政府的執法機構、私營企業和學校中蔓延開來。在美國眾議院監督與改革委員會，舉行的一次聽證會上，對人臉辨識技術的監管不力引起了兩個政黨的注意。
俄亥俄州共和黨眾議員 Jim Jordan 驚訝地表示：「美國有 5000 萬部攝影機用於監控，這違反了第一修正案、第四修正案和正當程序的自由。這些錯誤對非裔美國人的影響太大了。並沒有民選的官員允許各州或聯邦政府、聯邦調查局使用這種手段，所以應該推出一些限制措施。在我看來，是時候做出一些限制了」。
聽證會專家小組由各種各樣的法律學者、隱私倡導者、算法偏見研究人員和職業執法人員組成，他們在很大程度上支持這一說法。他們直接呼籲暫停政府使用臉部辨識系統，直到國會能夠透過立法手段充分限制，和規範這項技術，並建立透明度標準。但在一年前，這樣激進的建議，在國會可能顯得荒謬可笑。不過，舊金山已經通過了一項使用人臉辨識的禁令，馬薩諸塞州薩默維爾，和加利福尼亞州奧克蘭等城市，似乎也準備效仿。
哥倫比亞特區大學 David Clarke 法律學院教授 Andrew Ferguson 說：「第四修正案，並不會把我們從人臉辨識帶來的隱私威脅中拯救出來，只有立法才能幫助我們，應對這些技術的威脅。立法必須考慮到這些監視系統的作用範圍、規模和複雜性會不斷擴大，以確保可以保護隱私」。
最近的一系列事件顯示，這項技術已經被廣泛採用，如果不加以監督和提高系統，和系統使用者的透明度，這個問題將會變得多麼嚴重。例如，喬治敦大學法律研究人員，上周發佈的一份報告顯示，芝加哥和底特律都購買了即時臉部辨識監控系統 —— 儘管他們都表示沒有在使用這些平台。
喬治敦大學的另一份報告，提供了紐約警察局濫用，和操縱臉部辨識技術的證據。報告稱，警官們將素描圖像或，者將他們認為跟嫌疑犯長得相像的人（例如 Woody Harrelson）的照片輸入到臉部辨識系統，並試圖從這些不相干的圖像中辨識出目標人臉。
另外，一個臉部辨識系統錯誤地，將布朗大學的學生 Amara Majeed 列為斯里蘭卡復活節教堂爆炸案的嫌疑人。《科羅拉多斯普林斯獨立報》報導稱，在 2012 年 2 月至 2013 年 9 月期間，科羅拉多大學科羅拉多斯普林斯分校的研究人員，在未經學生和其他路人同意的情況下，為他們的一個臉部辨識訓練數據庫拍攝照片，該數據庫是政府資助的一個項目的一部分。
同樣，美國全國廣播公司報導稱，該照片數據庫和分享應用程式，曾在未經使用者主動同意的情況下，悄悄使用數百萬使用者的照片訓練臉部辨識系統。
「一直以來，我們和該領域的其他一些人，一直預測會出現錯誤的辨識和濫用。我們預測將會出現國家層面的監控，而不僅僅是在法醫鑒定方面。所有這些都將成為現實。任何說這項技術，還處在起步階段的人都沒有做足功課」。
在眾議院聽證會上，目擊者同樣強調，臉部辨識技術不僅是一個靜態的數據庫，它越來越多地被用於實時、非特定的網路——也就是所謂的「臉部監控」。目擊者表示，鑒於臉部辨識的一些主要缺點（尤其是在準確辨識有色人種、女性和性別方面），目前執法部門不應該使用這項技術。
麻省理工學院研究員、算法正義聯盟（Algorithmic Justice League）創始人 Joy Buolamwini 表示，她將用於訓練大多數臉部辨識系統的數據集稱為「pale male」數據集，因為所使用的大部分照片都是白人男性。
Buolamwini 告訴監督與改革委員會：「一名男子起訴了 Uber，原因是他的司機賬戶，因臉部辨識失敗而被停用。布魯克林的住戶針對安裝不必要的人臉辨識系統，這一舉措發起了抗議。新的研究顯示，用於醫療保健方面的臉部分析技術也存在偏見，而且臉部辨識技術正在走向校園。我們的臉，很可能是隱私的最後一道防線」。
來自不同政治派別的代表表示，該委員會準備制定兩黨立法，對執法機構和其他美國實體使用臉部辨識技術加以監督。但多年來，在聯邦一級取得的實質性成果寥寥無幾，在私有領域的宣傳也面臨著重大障礙。例如，亞馬遜股東否決了兩項，與限制使用該公司臉部辨識軟體，進行隱私和民權保障措施研究的建議。
儘管如此，隨著臉部辨識技術的普及，隱私倡導者將 2019 年視為一個潛在的轉折點。
來自耶魯大學法學院資訊社會項目的律師 Tiffany Li 表示：「我認為，阻止臉部辨識技術的擴散已經太晚了，政府和企業每天都在以新的方式使用它。我們希望能達到一個臨界點，開始認真解決這些問題，也許最好的時機就是現在」。
0 comments:
張貼留言