2019年4月1日 星期一

.到底該不該用人臉辨識技術?

Should You Worry About Facial Recognition?


源: 与非网


吉米戈麥斯是加州民主黨人,哈佛大學畢業生,也是少數在美國眾議院任職的西班牙裔立法者之一。

但在亞馬遜的臉部辨識系統裡,他被辨識為一個潛在的罪犯。

戈麥斯是28名美國國會議員中的一員,與被逮捕的人的照片完全匹配,這是去年美國公民自由聯盟,對亞馬遜重新認知計劃,進行測試的一部分。

到底该不该用人脸识别技术?IBM/亚马逊/ACLU已经吵得不可开交了

亞馬遜被警方使用工具中將近有40%的虛假匹配,涉及有色人種。

這些發現被公民自由團體,立法者甚至一些科技公司越來越多的關注,隨著技術變得更加主流,臉部辨識可能會傷害少數人種。iPhone和Android手機上,已經開始使用臉部辨識技術進行解鎖,警察、零售商、機場和學校也在慢慢接觸它。

但是研究顯示,臉部辨識系統更難以辨識女性,和膚色較黑的人,這可能導致災難性的誤報。

「這是一個例子,說明技術在執法領域的應用,如何對已經過度監管的社區造成有害後果,」北加州ACLU的技術和公民自由律師Jacob Snow說。

臉部辨識有它的好處。馬里蘭州的警察利用這項技術,在首都公報的大規模槍擊案中,找出了一名嫌犯;在印度,它幫助警察在四天內,辨識了近3000名失蹤兒童;Facebook使用該技術,為視障人士辨識照片中的人物;它已成為解鎖智慧手機的便捷方式。

但這項技術並不完美,而且還有一些尷尬的失誤。谷歌照片曾將兩個黑人辨識成大猩猩。在中國,一位女士聲稱她的同事,能夠使用Face ID 解鎖她的iPhone X。當執法機構使用臉部辨識,來辨識犯罪嫌疑人,或在抗議中揭露人們時,被誤認的風險就會增加。

「當執法部門使用這項技術,確定某人是否因犯罪而被通緝時,那就是完全不同的情況,」戈麥斯說,「錯誤的身份,有可能會導致執法部門,和那個人之間發生致命的互動。」

立法者對ACLU的調查結果,並不感到震驚,並指出科技工作者,通常更多地考慮,如何使某些東西發揮作用,而不是關於他們建構的工具,如何影響少數人種。

科技公司透過改進,用於培訓臉部辨識系統的數據,來回應批評,但與民權活動家一樣,他們也呼籲更多的政府監管,以幫助保護技術不被濫用。喬治敦大學法學院的研究人員估計,每兩名美國成年人中,就有一名被用於執法人員,使用的臉部辨識網路。

亞馬遜不讚同ACLU研究,認為組織在測試辨識系統時,使用了錯誤的方法。

「機器學習是一個非常有價值的工具,可以幫助執法機構,雖然可能存在誤判,我們不能因為設定了錯誤的溫度,導致烤焦了披薩,而扔掉烤箱。」人工智慧總經理Matt Wood,在亞馬遜網路服務公司的一篇博文中辯解道。

辨識問題
與白人男性相比,臉部辨識服務,可能更難以辨識少數民族和女性,這有多種原因。

到底该不该用人脸识别技术?IBM/亚马逊/ACLU已经吵得不可开交了

喬治城法學院,隱私與技術中心的高級助理克萊爾加維說,科技工作者,用來訓練電腦辨識臉孔的公開照片,可能包括比白人更多的白人。

例如,如果一家公司使用名人數據庫中的照片,那麼它就會傾向於白人,因為好萊塢的少數人種人數不足。

Garvie說,科技公司的工程師,大多是白人,也可能在不知不覺中,設計臉部辨識系統,以更好地辨識某些種族。研究顯示,人們更難以辨識另一個種族的臉孔,並且「跨種族偏見」可能會滲入人工智慧。她還補充說,對於深色皮膚缺乏色彩對比的問題,以及女性使用化妝品,來掩蓋皺紋或頭髮不同的問題,都存在挑戰。

根據麻省理工學院媒體實驗室的研究人員,進行的一項研究,微軟,IBM和Face ++製作的臉部辨識系統,很難確定像非洲裔美國人這樣的黑皮膚女性的性別。35%的黑皮膚女性的性別,會被誤認為是高加索人等1%的淺膚色男性。

麻省理工學院於1月份發佈的另一項研究顯示,亞馬遜的臉部辨識技術,比微軟或IBM確定黑皮膚女性性別的工具更難。

科技公司的作用
亞馬遜對麻省理工學院的研究結果提出了質疑,一名女發言人指出,該研究稱這項研究「具有誤導性」。研究人員使用「臉部分析」來辨識臉部特徵,如性別或微笑,而不是人臉辨識,將人臉與照片或影像中的相似臉部相匹配。

「臉部分析和臉部辨識,在底層技術和用於訓練它們的數據方面完全不同,」伍德在一篇關於麻省理工學院研究的博客文章中說。「嘗試使用臉部分析,來衡量臉部辨識的準確性,是不明智的,因為它不是用於此目的的預期算法。」

這並不是說科技巨頭沒有考慮種族偏見。

微軟去年表示,它將辨識女性和膚色較深的男性的錯誤率,降低了20倍。

到底该不该用人脸识别技术?IBM/亚马逊/ACLU已经吵得不可开交了

Facebook發言人,使用臉部辨識技術,在照片中標記用戶,該公司表示,該公司確保其使用的數據「平衡並反映出Facebook的用戶的多樣性」。谷歌指出了它發佈的關於人工智慧的原則,其中包括禁止「製造或加強不公平的偏見」。

為了推進臉部辨識的公平性和準確性研究,IBM於1月份為研究人員發佈了一個名為Diversity in Faces的數據集,該數據集不僅僅關注膚色,年齡和性別。該數據包括100萬張人臉圖像,注釋有臉部對稱,鼻子長度和前額高度等標籤。

「我們擁有所有這些,關於多樣性意味著什麼的主觀和鬆散概念,」IBM的首席科學家約翰史密斯說。「因此,IBM創建此數據集的目的,是深入研究如何真正衡量臉孔多樣性的科學。」

該公司收集了照片網站Flickr的圖片,本月受到一些攝影師,專家和活動家的批評,因為他們沒有通知人們他們的圖像,被用來改善臉部辨識技術。作為回應,IBM表示嚴肅對待隱私,用戶可以選擇退出數據集。

亞馬遜表示,它使用反映多樣性的培訓數據,並向客戶介紹最佳實踐。今年2月,它發佈了一些指導方針,稱立法者在考慮監管時應考慮到這一點。

亞馬遜全球公共政策副總裁邁克爾·龐克在一篇博客文章中說:「所有相關各方之間應該進行公開,誠實和認真的對話,以確保技術得到適當應用並不斷加強。」

需要明確的規則
即使科技公司努力提高,其臉部辨識技術的準確性,人們對這些工具可用於歧視移民,或少數民族的擔憂也不會消失。在某種程度上,這是因為人們仍然在個人生活中與偏見搏鬥。

民權組織和專家認為,執法部門和政府,仍然可以利用這項技術,來辨識政治抗議者或追蹤移民,使他們的自由處於危險之中。

「完美準確的系統也成為一種非常強大的監控工具,」加維說。

到底该不该用人脸识别技术?IBM/亚马逊/ACLU已经吵得不可开交了

民權組織和科技公司呼籲政府介入。

「管理政府使用技術的唯一有效方法,是政府主動管理這種用途,」微軟總裁布拉德史密斯,在7月的一篇博客文章中寫道。「如果人們擔心,如何在整個社會中更廣泛地部署技術,那麼規範這種廣泛使用的唯一方法,就是讓政府這樣做。」

美國公民自由聯盟呼籲立法者,暫時禁止執法部門使用臉部辨識技術。民權組織還致信亞馬遜,要求它停止向政府提供Rekognition。

一些立法者和科技公司,如亞馬遜,已經要求評估臉部辨識技術的國家標準,與技術研究所認可,臉部辨識的種族偏見測試的行業標準和道德最佳實踐。

對於像戈麥斯這樣的立法者來說,這項工作才剛剛開始。

到底该不该用人脸识别技术?IBM/亚马逊/ACLU已经吵得不可开交了

「我不反對亞馬遜,」他說。「但是當一種新技術會對公民的隱私、他們的公民自由產生深遠影響了,那麼它一定是有問題的。」
按此回今日3S Market新聞首頁

科寶電子官網 www.cop-security.com

沒有留言:

張貼留言