cookieOptions = {...}; .人工智慧臉部辨識面臨的問題 - 3S Market「全球智慧科技應用」市場資訊網

3S MARKET

3S MARKET
2019年12月23日 星期一

China: facial recognition and state control 


來源:企业网D1Net

如今的人工智慧的臉部辨識算法並不完美。如果企業正在考慮部署此技術,那麼應該知道以下這些內容。


安裝在貨架上的攝影機,配有人工智慧臉部辨識軟體,可以辨識消費者的年齡、性別和種族,這是今年 1 月在紐約舉行的全美零售聯盟大型展會期間,向零售公司推出的新興系統之一。

這個想法是給實體店提供人口統計資訊,以指導他們如何向個人客戶推銷。這對於像亞馬遜這樣,一直在利用客戶數據的線上零售商而言,具有競爭優勢。

但是,採用攝影機捕捉客戶的照片,用一種他們甚至不會注意到的方式,是不是入侵性太強除此之外,還有其他問題。如果該軟體錯誤地,將男性辨識為女性,並為其提供女性衛生用品的折扣,該怎麼辦有什麼後果


零售環境中的後果可能並不十分重要,但客戶可能會感到煩惱,並在社交媒體上談論,並且不再回到那家商店購物。但是,在機器視覺和人工智慧,驅動的臉部辨識軟體的其他應用中,其後果會更嚴重嗎

事實證明,人們對人工智慧臉部辨識軟體非常關注,它在商業上可從許多主要供應商獲得,其中包括微軟、IBM和亞馬遜。

最近的一項研究重點是,一些商業算法在辨識膚色較深的人員和女性方面,不如辨識膚色較淺的男人準確。這是以前討論過的一個話題。

例如,2018年7月,美國公民自由聯盟(ACLU)對美國國會議員的照片,應用了亞馬遜算法,該算法確定其中,28人是因犯罪而被捕的人。


最近麻省理工學院媒體實驗室的一項研究,提出這樣一個問題:這些商業算法的公開審計,是否會影響供應商,對提高算法準確性的關注。

這項研究報告由麻省理工學院的研究生 Joy Buolamwini 共同撰寫,他也是算法正義聯盟(Algorithmic Justice League)的創始人,該組織自稱致力於解決算法中的偏見。

這項研究顯示,這些算法最擅長辨識膚色較淺的男性。他們在辨識女性或膚色較深的人時表現不佳。研究還指出,一些供應商在向他們指出這些問題後,改進了他們的算法。

亞馬遜公司對這項研究的回應,刊登在《紐約時報》的文章中,Buolamwini 已經發表了,她關於這個問題的聲明和回應,以及供應商對媒體的回應。


在機器學習中,根據所使用的訓練數據的數量和類型,結果可能有偏差或不準確。例如,亞馬遜公司使用機器學習,來篩選求職者的簡歷,最後得到了大多數的男性候選人。這可能是因為用於訓練算法的歷史數據池中,男性多於女性。

透過向用於訓練算法的數據池中,添加更多的數據或數據源,供應商可以提高,他們的人工智慧臉部辨識系統的準確性。

然而,供應商也提供了一種安全閥,來防止這些算法的缺陷。這些系統允許組織客戶,設置一個閾值或置信水準。這可以根據組織,為結果計劃的操作類型進行設置。

全美零售聯盟展會展出的零售系統展示了它的運作方式。例如,就性別而言,這些系統可能會確定某人是男性,但他們也會提供一個信心分數,基本上說他們是 67% (或其他百分比)確定這個人是男性。零售商已經設定了他們願意接受的置信水平。

因此,如果有人被推斷為具有 67% 置信度分數的男性,並且零售商已將閾值水平設定為 60%,則客戶將看到為男性定制的優惠。如果零售商將閾值分數設置為 70%,則客戶的 67% 分數將不會達到該閾值,並且客戶將看到可以對任何客戶(男性或女性)提供的通用報價。

例如,如果風險很高,在一個可能改變某人生活軌跡的執法應用程序中,組織可能會將閾值設置為99%。如果風險沒有那麼高,他們可能會把門檻設置在一個較低的水準。


提高隱私意識
但是,收集客戶圖像是否存在隱私問題,特別是在 GDPR 法規,和其他新數據隱私法,已經實施的時代中全美零售聯盟展會的其中一位展台代表表示,客戶的圖像不會被保留。但是,會保留並分析有關訪問特定顯示的客戶的,人口統計數據的匯總數據,以幫助零售商深入瞭解其客戶。

企業是否應該嘗試使用人工智慧臉部辨識軟體這可能取決於應用程序和風險等級。對於那些希望在數位競爭對手中,獲得優勢的實體商店零售商來說,這些應用程序可以開闢一個,前所未有的數據和洞察世界。

在其他的情況下,採用機器視覺技術查找人們的圖像,與已知圖像數據庫進行匹配,例如用於打擊拐賣兒童犯罪。人工智慧可以展示可能的匹配,並且最終確定是否找到了匹配的人。

在這種類型的應用中,使用人工智慧的好處是,無論是辨識失蹤的孩子,還是在擁擠的體育賽事中,即時辨識可疑的恐怖分子,該算法都可以在幾秒鐘內,分析並進行匹配。但是在這些高風險的應用中,讓人員在循環中進行最後一次調用,將是防止這種新興技術,出現錯誤的重要保障。

Facial Recognition & GDPR: The Good, The Bad, and the ...

這是企業應該牢記的事情。人工智慧辨識人臉技術還是一項新技術,顯然它並不完美,應該謹慎處理。此外,與許多新興技術一樣,到目前為止,還缺乏管理其使用的許多法規。而這些法規可能會在未來幾年內出現。


AKD 寰楚專業級全系列監控設備

0 comments: