Facial recognition replaces class register in Swedish trial
AI世界
鎖手機」「刷臉購物」「刷臉驗證身份辦理銀行卡」……我們與生俱來的「臉」除了與顏值形象掛鈎，也在逐漸演變成身份的辨識標識，逐漸深入我們的日常生活。
但當人臉辨識遇上現實，也不乏跪地躺槍，慘不忍睹的時候，比如今天我們上次提及的亞馬遜 Rekognition（亞馬遜人臉辨識從120名官員中，認出了 26 名罪犯）。
除了這個「事故」之外，歐盟又傳來人臉辨識罰單消息。
近日，瑞典數據監管機構（The Swedish Data Inspection Authority，下稱「DPA」）對當地一所高中開出第一張基於歐盟《通用數據保護條例》（GDPR）的罰單，金額為 20 萬瑞典克朗。
據悉，該校使用人臉辨識系統記錄學生的出勤率，而瑞典 DPA 透過對系統試行期間，涉及的 22 名學生進行調查，最終認定學校董事會對學生個人資訊的處理，不符合 GDPR 的規定。
事實上，隨著人臉辨識技術的廣泛應用，歐洲已經開始考慮對人臉辨識等人工智慧（AI）技術進行立法規管，限制公司和公共機構「不加區分地使用人臉辨識技術」，並賦予所有歐洲居民明確的決定權。
1 瑞典高中使用人臉辨識監控違反 GDPR
8 月 21 日，瑞典 DPA 在官網公佈了 GDPR 生效以來的首張罰單。與其他歐盟國家普遍拿科技巨頭「開刀」不同，瑞典 DPA 的處罰對象是斯蓋樂夫提的一所高中。
該校為了統計學生的出勤率，在校園內試行人臉辨識系統。在實施試驗的三周內，共涉及到22名學生。
學校強調，他們事先獲得了學生的同意。
但是，瑞典 DPA 律師 Ranja Bunni 指出：＂事先獲得學生同意＂的說法不可接受，因為學生是在學校董事會管理之下的」。也就是說，無法判斷這裡的「同意」，是否為學生的獨立意志。
經調查， 瑞典DPA認為，在日常環境中，對學生進行攝影監控等行為，侵犯了學生的隱私。因為學校統計學生出勤率，完全可以透過其他方式完成，而這些方式，都比人臉辨識技術對學生權益的侵害要小得多。
因此，瑞典 DPA 以該校董事會處理個人資訊，不符合 GDPR 規定為由，對其處以 20 萬瑞典克朗的罰款。據悉，罰款金額最高可以達到一千萬克朗。
記者瞭解到，在瑞典，記錄每節課的出勤率是法律要求。據 IT 公司 Tieto 統計，每年瑞典老師需要花費 17,280 小時，在記錄出勤率的工作上，這相當於 10 個全職工作的時間。
「人臉辨識技術還處在起步階段，但是發展非常迅速，我們看到了建立一個適用於所有參與者的清晰準則的巨大需求。」瑞典 DPA 負責人 Lena Lindgren Schelin 表示。
2 歐盟正在探索嚴厲的人臉辨識技術立法
不僅是在瑞典，英國數據保護監管機構（ICO）也剛剛對一起人臉辨識相關事件發起調查。
據英國媒體披露，倫敦國王十字車站地區，安裝了帶有人臉辨識系統的閉路電視攝影機，可以監控這一帶辦公室、商場的人流情況。據房地產開發商表示，這些攝影機不僅有人臉辨識和追蹤功能，背後還有複雜的系統支撐，可以保護公眾隱私。
日前，ICO 已對此展開調查。「在日常生活中掃描人臉，以辨識他們的身份，這種對隱私的潛在威脅值得所有人重視」，ICO 專員 Elizabeth Denham 認為，「尤其是沒有經過告知或理解的情況下」。
據《金融時報》報導， 歐盟委員會的高級官員透露，他們正在計劃一項，關於人臉辨識數據使用的立法，這將賦予所有歐洲居民明確的決定權，而這項立法也是歐洲 AI 監管改革的一部分。
還有官員指出，這項立法的目的在於限制公司和公共機構「不加區分地使用人臉辨識技術」。歐洲居民將有權「知道人臉辨識數據何時被使用」，即使有例外情況，也將是在「嚴格限制」之下，以確保適當使用。
《金融時報》還提到，在一份相關文件中，歐盟提出希望制訂一套「AI 監管的世界性標準」，並建立「足以保護個人的明確，可預測和統一的規則」。它將在 GDPR 的現有義務之上更進一步，將目標鎖定為「帶來特定風險」的人臉辨識等技術。
「AI應用可能對基本權利構成重大風險，不受管制的 AI 系統可能會做出，影響人們卻又無法解釋的決定，還無法溯源或者找到相關負責人」，該文件稱。
公開資料顯示，歐盟委員會將在 11 月迎來新一任主席—— Ursula von der Leyen。她計劃在其上任的前 100 天內，推出新的 AI 管理法規，為人類和 AI 倫理提供一個「經過協調的歐洲方法」。
其實除了歐盟，美國舊金山議員丁右立（Phil Ting）早已就提議禁止使用人臉辨識技術軟體系統，並且表示類似於低級錯誤辨識結果，將會給人們帶來巨大的負面影響，當你被人認為是一個罪犯， 「可能會影響你找工作的能力、影響你買房租房的能力。」這遠不是一項技術，犯了一個可笑的錯誤那麼簡單，而是確確實實會有活生生的人們，受到這一錯誤帶來的實際影響。
科技進步、人工智慧給我們的生活，帶來的方便和快捷不言而喻，但是科技作為工具，能否使用的好最終還是掌握在人的手裡，尤其是像這種涉及人們隱私的技術——人臉辨識，是不是需要禁止，或者是否要嚴加看管，我們也需要一個保護自己隱私的權利！
0 comments:
張貼留言