5 月,舊金山對臉部辨識技術發出禁令,禁止在政府機關和執法機關使用,成為全球首座對臉部辨識技術發出禁令的城市。
不過,美國社會對臉部辨識技術的反對不只舊金山。近期,加州奧克蘭市正在考慮推行與舊金山類似的法律,同時,麻薩諸塞州也正考慮中止臉部辨識,直到這項技術再提高。
問題來了:美國越來越多城市在禁止或暫停使用這技術,究竟是為何?
客觀來說,美國臉部辨識技術一直走在前端,並在商用層面已有動作。亞馬遜早在 2016 年就推出臉部辨識軟體 Rekognition,類似的產品還有 Google 雲 Vision API、IBM Watson Visual Recognition 和微軟 Face API。
儘管如此,目前的臉部辨識技術還無法百分之百準確。2018 年,紐約時報文章就指出,如今非常熱門的 AI 應用臉部辨識,針對不同種族的準確率差異很大。對黑人女性的錯誤率高達 21%~35%,而白人男性的錯誤率則低於 1%──這在美國可說是非常政治不正確。
另外值得一提的烏龍事件是:亞馬遜 2016 年推出影像辨識 AI 系統 「Rekognition」,曾將 28 名美國國會議員辨識為罪犯,讓美國社會一片譁然,也對臉部辨識充滿質疑。
中國科學院自動化研究所的張曉波博士曾表示,照明、姿勢、裝飾等都會對機器臉部辨識產生影響,對於非合作情況下的臉部影像採集,遮擋問題非常嚴重。
特別是監控環境,被監控對象可能戴眼鏡、帽子等,使擷取臉部影像不完整,影響後續特徵擷取和辨識,甚至導致臉部偵測演算法無效。
雖然臉部辨識演算法大小隨著臉部資料庫增加而減少,但如何在大規模應用環境維持或提高臉部辨識演算法辨識率,也是非常重要的問題。
安全性方面,臉部辨識技術也面臨廣泛的質疑。
比如說,由於臉部辨識的資訊儲存仍然基於電腦可辨識的語言,即數位或特定程式碼。隨著這些資料價值提高,駭客攻擊的風險也會越來越高。
臉部辨識技術背後的支撐是資料,如果這些隱私資料被竊取,你的臉可能就不屬於自己,變成屬於任何人。
同時如前面提到,臉部辨識技術對不同種族有不同準確率,無論論文作者研究還是廠商實驗,都明確發現女性深色人種辨識誤差率更高。種族歧視為美國社會非常敏感的話題,如果臉部辨識技術的相關法律還未完善,那麼,臉部辨識技術依然處於爭議。
更大的爭議在於,美國社會群體對「被監控」的反感和憂慮。
亞馬遜及其他科技公司也與美國警方合作,將臉部辨識技術應用於監控和警察穿戴的相機鏡頭。包括俄勒岡州等眾多美國州立政府已成為 Rekognition 的客戶。
亞馬遜臉部辨識軟體 Rekognition 能即時辨別、分析和追蹤,能在幾秒鐘將收集的資訊和資料庫成千上萬個影像比對。執法機關已將技術應用於搜尋失蹤人口和辨識恐怖攻擊嫌犯。
然而,美國公民自由聯盟(American Civil Liberties Union,ACLU)曾上書政府:亞馬遜應該停止提供美國政府強大且「危險」的臉部辨識系統。
上書後不久,將近 20 家亞馬遜的股東機構寄信給 CEO Jeff Bezos,擔憂亞馬遜 Rekognition 用於執法部門帶來的問題和影響。
股東寫到:「亞馬遜股東擔心這類政府監視設施技術,不僅可能對全國用戶和其他利益相關者構成隱私威脅,而且可能提高公司面臨的實質性風險,為公司股價帶來負面影響,並為股東增加金融風險。」
股東還擔心,Rekognition 可能違反女性、有色人種、移民及其他邊緣化群體的民權,這些人特別容易成為警方關注的目標。
不僅亞馬遜股東認為 Rekognition 會對隱私造成侵犯,美國民眾也有類似看法。將臉部辨識技術應用於前端監控攝影機,可能會打破隱私及實用性之間的平衡。
假設美國警方有若干台這類安防攝影機,同時擁有可疑人員的「黑名單」照片庫,那麼其他任何人如果與這些可疑人員有些相像,一旦進入警察的安防攝影機範圍,都有可能遭警務人員盤問。大多數美國人不希望生活在那樣的世界裡。
不僅亞馬遜 Rekognition 陷入爭議,美國海關和邊境保護計畫同樣因為應用臉部辨識技術而頗受非議。
這項計畫透過雲端臉部生物辨識系統辨識旅客。這種資訊比對服務旨在取代人工海關,將需要出示紙本證件的流程改為自動辨識。
此臉部辨識系統旨在快捷。且美國海關和邊境保護局(U.S. Customs and Border Protection,0CBP)認為,比對護照照片和臉部時,電腦比人類更準確。40 天內,系統已在華盛頓杜勒斯機場協助發現 3 名冒名頂替者。
但這項技術可在不知情的情況下使用,臉部辨識系統收集的不可變資料,也就是臉部資訊。這引起人們的擔憂。如果某人資訊一直存在系統裡,系統便可以一直追查這個人的行蹤。
甚至 CBP 未徵詢大眾意見,就在機場施行,突破了美國法律的界限。
CBP 強調,這技術不是為了監視,實施也符合法律規定。美國公民可選擇結束該計畫,照片不會長期保留。不僅如此,CBP 還聲明,證明有許多法律允許收集生物特徵資訊。
但隱私法專家指出,雖然 CBP 列舉的法律適用非公民,但都沒有明確提到涉及公民的情況。且喬治城大學隱私與技術法律中心 2017 年發表的報告稱:過去 14 年可明顯的看出,美國公民在該計畫的相關法律一直處於缺席狀態。
CBP 尚且面臨質疑,更不必說其他美國政府部門了。
一個社會群體接納和融入新技術,並不一定都一帆風順;尤其對美國注重政治正確和隱私至上來說,臉部辨識應用面臨越來越嚴重的尷尬局面。
可以想見的是,臉部辨識在美國也許會有越來越多反對聲浪,但究竟是好事與否,尚未可知。