人臉識別系統（facial recognition system）是一種數字圖像處理技術，能夠根據人的臉部特徵快速識別或驗證人的身份。許多年來，我們從電影電視中經常看到執法部門利用人臉識別系統從茫茫人海中找出犯罪嫌疑人，將他們繩之以法。可惜，人臉識別系統目前還不夠成熟，比較典型的事例是亞馬遜公司（Amazon）作為產品賣給眾多執法部門的一款人臉識別系統Rekognition。

最近，美國公民自由聯盟（ACLU, American Civil Liberties Union）北加州分會公布了一份測試報告——他們把500多位聯邦國會議員的照片輸入亞馬遜公司的Rekognition人臉識別系統，和聯邦監獄囚犯照片資料庫進行比對，竟然發現有28名國會議員的面孔和聯邦監獄中的囚犯照片吻合！這份測試還顯示，有色人種國會議員被錯誤認定的比例特別高，其中包括國會黑人核心小組中的6名成員、舊金山灣區Concord 選區的民主黨眾議員Mark DeSaulnier、馬薩諸塞州民主党參議員Ed Markey以及伊利諾伊州民主黨眾議員Luis Gutierrez。

美國公民自由聯盟在公布這份測試報告的時候再次呼籲各級政府暫停使用人臉識別技術。該組織的立法顧問Neema Singh Guliani在一份聲明中表示，國會應敦促聯邦政府暫停使用面部監控，直到充分考慮到它的危害，尤其是對弱勢群體的危害。公眾應該對要不要使用面部監控（face surveillance）以及如何使用面部監控的問題展開全面的辯論。亞馬遜公司必須放慢腳步，不僅要考慮它的利潤，還要考慮這項技術對社會的影響。

亞馬遜網絡服務部發言人回應說：“儘管對圖像和視頻分析存在爭議，我們仍然對成為世界範圍內公共服務部門和執法部門的驅動力感到興奮。”她說，美國公民自由聯盟的測試是對系統的置信度閾值（找到匹配的可能性）設置不夠高。她補充說，對於熱狗、椅子、動物或其他社交媒體使用的照片來說，80%的置信度也許是可以接受的閾值，但對於執法部門使用人臉識別技術時，我們會引導客戶設置至少95%或更高的閾值。對此，美國公民自由聯盟回答說，亞馬遜將Rekognition的置信度默認閾值設置為80%，該公司的網站也建議在用戶驗證中給80%的置信度打分。

今年4月，人工智能專家們敦促亞馬遜公司在相關法律和保障措施出台之前停止向執法部門銷售人臉識別軟件。人工智能合作組織（包括Facebook、谷歌、亞馬遜、蘋果、微軟、IBM和其他學術研究人員）表示，執法部門不應使用人臉識別等人工智能算法來決定是否將人監禁。微軟總裁Brad Smith呼籲對人臉識別進行監管，稱科技公司無法在這個問題上自律，尤其是如果政府將這項技術用於各種目的。至於美國公民自由聯盟關於人臉識別膚色偏見的問題，這是對這項技術的常見抨擊。微軟和IBM最近宣布，他們正在解決這一問題。

亞馬遜公司的人臉識別軟件Rekognition也面臨來自內部的阻力。去年6月，一批員工給首席執行官Bezos寫了一封信，敦促他停止向執法部門銷售人臉識別產品。亞馬遜的股東們也對Bezos說：“給政府提供這樣的監視設施技術不僅可能對全國客戶和其他利益相關者構成隱私威脅，也可能提高我們公司的實質性風險，負面影響我們公司的股票估值和為股東增加金融風險。”

舊金山市政府監管委員會（Board of Supervisors committee）成員Aaron Peskin今年1月份提出了《停止秘密監視條例Stop Secret Surveillance Ordinance》，規定任何部門獲取、保留、訪問或使用任何人臉識別技術或從這些技術中獲取的信息都是非法的。該提案稱，人臉識別技術危害公民權利和公民自由的負面影響大大超過了它所宣稱的各種好處，而且該技術將加劇種族不平等，威脅我們在沒有政府持續監控的情況下生活的能力。這個條例還要求在用公共資金購買任何監控技術（包括車牌識別器、收費識別器、閉路攝像機、佩戴式攝像頭以及用於預測犯罪活動的生物識別技術和軟件）之前必須得到監管委員會的批准。

灣區的其它縣市，包括Santa Clara縣、Berkeley和Palo Alto市政府在購買監控技術方面也有類似的規定，但舊金山是全美國第一個禁止任何市政部門使用人臉識別的城市。奧克蘭隱私諮詢委員會（Oakland Privacy Advisory Commission）主席Brian Hofer說，去年由於一台車牌識別器誤將他開的車當作是偷來的車，他被警察用槍指着戴上手銬，事後他起訴控告Contra Costa縣警察局和San Jose警察局。他提議在有關監視技術的城市法規中加入人臉識別的禁令。奧克蘭公共安全委員會（Public Safety Committee）將審議這項提案。Hofer說，據他所知，奧克蘭警察局目前還沒有使用人臉識別技術，但是他的提案的目的是在“妖怪還沒有從瓶子里放出來”之前採取措施，防患於未然。

與此同時，灣區有一些執法機構，包括Santa Cruz市政府和加州大學Berkeley分校一直在使用預測警務技術（predictive-policing technology），採用生物識別技術預測哪些地區可能會出現犯罪活動，以便提前在那些地區加強巡邏。Mountain View和Palo Alto等城市的警察局和其它機構曾經嘗試了這種技術，但最後決定不再繼續使用。

記者 湯毅堅