前段時間，美國紐約州通過了一項針對人臉識別等生物識別技術的禁令。該禁令要求，在2022年前，美國紐約州的學校不得使用人臉識別等生物識別技術。

這則禁令的背景，是去年發(fā)生的一場有關校園應用的爭議。

2019年5月，紐約州西部城市洛克波特市開始在全市校園部署人臉識別設備，主要目的是增強學校的安全性。洛克波特市學區(qū)負責人米歇爾·布拉德利(Michelle Bradley)在接受外媒采訪時說，“這是使學生、員工和訪客更加安全的又一措施”。

洛克波特市官方信息顯示，人臉識別系統(tǒng)將識別“學校不允許出現(xiàn)的人員”，并在識別到異常情況時發(fā)出警報提醒。系統(tǒng)重點識別的人員包括二級或三級性犯罪者、被停職的學校員工、法院判決未經(jīng)批準禁止進入學校的人員、執(zhí)法部門信息顯示會構成威脅的人員，等等。

由于隱私等問題的存在，人臉識別應用在美國向來爭議頗多。因此，洛克波特市也在紐約州教育廳等部門的監(jiān)督下反復修改了系統(tǒng)設置，最終決定只讓系統(tǒng)記錄人員比對的情況，不收集或存儲任何個人信息，學生的照片等個人信息也不會被添加到系統(tǒng)中。根據(jù)當?shù)胤梢?，監(jiān)控視頻保存60天后將從服務器上刪除。

2020年1月，這一系統(tǒng)在洛克波特市正式投入運營。然而，還是有一些民間團體認為人臉識別系統(tǒng)太有侵入性，不該在學校這樣的場所部署。萬一系統(tǒng)對學生出現(xiàn)了誤報，更是會給學生帶來種種傷害，比如影響學生上課、給學生扣上莫須有的犯罪記錄。

今年6月，紐約公民自由聯(lián)盟提起訴訟，要求洛克波特市停用系統(tǒng)。

這一起訴得到了當?shù)夭糠止賳T的支持。當?shù)貢r間6月23日，紐約州議會眾議員莫妮卡·華萊士(Monica Wallace)和參議員布萊恩·卡瓦納(Brian Kavanagh)發(fā)表聯(lián)合聲明，重申了對隱私問題的擔憂：“我們擔心該技術的使用可能侵犯學生、教職員工和訪客的隱私權及其他公民權利。這是一種無效的維護校園安全的形式，并且可能無法安全地存儲學生數(shù)據(jù)。 ”

此前，美國國家標準技術研究院曾發(fā)現(xiàn)，美國目前主要的人臉識別算法在識別非裔、亞裔美國人時，錯誤率遠超白人。華萊士和卡瓦納據(jù)此指出，人臉識別的準確性也令人擔心。在年輕的學生因為這種侵入性的監(jiān)控形式受到傷害之前，紐約州教育廳應該仔細考慮相關問題，并就人臉識別應用制定詳細的指導規(guī)則。

紐約州參眾兩院剛剛投票通過的新禁令，正是由華萊士提出。接下來，禁令將被提交給紐約州州長。如果紐約州州長也簽字通過，禁令就將成為正式的法律。

據(jù)南都·AI前哨站梳理，去年以來，美國的舊金山、薩默維爾、奧克蘭、波士頓等多個城市通過了人臉識別禁令，但這些城市主要是禁止政府部門使用人臉識別技術。如果禁令成為正式法律，那它也將是全美國首個專門針對學校人臉識別應用的法律。

從歐美此前的執(zhí)法案例看，涉及到學校和未成年人個人信息的科技應用往往受到會更多的限制。例如在2019年，瑞典一所高中使用人臉識別系統(tǒng)來記錄學生的出勤率，瑞典數(shù)據(jù)監(jiān)管機構調(diào)查認為此舉侵犯學生的隱私，便依據(jù)歐盟《通用數(shù)據(jù)保護條例》(GDPR)處罰了該高中20萬瑞典克朗(約合人民幣14.8萬元)。