創(chuàng)新下一代監(jiān)控技術(shù)

這些方法的最終結(jié)果是，導(dǎo)致我們現(xiàn)在擁有的監(jiān)控?cái)z像頭可能由于多種原因而不起作用，但它們已經(jīng)成為公共監(jiān)控的一個(gè)組成部分，而且在更大的一些場所，如公司、商店等，也成為監(jiān)控的一部分。在一個(gè)比較復(fù)雜的且需要人進(jìn)入的環(huán)境中，人們往往希望在已有的基礎(chǔ)上找到一個(gè)快速、廉價(jià)的解決方案，因?yàn)檫@樣就只需增加附加功能就能達(dá)到想要的效果。這就是面部識別開始被認(rèn)為是萬靈藥的原因，成為原有監(jiān)視設(shè)備基礎(chǔ)設(shè)施的“附加組件”。

大眾傳媒對這一概念也有貢獻(xiàn)。在科幻小說中，人臉識別技術(shù)能發(fā)揮自己的作用。電影贊美偵探和警察，他們通過面部識別捕捉壞人來拯救人類。但這不是現(xiàn)實(shí)，因?yàn)榭苹眯≌f是照本宣科的，它的情節(jié)和角色在任何一個(gè)相互依賴的社會(huì)中都無法發(fā)揮作用，因?yàn)楝F(xiàn)實(shí)社會(huì)有著有各式各樣的信仰和問題。魅力無窮的大預(yù)算科幻電影，其運(yùn)用的炫酷科技手段吸引了技術(shù)專家和市政當(dāng)局的注意，因?yàn)榍罢呦胍�利用小說來建立技術(shù)的模版；而后者在與財(cái)政赤字做斗爭的同時(shí)，能看到最新最好的技術(shù)是成功和地位的象征。技術(shù)人員可能并不經(jīng)常關(guān)心或熟悉他們所構(gòu)建的東西將如何影響社會(huì)。與此同時(shí)，一些市政當(dāng)局似乎要么掩蓋新技術(shù)的潛在成果和影響，繼續(xù)為科技公司提供一個(gè)免費(fèi)的測試平臺，要么誤解了這些技術(shù)將給城鎮(zhèn)帶來怎樣的變化。

從本質(zhì)上講，面部識別提供了一個(gè)偉大的承諾，可以像在電影中那樣，輕松地識別和抓住壞人，而不需要建立任何人際關(guān)系和了解社區(qū)中人們干的“臟活”。對警察來說，使用軟件要比與潛在的危險(xiǎn)罪犯互動(dòng)安全得多，或者冒險(xiǎn)與人接觸，卻發(fā)現(xiàn)他們實(shí)際上根本不是罪犯。通過這種方式，由監(jiān)控?cái)z像頭組成的社會(huì)技術(shù)框架（現(xiàn)在可能包括面部識別）開始被用作社區(qū)知識和行為的代表。

但是，這些數(shù)據(jù)并不能準(zhǔn)確地替代社區(qū)知識，因?yàn)樗�可能被誤解和誤用。這項(xiàng)技術(shù)并不是對所有人都平等、公平地適用，尤其是對那些非白人和跨性別的人來說。麻省理工學(xué)院（MIT）去年的一項(xiàng)研究發(fā)現(xiàn)，三種常見的面部分析系統(tǒng)顯示，淺膚色男性的錯(cuò)誤率為0．8％，而深膚色女性的錯(cuò)誤率為34．7％，尤其是在執(zhí)法場景中，找錯(cuò)人帶來的風(fēng)險(xiǎn)更加嚴(yán)重。

從面部識別到側(cè)寫

人臉識別軟件是對監(jiān)控?cái)z像頭的一種創(chuàng)新，它被用來解決一個(gè)社會(huì)問題。但是只有人，而不是技術(shù)，才能解決社會(huì)問題。然而，人們可能不得不應(yīng)用技術(shù)來解決這些問題，而這正是我們陷入困境的癥結(jié)所在：什么技術(shù)是合適的，什么不是，我們使用什么工具，就像Dr． Chowdhury和其他人所要求的那樣，來構(gòu)建一個(gè)“安全和健康的社會(huì)”？

廣泛使用價(jià)格低廉、沒有監(jiān)管和極具透明的人臉識別工具容易令人們感到不安。此外，目前還不清楚人手短缺、預(yù)算緊張或缺乏技術(shù)經(jīng)驗(yàn)的警察部門是否會(huì)遵守面部識別軟件供應(yīng)商制定的自愿規(guī)則。

一旦像亞馬遜這樣的公司的面部識別軟件得到廣泛應(yīng)用——我們是這些異類實(shí)驗(yàn)的對象——下一個(gè)技術(shù)進(jìn)步應(yīng)用可能會(huì)被引進(jìn)：人工智能通過利用面部識別得出關(guān)于我們和我們的行為的結(jié)論。這就是目前中國正在發(fā)生的事情，人工智能和人臉識別正被用于監(jiān)視1100萬維吾爾族（一個(gè)穆斯林少數(shù)民族）。

《紐約時(shí)報(bào)》最近報(bào)道稱：“這種人臉識別技術(shù)被整合到中國迅速擴(kuò)張的監(jiān)控?cái)z像頭網(wǎng)絡(luò)中，只根據(jù)維吾爾人的外貌來尋找他們，并記錄他們的行蹤，以便進(jìn)行搜索和審查。”“這種做法使中國成為應(yīng)用下一代技術(shù)觀察其人民的先驅(qū)，可能會(huì)開啟一個(gè)自動(dòng)化種族主義的新時(shí)代�！�

中國有關(guān)部門和企業(yè)正在利用該技術(shù)在大型公共活動(dòng)中抓捕犯罪嫌疑人，以及在更日常的情況下使用該技術(shù)，例如在機(jī)場和酒店認(rèn)出尋找的人，鎖定在人行橫道上羞辱亂穿馬路的人，找準(zhǔn)用戶做針對性廣告。人臉識別技術(shù)也正在美國各地蔓延，從用于邊境安全到制作冰箱貨架上的個(gè)性化廣告。紐約一家房地產(chǎn)集團(tuán)最近試圖為其公寓大樓內(nèi)的每個(gè)公寓單元?jiǎng)?chuàng)建基于人臉識別的鑰匙。

也許我們正處在一些技術(shù)的尖端，這些技術(shù)將以一種對我們來說是全新的方式回歸，既挑戰(zhàn)我們的底線，又考驗(yàn)我們的社會(huì)規(guī)范。例如，一旦我們走到哪里都被“認(rèn)識”，那么，就像其他跟蹤和識別我們的數(shù)據(jù)所做的那樣，我們可以不斷地被“剖析”。當(dāng)我們被“剖析”時(shí)，人們認(rèn)為我們的行為可以通過算法預(yù)測。一旦我們的行為可以被政府和營銷人員“預(yù)測”出來，那么我們可能會(huì)在算法面前失去我們的主動(dòng)權(quán)，算法生成的“可信數(shù)據(jù)”要遠(yuǎn)遠(yuǎn)多于從我們的賬戶信息獲取的數(shù)據(jù)信息。

當(dāng)所有各方都能創(chuàng)造一個(gè)他們自己可接受的結(jié)果時(shí)，就能實(shí)現(xiàn)合作。雖然人們有時(shí)可能會(huì)放棄自己的代理權(quán)來得到他們想要的結(jié)果，但這種做法并不常見。這就是奴役。沒有代理權(quán)，沒有能力選擇自己的形象或銷售方式，破壞了合作的基礎(chǔ)。為了“方便”而利用面部識別的人工智能應(yīng)用，在圍繞監(jiān)控技術(shù)的技術(shù)“創(chuàng)新”中，變得更加危險(xiǎn)，因?yàn)槲覀儽黄葘⒃絹碓蕉嗟男畔⒈┞冻鰜怼?/p>

徹底禁止使用該軟件的努力面臨阻力。國會(huì)議員和微軟等公司大多在推動(dòng)相關(guān)規(guī)定，其中包括強(qiáng)制要求在公共場合使用面部識別工具時(shí)，需使用清晰的標(biāo)識來提醒人們。但這種做法表示，除了主動(dòng)離開該區(qū)域，否則你沒有辦法選擇退出監(jiān)視，標(biāo)識給人們提供了不合理的選擇。如果沒有辦法選擇退出這個(gè)潛在的強(qiáng)大監(jiān)控系統(tǒng)，人類就會(huì)開始成為奴隸。這就是為什么能夠限制面部識別的嚴(yán)肅的、可執(zhí)行的法律是至關(guān)重要的，也是為什么在我們的技術(shù)發(fā)展到這個(gè)關(guān)鍵時(shí)刻，這種討論顯得如此重要的原因。

一旦面部識別和其他人工智能變得普及，在缺乏嚴(yán)格的可強(qiáng)制執(zhí)行的法律來保護(hù)這項(xiàng)技術(shù)的情況下，我們將不受保護(hù)；也就意味著，為了滿足政府和企業(yè)的目的，我們的身份信息和地理位置信息將被利用。這就是貪婪、利潤和權(quán)力作為激勵(lì)因素發(fā)揮作用的地方。

如果我們想要識別出危險(xiǎn)分子，也許他們就是那些希望我們喪失自己的面孔、身份和異質(zhì)性的實(shí)體——不僅僅是為了讓他們獲利，而是作為一種自動(dòng)分類和社會(huì)控制的手段。這就是為什么面部識別技術(shù)會(huì)成為我們重點(diǎn)討論的對象，也是為什么越來越多的人希望在我們的社會(huì)中禁止使用它的原因。