AI 傻嗎？這個(gè)問題很難回答。

通常情況下，它都是非常聰明的。但是，利用深度神經(jīng)網(wǎng)絡(luò)為輸入（圖像或語音）進(jìn)行分類的 AI 卻總會(huì)出現(xiàn)一些“智障”操作，犯的錯(cuò)誤也可以低級(jí)到讓人驚嘆。這種情況就是科研人員經(jīng)常提到的 AI 的脆弱性。

換一種更學(xué)術(shù)的方式解釋 AI 的脆弱性：因?yàn)?AI 目前仍然非常缺乏像人類一樣的對(duì)現(xiàn)實(shí)世界復(fù)雜性的理解能力，而導(dǎo)致了它有時(shí)會(huì)以意想不到的方式迅速崩潰。

下面讓我們用一個(gè)最近發(fā)生的有趣的案例，來真切的感受一下 AI 的脆弱性。

足球與光頭，傻傻分不清楚

由于新冠疫情的大流行，廣大球迷們不能到現(xiàn)場(chǎng)去觀看比賽，為了給球迷們帶來更好的觀看體驗(yàn)，蘇格蘭的因弗內(nèi)斯足球俱樂部啟用了 AI 攝像師。AI 攝像師可以在比賽直播時(shí)追蹤足球的位置，確�？梢詾橛^眾持續(xù)提供比賽的最佳視角

但是，在最近的一場(chǎng)比賽直播中，AI 攝像師被一名裁判的光頭迷惑。它無法正確判斷哪個(gè)是真正的足球，多次將自己的目光焦距在裁判的光頭上，甚至給了特寫鏡頭，導(dǎo)致觀眾無法正常觀看比賽。

圖 ｜ AI 攝像師：在這里在這里。

圖 ｜ AI 攝像師：我的天啊，寶貝，你怎么跑的這么快。

圖 ｜ AI 攝像師：回手，掏！原來你在這兒。

圖 ｜ AI 攝像師：上天了。哎？剛才那個(gè)追錯(cuò)了？

圖 ｜ AI 攝像師：是你？不，是你。啊不！到底是誰！

鐵證如山，AI 攝像師確實(shí)是足球與光頭傻傻分不清楚。比賽期間，情況一度非常糟糕，以至于比賽的解說員不得不為攝像頭的故障道歉。甚至有球迷表示，因?yàn)?AI 的不專注，他錯(cuò)過了觀看自己喜愛球隊(duì)進(jìn)球的精彩時(shí)刻。

比賽結(jié)束后，該俱樂部使用的 AI 攝像頭技術(shù)公司 Pixellot 發(fā)表聲明稱，這個(gè)問題是因?yàn)檫@名裁判的頭部和足球之間的視覺相似性。而且本場(chǎng)比賽的用球是黃色的，這進(jìn)一步讓 AI 陷入混亂。

該公司發(fā)言人說：＂上個(gè)月，我們?cè)跊]有任何工作人員在現(xiàn)場(chǎng)的情況下，完成了 10．5 萬小時(shí)的直播。這大約是 5 萬場(chǎng)比賽。只有這場(chǎng)確實(shí)出現(xiàn)了追蹤問題。現(xiàn)在該情況已經(jīng)被解決。＂

AI 脆弱性的危害

這是一個(gè)展示 AI 脆弱性的有趣案例。人類是不會(huì)出現(xiàn)這種錯(cuò)誤，但一個(gè)對(duì)足球和人類構(gòu)造都理解有限的機(jī)器學(xué)習(xí)系統(tǒng)來說，卻很容易犯這種錯(cuò)誤。

這個(gè)例子很特殊，因?yàn)樗�讓人們感覺好笑，并沒有產(chǎn)生太大的危害。但事實(shí)上，這類錯(cuò)誤可能發(fā)生在任何 AI 系統(tǒng)上。產(chǎn)生錯(cuò)誤的原因是：當(dāng)環(huán)境數(shù)據(jù)與智能系統(tǒng)訓(xùn)練的環(huán)境大相徑庭，或者實(shí)際的應(yīng)用場(chǎng)景發(fā)生變化，或者這種變化超出機(jī)器可理解的范圍時(shí)，AI 可能就立刻失去判斷能力。

這種錯(cuò)誤與自動(dòng)駕駛汽車所犯的一些導(dǎo)致致命車禍的錯(cuò)誤是類似的相似，因?yàn)樗鼈兊囊曈X識(shí)別系統(tǒng)都不能準(zhǔn)確地判斷物體。在足球比賽上無傷大雅，但是在自動(dòng)駕駛汽車上確是人命關(guān)天。

圖 ｜ 特斯拉的 ＂自動(dòng)駕駛 ＂軟件未能識(shí)別前方障礙導(dǎo)致駕駛員死亡

此外，AI 的這種弱點(diǎn)也會(huì)伴隨著很大的網(wǎng)絡(luò)安全問題。如果攻擊者在源數(shù)據(jù)上增加人類難以通過感官辨識(shí)到的細(xì)微改變，而這些改變卻可以讓機(jī)器學(xué)習(xí)模型接受并做出錯(cuò)誤的分類決定，那么攻擊者就可以“趁虛而入”。

美國智庫“新美國安全中心”發(fā)布的《人工智能：每個(gè)決策者需要知道什么》報(bào)告顯示，人工智能的一些弱點(diǎn)可能對(duì)國家安全等領(lǐng)域造成巨大影響。

如何讓 AI“更聰明”

AI 的發(fā)展勢(shì)不可擋，我們不能否認(rèn) AI 為人類做出的貢獻(xiàn)。尤其是在全球疫情大流行的狀態(tài)下，當(dāng)人與人的交往受到限制時(shí)，AI 發(fā)揮了它前所未有的作用。

科學(xué)技術(shù)的發(fā)展從來不是一帆風(fēng)順的，AI 技術(shù)亦是如此。存在弱點(diǎn)，受到質(zhì)疑是必然要經(jīng)歷的過程。因此我們需要的是面對(duì)它、接受它、解決它。

對(duì)于 AI 的脆弱性，有專家提出過解決思路。一個(gè)解決思路是給 AI 更多數(shù)據(jù)，讓 AI 反復(fù)暴露在有問題的例子下，不斷地糾正它的錯(cuò)誤。在這種“對(duì)抗訓(xùn)練”的方式下，其中一個(gè)網(wǎng)絡(luò)會(huì)學(xué)習(xí)識(shí)別物體，另一個(gè)網(wǎng)絡(luò)則嘗試改變前一個(gè)網(wǎng)絡(luò)的輸入來使它出錯(cuò)。這樣就能把對(duì)抗樣本變成深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練數(shù)據(jù)的一部分。

而另一個(gè)解決思路是減少 AI 學(xué)習(xí)的數(shù)據(jù)，讓其學(xué)會(huì)學(xué)習(xí)。當(dāng)訓(xùn)練一個(gè)新的任務(wù)時(shí)，通過復(fù)用部分或整體的預(yù)訓(xùn)練網(wǎng)絡(luò)來作為訓(xùn)練的起始點(diǎn)，從而實(shí)現(xiàn)遷移學(xué)習(xí)，甚至進(jìn)一步學(xué)會(huì)如何學(xué)習(xí)。

目前來說，雖然科學(xué)家們意識(shí)到 AI 的脆弱性，但沒有人知道如何讓它變得更好，所有都還停留在思路構(gòu)建和嘗試中。但是 AI 正在飛速發(fā)展，通過巨量的計(jì)算資源訓(xùn)練神經(jīng)網(wǎng)絡(luò)，在各行各業(yè)都交出了兩眼的成績單。因此我們也有理由相信，未來 AI 可以被進(jìn)一步完善，變得更加“聰明”。