AI攝像機(jī):足球與光頭,傻傻分不清楚
AI 傻嗎?這個(gè)問題很難回答。
通常情況下,它都是非常聰明的。但是,利用深度神經(jīng)網(wǎng)絡(luò)為輸入(圖像或語音)進(jìn)行分類的 AI 卻總會(huì)出現(xiàn)一些“智障”操作,犯的錯(cuò)誤也可以低級(jí)到讓人驚嘆。這種情況就是科研人員經(jīng)常提到的 AI 的脆弱性。
換一種更學(xué)術(shù)的方式解釋 AI 的脆弱性:因?yàn)?AI 目前仍然非常缺乏像人類一樣的對(duì)現(xiàn)實(shí)世界復(fù)雜性的理解能力,而導(dǎo)致了它有時(shí)會(huì)以意想不到的方式迅速崩潰。
下面讓我們用一個(gè)最近發(fā)生的有趣的案例,來真切的感受一下 AI 的脆弱性。
足球與光頭,傻傻分不清楚
由于新冠疫情的大流行,廣大球迷們不能到現(xiàn)場(chǎng)去觀看比賽,為了給球迷們帶來更好的觀看體驗(yàn),蘇格蘭的因弗內(nèi)斯足球俱樂部啟用了 AI 攝像師。AI 攝像師可以在比賽直播時(shí)追蹤足球的位置,確?梢詾橛^眾持續(xù)提供比賽的最佳視角
但是,在最近的一場(chǎng)比賽直播中,AI 攝像師被一名裁判的光頭迷惑。它無法正確判斷哪個(gè)是真正的足球,多次將自己的目光焦距在裁判的光頭上,甚至給了特寫鏡頭,導(dǎo)致觀眾無法正常觀看比賽。
圖 | AI 攝像師:在這里在這里。
圖 | AI 攝像師:我的天啊,寶貝,你怎么跑的這么快。
圖 | AI 攝像師:回手,掏!原來你在這兒。
圖 | AI 攝像師:上天了。哎?剛才那個(gè)追錯(cuò)了?
圖 | AI 攝像師:是你?不,是你。啊不!到底是誰!
鐵證如山,AI 攝像師確實(shí)是足球與光頭傻傻分不清楚。比賽期間,情況一度非常糟糕,以至于比賽的解說員不得不為攝像頭的故障道歉。甚至有球迷表示,因?yàn)?AI 的不專注,他錯(cuò)過了觀看自己喜愛球隊(duì)進(jìn)球的精彩時(shí)刻。
比賽結(jié)束后,該俱樂部使用的 AI 攝像頭技術(shù)公司 Pixellot 發(fā)表聲明稱,這個(gè)問題是因?yàn)檫@名裁判的頭部和足球之間的視覺相似性。而且本場(chǎng)比賽的用球是黃色的,這進(jìn)一步讓 AI 陷入混亂。
該公司發(fā)言人說:"上個(gè)月,我們?cè)跊]有任何工作人員在現(xiàn)場(chǎng)的情況下,完成了 10.5 萬小時(shí)的直播。這大約是 5 萬場(chǎng)比賽。只有這場(chǎng)確實(shí)出現(xiàn)了追蹤問題。現(xiàn)在該情況已經(jīng)被解決。"
AI 脆弱性的危害
這是一個(gè)展示 AI 脆弱性的有趣案例。人類是不會(huì)出現(xiàn)這種錯(cuò)誤,但一個(gè)對(duì)足球和人類構(gòu)造都理解有限的機(jī)器學(xué)習(xí)系統(tǒng)來說,卻很容易犯這種錯(cuò)誤。
這個(gè)例子很特殊,因?yàn)樗屓藗兏杏X好笑,并沒有產(chǎn)生太大的危害。但事實(shí)上,這類錯(cuò)誤可能發(fā)生在任何 AI 系統(tǒng)上。產(chǎn)生錯(cuò)誤的原因是:當(dāng)環(huán)境數(shù)據(jù)與智能系統(tǒng)訓(xùn)練的環(huán)境大相徑庭,或者實(shí)際的應(yīng)用場(chǎng)景發(fā)生變化,或者這種變化超出機(jī)器可理解的范圍時(shí),AI 可能就立刻失去判斷能力。
這種錯(cuò)誤與自動(dòng)駕駛汽車所犯的一些導(dǎo)致致命車禍的錯(cuò)誤是類似的相似,因?yàn)樗鼈兊囊曈X識(shí)別系統(tǒng)都不能準(zhǔn)確地判斷物體。在足球比賽上無傷大雅,但是在自動(dòng)駕駛汽車上確是人命關(guān)天。
圖 | 特斯拉的 "自動(dòng)駕駛 "軟件未能識(shí)別前方障礙導(dǎo)致駕駛員死亡
此外,AI 的這種弱點(diǎn)也會(huì)伴隨著很大的網(wǎng)絡(luò)安全問題。如果攻擊者在源數(shù)據(jù)上增加人類難以通過感官辨識(shí)到的細(xì)微改變,而這些改變卻可以讓機(jī)器學(xué)習(xí)模型接受并做出錯(cuò)誤的分類決定,那么攻擊者就可以“趁虛而入”。
美國智庫“新美國安全中心”發(fā)布的《人工智能:每個(gè)決策者需要知道什么》報(bào)告顯示,人工智能的一些弱點(diǎn)可能對(duì)國家安全等領(lǐng)域造成巨大影響。
如何讓 AI“更聰明”
AI 的發(fā)展勢(shì)不可擋,我們不能否認(rèn) AI 為人類做出的貢獻(xiàn)。尤其是在全球疫情大流行的狀態(tài)下,當(dāng)人與人的交往受到限制時(shí),AI 發(fā)揮了它前所未有的作用。
科學(xué)技術(shù)的發(fā)展從來不是一帆風(fēng)順的,AI 技術(shù)亦是如此。存在弱點(diǎn),受到質(zhì)疑是必然要經(jīng)歷的過程。因此我們需要的是面對(duì)它、接受它、解決它。
對(duì)于 AI 的脆弱性,有專家提出過解決思路。一個(gè)解決思路是給 AI 更多數(shù)據(jù),讓 AI 反復(fù)暴露在有問題的例子下,不斷地糾正它的錯(cuò)誤。在這種“對(duì)抗訓(xùn)練”的方式下,其中一個(gè)網(wǎng)絡(luò)會(huì)學(xué)習(xí)識(shí)別物體,另一個(gè)網(wǎng)絡(luò)則嘗試改變前一個(gè)網(wǎng)絡(luò)的輸入來使它出錯(cuò)。這樣就能把對(duì)抗樣本變成深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練數(shù)據(jù)的一部分。
而另一個(gè)解決思路是減少 AI 學(xué)習(xí)的數(shù)據(jù),讓其學(xué)會(huì)學(xué)習(xí)。當(dāng)訓(xùn)練一個(gè)新的任務(wù)時(shí),通過復(fù)用部分或整體的預(yù)訓(xùn)練網(wǎng)絡(luò)來作為訓(xùn)練的起始點(diǎn),從而實(shí)現(xiàn)遷移學(xué)習(xí),甚至進(jìn)一步學(xué)會(huì)如何學(xué)習(xí)。
目前來說,雖然科學(xué)家們意識(shí)到 AI 的脆弱性,但沒有人知道如何讓它變得更好,所有都還停留在思路構(gòu)建和嘗試中。但是 AI 正在飛速發(fā)展,通過巨量的計(jì)算資源訓(xùn)練神經(jīng)網(wǎng)絡(luò),在各行各業(yè)都交出了兩眼的成績單。因此我們也有理由相信,未來 AI 可以被進(jìn)一步完善,變得更加“聰明”。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長度6~500個(gè)字
最新活動(dòng)更多
-
3月27日立即報(bào)名>> 【工程師系列】汽車電子技術(shù)在線大會(huì)
-
4月30日立即下載>> 【村田汽車】汽車E/E架構(gòu)革新中,新智能座艙挑戰(zhàn)的解決方案
-
5月15-17日立即預(yù)約>> 【線下巡回】2025年STM32峰會(huì)
-
即日-5.15立即報(bào)名>>> 【在線會(huì)議】安森美Hyperlux™ ID系列引領(lǐng)iToF技術(shù)革新
-
5月15日立即下載>> 【白皮書】精確和高效地表征3000V/20A功率器件應(yīng)用指南
-
5月16日立即參評(píng) >> 【評(píng)選啟動(dòng)】維科杯·OFweek 2025(第十屆)人工智能行業(yè)年度評(píng)選
推薦專題
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達(dá)AI統(tǒng)治的開始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 4 “AI寒武紀(jì)”爆發(fā)至今,五類新物種登上歷史舞臺(tái)
- 5 國產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計(jì)算迎來商業(yè)化突破,但落地仍需時(shí)間
- 7 東陽光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開成長空間
- 8 地平線自動(dòng)駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機(jī)器人東風(fēng)翻身?