讓AI模型“說人話”的背后:AI可知論與不可知論的糾葛纏斗
現(xiàn)如今人類對于AI的應(yīng)用,就好像帶媽媽去外面的餐廳吃飯,媽媽們不光要吃,還總想弄明白這些菜是怎樣做成的。就如同神經(jīng)網(wǎng)絡(luò)越是高效,我們就越好奇黑箱里究竟發(fā)生了什么。
一直以來我們對于AI可解釋性的追求可以被分為兩層,一是從技術(shù)角度探尋神經(jīng)網(wǎng)絡(luò)黑箱的運(yùn)行機(jī)制;二是從社會(huì)角度將AI技術(shù)原理更多地解釋給各個(gè)行業(yè)。
雖然計(jì)算機(jī)科學(xué)家們一直沒有停止對神經(jīng)網(wǎng)絡(luò)黑箱突破的探索,但也有人曾經(jīng)明確地表示過,追求AI的可解釋性并不是什么好主意。
去年年底,谷歌大腦負(fù)責(zé)人Geoff Hinton就曾在接受媒體采訪時(shí)說過若干“AI不可解釋”的理由。其中很重要的一點(diǎn)是,他認(rèn)為大多數(shù)人也沒法很好地解釋自己做出一種決策的理由,如果強(qiáng)迫人類對自己的行為做出解釋,結(jié)果很可能就是讓人類說出違心的謊言。AI也是一樣,也許強(qiáng)行在AI算法中加入可解釋性,得出的結(jié)果很可能只是一種“針對于解釋需求的答案”,并不能發(fā)揮出人們所期望的作用。Geoff Hinton可以說是一位堅(jiān)定的“AI不可知論”支持者。
讓AI模型說人話
不過在幾天前,佐治亞理工學(xué)院就推出了一種讓AI用人類語言解釋自己行為的模型。整個(gè)模型的訓(xùn)練過程,建立在一款“小青蛙過馬路”的古老游戲上。游戲中玩家要操控著小青蛙前后左右躲避來往車輛,成功到達(dá)馬路對岸。
佐治亞理工學(xué)院先是收集了大量的人類樣本,讓人類實(shí)驗(yàn)員玩一遍游戲,然后再回溯整個(gè)游戲過程,解釋出自己的每一步動(dòng)作有哪些意圖。例如向左走是想躲避開后方來車,向前跳躍是因?yàn)槠〉暮扇~剛好來到自己面前。
這樣一來,可以將自然語言與游戲控制結(jié)合在一起建立映射。將這一模型遷移到AI的訓(xùn)練中,最終結(jié)果是AI在每進(jìn)行一步動(dòng)作時(shí),都會(huì)用自然語言解釋出自己的意圖。
實(shí)驗(yàn)者可以再根據(jù)四個(gè)維度對AI的行為和解釋進(jìn)行評分,這四個(gè)維度分別是“信任(認(rèn)為AI的這一步行動(dòng)是正確的)”、“人性化(認(rèn)為這是人類采取的行動(dòng))”、“理由充分(語言解釋和行為動(dòng)作有相關(guān)性)”、“可理解性(能看懂所給出的自然語言解釋)”。由此以來,就可以對AI的游戲能力和自我解釋能力進(jìn)行共同訓(xùn)練。
佐治亞理工學(xué)院研發(fā)的這一模型,為AI的可解釋性帶來不少全新角度的突破。當(dāng)AI進(jìn)行錯(cuò)誤決策時(shí),我們可以清晰地看到AI究竟錯(cuò)在哪了。比如在游戲中小青蛙被路過的汽車撞死導(dǎo)致游戲失敗,通過自然語言解釋,我們可以看到可能是AI沒有“想到”要躲避汽車而導(dǎo)致失敗,還是已經(jīng)“想到”了,卻因想法和行為沒能成功匹配而導(dǎo)致失敗。在后期進(jìn)行參數(shù)調(diào)整時(shí)可以更加有的放矢,明確地找到問題所在。
更重要的是,這一過程完全是由人類的自然語言所表達(dá)的,普通人也能看到并理解問題發(fā)生的整個(gè)過程。技術(shù)的可解釋權(quán)不再受信息科技知識基礎(chǔ)的限制,甚至可以讓更多人參與到AI訓(xùn)練的過程中來。
AI可知論,是在開技術(shù)的倒車嗎?
然而,“小青蛙模型”并不能解決Geoff Hinton提到的“AI不可知論”的很多問題。
首先,讓人類描述自身行為,然后再將語言和行為建立對應(yīng)關(guān)系的玩法適用度并不高。在小青蛙過馬路這樣簡單的游戲中,人類可以清晰明了地解釋自己的行為。但換個(gè)場景,很多時(shí)候我們就像Geoff Hinton所說的,自己也說不清自己做出決策的原因。尤其在一些場景,例如行車時(shí)是撞到馬路上的動(dòng)物還是撞到其他車輛,人們自身的選擇常常陷入道德困境而不能統(tǒng)一,和AI的決策模式有著天然的差異,就無法形成語言解釋和行為之間的映射。
另一點(diǎn)則是,讓AI“自我解釋”這種行為,投入和產(chǎn)出比究竟如何?我們知道自然語言處理是AI領(lǐng)域中一塊相當(dāng)難啃的硬骨頭,如果“AI說人話”這種模式成為標(biāo)配,結(jié)果恐怕就是讓所有領(lǐng)域的AI模型都要進(jìn)行相關(guān)的訓(xùn)練。也就是說,未來一家做智能客服產(chǎn)品的企業(yè),為了AI的可解釋性,需要招聘NLP領(lǐng)域人才;未來一家做人臉識別產(chǎn)品的企業(yè),為了AI的可解釋性,同樣也需要招聘NLP領(lǐng)域人才……NLP專業(yè)學(xué)子或成最大贏家。如此為AI產(chǎn)業(yè)帶來的巨大成本,又將怎樣被覆蓋呢?
世界在等待AI+X
在Geoff Hinton發(fā)表過那番“AI不可知論”后,有不少社會(huì)學(xué)專家進(jìn)行了相關(guān)反駁。其中劍橋智能未來中心的研究員就提出,AI在事物效率上的提升和對于社會(huì)的影響,本來就不能分開討論,Geoff Hinton這樣的科學(xué)家,如果認(rèn)為自己脫離了社會(huì)語境和政策語境,那么很可能在研究過程的一開始就走錯(cuò)了方向。
其實(shí)AI的可知論和不可知論之間,最核心的問題就是“AI出現(xiàn)了問題該怎么辦?”。不可知論者認(rèn)為,當(dāng)AI出現(xiàn)了問題,我們就應(yīng)該像算法訓(xùn)練過程一樣,在發(fā)現(xiàn)問題后立刻進(jìn)行針對性的訓(xùn)練和矯正。但可知論者認(rèn)為,如果我們等到AI在現(xiàn)實(shí)場景中出現(xiàn)問題再進(jìn)行改善,一切就已經(jīng)晚了。當(dāng)前的要?jiǎng)?wù)是讓更多社會(huì)角色參與到AI的研發(fā)過程中來,在廣泛的現(xiàn)實(shí)應(yīng)用之間就能夠從多種角度發(fā)現(xiàn)問題。
正因如此,才會(huì)出現(xiàn)佐治亞理工學(xué)院這種“讓AI說人話”的項(xiàng)目出現(xiàn)。而在AI學(xué)會(huì)說人話之前,AI與人之間、AI專家與其他專家之間,仍然會(huì)呈現(xiàn)出嚴(yán)重的溝通斷層。在相當(dāng)長的一段時(shí)間內(nèi),AI+X的跨領(lǐng)域人才都將炙手可熱。(作者:腦極體)

請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個(gè)字
最新活動(dòng)更多
-
3月27日立即報(bào)名>> 【工程師系列】汽車電子技術(shù)在線大會(huì)
-
4月30日立即下載>> 【村田汽車】汽車E/E架構(gòu)革新中,新智能座艙挑戰(zhàn)的解決方案
-
5月15-17日立即預(yù)約>> 【線下巡回】2025年STM32峰會(huì)
-
即日-5.15立即報(bào)名>>> 【在線會(huì)議】安森美Hyperlux™ ID系列引領(lǐng)iToF技術(shù)革新
-
5月15日立即下載>> 【白皮書】精確和高效地表征3000V/20A功率器件應(yīng)用指南
-
5月16日立即參評 >> 【評選啟動(dòng)】維科杯·OFweek 2025(第十屆)人工智能行業(yè)年度評選
推薦專題
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達(dá)AI統(tǒng)治的開始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 4 “AI寒武紀(jì)”爆發(fā)至今,五類新物種登上歷史舞臺
- 5 國產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計(jì)算迎來商業(yè)化突破,但落地仍需時(shí)間
- 7 東陽光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開成長空間
- 8 地平線自動(dòng)駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機(jī)器人東風(fēng)翻身?