在Element AI 一項(xiàng)針對(duì)大型的零售商或者產(chǎn)品方使用的人工智能系統(tǒng)中，能夠非常有效的找出市面上已經(jīng)存在的山寨產(chǎn)品，但是這個(gè)系統(tǒng)的工作原理卻是在一個(gè)黑匣子里面，它所做出的判斷非常難建立法理上的依據(jù)，這讓我們的使用方很難基于這套系統(tǒng)的結(jié)果對(duì)侵權(quán)的個(gè)人或企業(yè)采取法律行為。所以我們做的是，在這個(gè)人工智能系統(tǒng)的開發(fā)中，我們加入了一個(gè)熱能成像的視圖，去解釋山寨產(chǎn)品是如何在使用的過程當(dāng)中侵犯到正規(guī)品牌的。而這一個(gè)可解釋性的設(shè)計(jì)，為我們的客戶提供了一個(gè)可以對(duì)侵權(quán)個(gè)人或企業(yè)采取法律行動(dòng)的依據(jù)。我們之所以可以在我們的系統(tǒng)中設(shè)計(jì)出這樣的一個(gè)可解釋性，是因?yàn)槲覀儗?duì)系統(tǒng)、對(duì)用戶、對(duì)使用場(chǎng)景，以及對(duì)監(jiān)管部門的需求的深刻了解。

人工智能的系統(tǒng)中，它所有的參數(shù)和設(shè)置都是動(dòng)態(tài)的，都是根據(jù)各種各樣的反饋系統(tǒng)自我調(diào)試和演化的。而且在這個(gè)過程中，人工智能系統(tǒng)的使用者也在與人工智能系統(tǒng)產(chǎn)生著互動(dòng)和影響，我們不僅僅需要能夠解釋基本人工智能模型的能力，我們而且需要能夠解釋復(fù)雜人工智能模型的能力。

總結(jié)：可解釋性人工智能的挑戰(zhàn)和未來

人工智能的可解釋性依然面臨巨大的挑戰(zhàn)

1、人工智能的模型通常非常的復(fù)雜，非常的龐大；

2、人工智能的可解釋性還是一個(gè)相當(dāng)早期的領(lǐng)域，我們并沒有非常成熟的，或是廣為接受的標(biāo)準(zhǔn)去判斷可解釋性的好壞。這就造成我們無法判斷我們是否在提高可解釋性，我們也無法非常準(zhǔn)確的判斷解釋方法方式的優(yōu)劣；3、目前我們所開發(fā)的可解釋性，對(duì)于大多數(shù)的使用者來說并不能用于指導(dǎo)他們的行為或者決策。

未來的可知解釋性必然是完整的

1、我們可以把系統(tǒng)各個(gè)組成部分中的，可解釋性集中在一起分析整理，從而得出通過一個(gè)培訓(xùn)過的機(jī)器識(shí)別模型，把微觀層面上的可解釋性，轉(zhuǎn)化成為宏觀層面上的可解釋性，是我們覺得一個(gè)增加整體系統(tǒng)可解釋性的有效方法；

2、在人工智能系統(tǒng)開發(fā)的早期，就邀請(qǐng)政策法規(guī)的制定機(jī)構(gòu)或相關(guān)人員參與。這樣我們?cè)谙到y(tǒng)中可以更方便的加入可解釋性，這個(gè)不但對(duì)之后的業(yè)務(wù)會(huì)有很大的幫助，也是一個(gè)非常有效的方式降低相關(guān)的風(fēng)險(xiǎn)；

3、通過為已經(jīng)有的人工智能系統(tǒng)，添加一套可解釋性的設(shè)計(jì)，可以大大提高用戶對(duì)系統(tǒng)的理解程度。

有趣的問題探討

在新冠疫情之下，急需在短時(shí)間內(nèi)研發(fā)出藥物那人工智能的可解釋性還是必須的嗎？

就拿傳統(tǒng)的藥物開發(fā)來說，一個(gè)新藥的上市必須經(jīng)過3個(gè)階段的臨床實(shí)驗(yàn)和數(shù)據(jù)的收集。有了這些數(shù)據(jù)，一個(gè)新藥才能得到監(jiān)管部門的備案，才能上市。在某種意義上說，這些流程和數(shù)據(jù)就是新藥開發(fā)過程中所必須有的可解釋性。因?yàn)槲覀儗��?huì)在人身上使用這些新藥，而人體是一個(gè)非常非常復(fù)雜的系統(tǒng)，我們必須能夠充分地了解在各種情況下人體對(duì)新藥的反應(yīng)。

然而面對(duì)新冠疫情，我們急需疫苗和治療方案，作為一個(gè)是整體，我們的社會(huì)或許可以在這個(gè)過程中權(quán)衡利弊，在數(shù)據(jù)尚未完備對(duì)情況下，在一定可承受的風(fēng)險(xiǎn)范圍內(nèi)，加速新藥或者疫苗的上市。在人工智能的領(lǐng)域，可解釋性在某些方面就好像一個(gè)風(fēng)險(xiǎn)控制的工具，根據(jù)具體的應(yīng)用場(chǎng)景，有時(shí)候我們也需要權(quán)衡利弊，有時(shí)候承擔(dān)多一些風(fēng)險(xiǎn)，能夠更快或者更好的整體回報(bào)。

寫在最后：

人工智能的可解釋性，一定是現(xiàn)在也是未來一直熱門探討和研究的課題，我們將共同期待人工智能在整個(gè)社會(huì)結(jié)構(gòu)和人類倫理中，得以更全面的發(fā)展。

如果你也感興趣，歡迎跟我們探討～