AI可解釋性的研究

正如前文所示，該系統(tǒng)通過掃描器網(wǎng)絡(luò)、診斷器網(wǎng)絡(luò)、聚合器網(wǎng)絡(luò)，對(duì)AI輔助診斷的可解釋性進(jìn)行了探索，最終會(huì)產(chǎn)生說明文字同ROI同步輸出。

可解釋性圖示

如上圖，a、b顯示的為全片腫瘤檢測(cè)結(jié)果，c、d、e則為生成的“特征感知注意圖”，對(duì)診斷細(xì)節(jié)進(jìn)行描述。我們可以看到，針對(duì)每一張切片，系統(tǒng)在判讀后，除了常規(guī)地將ROI區(qū)域框選出來，還針對(duì)不同區(qū)域生成了解釋性文字。

其中，不同特征的文字被使用不同顏色加以區(qū)分，而該描述所對(duì)應(yīng)的ROI，都被加以相同顏色的框表示，便于病理醫(yī)生查看時(shí)一一對(duì)應(yīng)。

該系統(tǒng)描述了觀察到的一定數(shù)量的細(xì)胞特征以及特征感知注意圖，注意圖對(duì)網(wǎng)絡(luò)觀察到的視覺信息的類型給出了強(qiáng)有力的解釋（圖c－e）。實(shí)際上，注意圖包含了框選區(qū)域中每一個(gè)像素的權(quán)重，用以確定不同像素對(duì)于給定的特征觀察的重要程度，但輸出的內(nèi)容卻并不是令人費(fèi)解的數(shù)值，而是類似于病理醫(yī)生的判讀依據(jù)。

這樣專業(yè)化的文字表述加強(qiáng)了AI分析病理切片的可信度，當(dāng)人類醫(yī)生與機(jī)器診斷結(jié)果不符時(shí)，醫(yī)生們也能夠更容易地對(duì)比自己與機(jī)器的診斷意見到底在何處有所區(qū)別，了解產(chǎn)生區(qū)別的原因，在很大程度上能夠提高診斷準(zhǔn)確度。

系統(tǒng)網(wǎng)絡(luò)組件的評(píng)估

在算法結(jié)構(gòu)方面，算法的各部分性能在完成后均被予以驗(yàn)證。

首先，研究人員評(píng)估腫瘤和非腫瘤圖像的s－net的腫瘤檢測(cè)召回率（非腫瘤圖像表示內(nèi)部沒有突出腫瘤的裁剪的滑動(dòng)組織區(qū)域）。s－net達(dá)到94％的高真陽性（檢測(cè)到的腫瘤像素?cái)?shù)／總注釋腫瘤像素）并同時(shí)維持95．3％的陰性召回率。

其次，研究人員使用了兩個(gè)評(píng)估指標(biāo)驗(yàn)證了生成的診斷描述的質(zhì)量：雙語評(píng)估Understudy（BLEU）和基于共識(shí)的圖像描述評(píng)估（CIDEr）。而這些驗(yàn)證結(jié)果顯示，該算法已經(jīng)具備了一定的優(yōu)越性。

此項(xiàng)實(shí)驗(yàn)突破了AI病理三類證審批的關(guān)鍵難點(diǎn)

囿于其決策流程的不可解釋性，“深度學(xué)習(xí)”一直被遵循循證醫(yī)學(xué)指南的臨床醫(yī)生拒之門外，成為了制約醫(yī)學(xué)影像人工智能發(fā)展，特別是獲得三類證審批的關(guān)鍵。

而本次實(shí)驗(yàn)則為人工智能的審批提供新的思路：雖然現(xiàn)階段的人工智能仍不具備推理能力，但我們能將醫(yī)生的推理步驟模塊化，從而模擬推理的過程。此外，本次實(shí)驗(yàn)中的文字匹配過程是按照WHO標(biāo)準(zhǔn)并具有嚴(yán)格依據(jù)的，這與許多基于多樣本深度學(xué)習(xí)生成的勾畫不同，實(shí)驗(yàn)的每一個(gè)步驟都可由AI提供決策依據(jù)，并非單純概率云下的黑箱運(yùn)算。

楊林教授現(xiàn)任職于迪英加CEO，這是迪英加科技在三類證申報(bào)過程中的一步堅(jiān)實(shí)工作，用于解決CFDA三類證申報(bào)中廣泛要求的可解釋行提供了關(guān)鍵的核心技術(shù)解決方案。

在采訪過程之中，楊林教授也對(duì)本次實(shí)驗(yàn)的不足之處進(jìn)行了總結(jié)。首先，由于時(shí)間的原因，樣本的選擇檢測(cè)本身具有一定的封閉性，隨著持續(xù)數(shù)據(jù)收集的廣度和深度的提升，論文中的工作也一定會(huì)有改進(jìn)之處。

其次，推理流程的劃分是否足夠細(xì)致，以及推理過程是否存在偶然性可以進(jìn)一步論證。

最后，這項(xiàng)研究沒有控制參與病理醫(yī)師的疲勞程度，這可能是影響AUC的獨(dú)立因素，需要進(jìn)一步研究這一系統(tǒng)對(duì)不同疲勞水平醫(yī)生的有效性。

總的來說，無論是人工智能技術(shù)，還是本次實(shí)驗(yàn)的病理本身，我們都能看到很多突破的可能。目前的人工智能影像產(chǎn)品仍聚集于放射科，當(dāng)他們嘗試進(jìn)一步進(jìn)入臨床相關(guān)科室時(shí)，這項(xiàng)技術(shù)同樣需要新的標(biāo)準(zhǔn)對(duì)其進(jìn)行驗(yàn)證。

此外，AI于病理的運(yùn)用也遠(yuǎn)不局限于切片識(shí)別，機(jī)體組織樣本中內(nèi)部特征的量化分析與臨床評(píng)價(jià)；細(xì)胞和動(dòng)物組織樣本的量化分析與藥效關(guān)系；細(xì)胞識(shí)別與分選；特殊染色結(jié)果的量化分析和臨床治療與預(yù)后也均有AI介入研究。病理于AI是一片看不見的深海。

文 ｜ 趙泓維

網(wǎng)站、公眾號(hào)等轉(zhuǎn)載請(qǐng)聯(lián)系授權(quán)