在本文中，我們將介紹兩種方法，它們允許你獲得模型的不確定性：蒙特卡羅Dropout法（MC Dropout）和深度集成法。

它們適用于各種各樣的任務(wù)，但在本文中，我們將展示一個圖像分類的示例。它們都相對容易理解和實現(xiàn)，都可以很容易地應(yīng)用于任何現(xiàn)有的卷積神經(jīng)網(wǎng)絡(luò)架構(gòu)（例如ResNet、VGG、RegNet等）。為了幫助你快速輕松地應(yīng)用這些技術(shù)，我將提供用PyTorch編寫的這些技術(shù)的補(bǔ)充代碼。給出兩個杯子的圖像，你的預(yù)測模型有多確定？

在我們開始之前，讓我們回顧一下測量模型不確定性意味著什么，以及它如何對你的機(jī)器學(xué)習(xí)項目有用。

什么是模型不確定性？

就像人類一樣，機(jī)器學(xué)習(xí)模型可以對其預(yù)測顯示一定程度的信心。一般來說，在討論模型不確定性時，需要區(qū)分了認(rèn)知不確定性和任意不確定性。認(rèn)知不確定性是在模型參數(shù)中表示的不確定性。這種類型的不確定性可以通過額外的訓(xùn)練數(shù)據(jù)來減少，因此具有“可減少的不確定性”的替代名稱。任意不確定性捕獲環(huán)境固有的噪聲，即觀測。與認(rèn)知不確定性相比，這種類型的不確定性不能用更多的數(shù)據(jù)來減少，而是用更精確的傳感器輸出來減少。第三種類型稱為預(yù)測不確定性，即模型輸出中傳遞的不確定性。預(yù)測不確定性可以結(jié)合認(rèn)知不確定性和任意不確定性。

分類器的softmax輸出示例：

如果你自己已經(jīng)訓(xùn)練過簡單的神經(jīng)網(wǎng)絡(luò)，那么最直觀的想法就是模型的softmax輸出，即你經(jīng)�？吹降淖鳛槟Ｐ皖A(yù)測結(jié)果顯示的百分比值。

但是，使用softmax輸出作為模型不確定性的度量可能會產(chǎn)生誤導(dǎo)，并且不是很有用。這是因為softmax函數(shù)所做的只是計算模型不同激活值之間的某種“關(guān)系”。

因此，你的模型可以在其輸出層的所有神經(jīng)元中具有較低的激活值，并且仍然達(dá)到較高的softmax值。這不是我們的目標(biāo)。但值得慶幸的是，有多種更有效的技術(shù)來估計模型的不確定性，如蒙特卡羅Dropout和深度集成。

為什么模型不確定性有用？

有兩個主要方面使評估模型的不確定性變得有用：

首先是透明度。假設(shè)你正在構(gòu)建一個應(yīng)用于醫(yī)學(xué)圖像分析的機(jī)器學(xué)習(xí)模型。因此，使用你的工具的醫(yī)生在很大程度上依賴于其做出正確診斷的能力。

如果你的模型現(xiàn)在做出了一個預(yù)測，它實際上是高度不確定的，但確實將此信息傳達(dá)給了醫(yī)生，那么對患者治療的后果可能是致命的。因此，對模型的不確定性進(jìn)行估計可以在很大程度上幫助醫(yī)生判斷模型的預(yù)測。

第二是顯示出改進(jìn)的空間。沒有一種機(jī)器學(xué)習(xí)模型是完美的。因此，了解模型的不確定性和弱點實際上可以告訴你需要對模型進(jìn)行哪些改進(jìn)。

實際上，有一門完整的學(xué)科專門研究這門學(xué)科，叫做主動學(xué)習(xí)。假設(shè)你已經(jīng)用1000張圖片和10個類訓(xùn)練了你的ConvNet。但你仍然有9000多張尚未標(biāo)記的圖像。如果你現(xiàn)在使用經(jīng)過訓(xùn)練的模型來預(yù)測哪些圖像是最不確定的，則標(biāo)記這些圖像并重新訓(xùn)練模型。結(jié)果表明，與這些圖像的隨機(jī)抽樣相比，這種不確定性抽樣對模型改進(jìn)更有效。

好了，讓我們來討論這兩種技術(shù)。

技巧1：蒙特卡羅Dropout

Monte Carlo Dropout，簡稱MC Dropout，是一種在模型中使用Dropout層來創(chuàng)建模型輸出變化的技術(shù)。

應(yīng)用于神經(jīng)網(wǎng)絡(luò)的Dropout可視化。

Dropout層通常在訓(xùn)練期間用作正則化技術(shù)。在向前通過網(wǎng)絡(luò)的過程中，某些神經(jīng)元以一定的概率隨機(jī)為0。這表明，該模型具有更強(qiáng)的抗過擬合能力。通常，為了不干擾新圖像的前向傳遞，在訓(xùn)練后禁用這些Dropout層。所以，要使用這種技術(shù)，請確保在你的模型中至少實現(xiàn)一個Dropout層。這可能看起來像這樣。

但是對于MC Dropout，Dropout層仍然被激活，這意味著神經(jīng)元仍然可以隨機(jī)為0。這導(dǎo)致模型的softmax結(jié)果發(fā)生變化。要在推理或測試期間使用Dropout，請使用以下代碼：

現(xiàn)在Dropout仍然可用，因為我們已經(jīng)把所有Dropout層進(jìn)入訓(xùn)練模式！

假設(shè)我們現(xiàn)在想在一張圖像上獲得模型的不確定性。為此，我們不僅要對圖像進(jìn)行一次預(yù)測，還要進(jìn)行多次預(yù)測，并分析由多個前向傳播生成的不同輸出。我建議讓模型在一張圖像上預(yù)測3到5次。在本文末尾，我將介紹如何組合3或5個輸出。

技巧2：深層集成

第二種估計模型不確定性的技術(shù)利用了創(chuàng)建模型集合的優(yōu)勢。與其使用一個模型并預(yù)測5次，不如使用同一類型的多個模型，隨機(jī)初始化它們的權(quán)重，并根據(jù)相同的數(shù)據(jù)對它們進(jìn)行訓(xùn)練。

多個神經(jīng)網(wǎng)絡(luò)集成的可視化：

這也將在模型參數(shù)中創(chuàng)建變化。如果模型經(jīng)過穩(wěn)健訓(xùn)練，并且對圖像有把握，它將為每個前向傳播輸出類似的值。要初始化模型，最好將其保存為模型列表：

初始化后，所有模型都將在相同的訓(xùn)練數(shù)據(jù)上進(jìn)行訓(xùn)練。就像MC Dropout者一樣，3或5個模型是一個不錯的選擇。

為了獲得給定圖像上模型的不確定性，將其傳遞到集合中的每個模型中，并將其預(yù)測組合起來進(jìn)行分析。

組合來自多個前向傳播的模型輸出

假設(shè)我們?yōu)镸C Dropout定義了5次前向傳播過程，集成模型包含5個模型�，F(xiàn)在，我們預(yù)計這些輸出之間會出現(xiàn)一些變化，從而顯示出模型的不確定性。為了得到不確定性的最終值，必須首先對這些輸出進(jìn)行疊加。這段代碼是一個例子，說明了如何實現(xiàn)MCDropout：

首先，我們定義要執(zhí)行的前向傳播及保存所有預(yù)測的空列表。然后我們前向傳播5次。第一個輸出用作結(jié)果numpy數(shù)組的初始化，所有其他輸出都堆疊在頂部。

這是具有相同基本原則的深層集成代碼：

現(xiàn)在我們已經(jīng)組合了所有輸出，讓我們看看如何從這些輸出計算模型的不確定性。

獲取模型不確定性

為了簡單起見，我們將使用預(yù)測熵來估計給定圖像上模型的不確定性。預(yù)測熵的數(shù)學(xué)公式為y（標(biāo)簽）、x（輸入圖像）、Dtrain（訓(xùn)練數(shù)據(jù)）、c（類）、p（概率）。

一般來說，預(yù)測不確定性告訴你模型看到這張圖像時有多“驚訝”。如果該值較低，則模型對其預(yù)測是確定的。如果結(jié)果為高，則模型不知道圖像中的內(nèi)容。計算預(yù)測不確定度可以通過這段代碼來實現(xiàn)，這段代碼接收預(yù)測數(shù)組作為輸入。

import sys

import numpy as np

def predictive＿entropy（predictions）：

   epsilon ＝ sys．float＿info．min

   predictive＿entropy ＝ －np．sum（ np．mean（predictions， axis＝0） ＊ np

log（np．mean（predictions， axis＝0） ＋ epsilon），

           axis＝－1）

   return predictive＿entropy

方程中的ε阻止了除0，這在數(shù)學(xué)上是沒有定義的。

好吧現(xiàn)在，你有了一個圖像的不確定性值。如前所述，值越高，模型的不確定性越大。

結(jié)尾

在本文中，你已經(jīng)學(xué)會了估計模型的不確定性。這項技術(shù)也可以通過一些調(diào)整應(yīng)用于目標(biāo)檢測，它非常強(qiáng)大。

參考資料：

       原文標(biāo)題 : 測量模型不確定性的兩種簡單方法