人工智能之受限玻爾茲曼機(jī)(RBM)
前言:人工智能機(jī)器學(xué)習(xí)有關(guān)算法內(nèi)容,請參見公眾號“科技優(yōu)化生活”之前相關(guān)文章。人工智能之機(jī)器學(xué)習(xí)主要有三大類:1)分類;2)回歸;3)聚類。今天我們重點(diǎn)探討一下受限玻爾茲曼機(jī)(RBM)算法。
受限玻爾茲曼機(jī)RBM在深度學(xué)習(xí)領(lǐng)域一直有重要應(yīng)用,它是一種可用隨機(jī)神經(jīng)網(wǎng)絡(luò)來解釋的概率圖模型,由Smolensky在1986年在玻爾茲曼機(jī)BM的基礎(chǔ)上提出, 是玻爾茲曼機(jī)BM的一種特殊拓?fù)浣Y(jié)構(gòu)。
玻爾茲曼機(jī)BM原理起源于統(tǒng)計(jì)物理學(xué),是一種基于能量函數(shù)的建模方法,能夠描述變量之間的高階相互作用,玻爾茲曼機(jī)BM的學(xué)習(xí)算法較復(fù)雜,但所建模型和學(xué)習(xí)算法有比較完備的物理解釋和嚴(yán)格的數(shù)理統(tǒng)計(jì)理論作基礎(chǔ)。
RBM概念:
以Hinton和Ackley兩位學(xué)者為代表的研究人員從不同領(lǐng)域以不同動機(jī)同時(shí)提出BM學(xué)習(xí)機(jī)。BM是一種隨機(jī)遞歸神經(jīng)網(wǎng)絡(luò),可以看做是一種隨機(jī)生成的Hopfield網(wǎng)絡(luò)(請參見公眾號之人工智能Hopfield網(wǎng)絡(luò))。BM是一種對稱耦合的隨機(jī)反饋型二值單元神經(jīng)網(wǎng)絡(luò),由可見層和多個(gè)隱層組成,網(wǎng)絡(luò)節(jié)點(diǎn)分為可見單元(visible unit)和隱單元(hidden unit),用可見單元和隱單元來表達(dá)隨機(jī)網(wǎng)絡(luò)與隨機(jī)環(huán)境的學(xué)習(xí)模型,通過權(quán)值表達(dá)單元之間的相關(guān)性。
Smolensky提出的RBM由1個(gè)可見神經(jīng)元層和1個(gè)隱神經(jīng)元層組成,由于隱層神經(jīng)元之間沒有相互連接并且隱層神經(jīng)元獨(dú)立于給定的訓(xùn)練樣本,這使直接計(jì)算依賴數(shù)據(jù)的期望值變得容易,可見層神經(jīng)元之間也沒有相互連接,通過從訓(xùn)練樣本得到的隱層神經(jīng)元狀態(tài)上執(zhí)行馬爾可夫鏈抽樣過程,來估計(jì)獨(dú)立于數(shù)據(jù)的期望值,并行交替更新所有可見層神經(jīng)元和隱層神經(jīng)元的值。
RBM引入:
受限玻爾茲曼機(jī)RBM是對玻爾茲曼機(jī)進(jìn)行簡化,使玻爾茲曼機(jī)BM更容易使用。玻爾茲曼機(jī)BM的隱元/顯元和隱元/隱元之間都是全連接的,增加了計(jì)算量和計(jì)算難度,使用困難。而RBM則是對BM進(jìn)行一些限制,使隱元之間沒有連接,使得計(jì)算量大大減小,使用起來非常方便。
RBM原理:
RBM參數(shù)如下:
1) 可視節(jié)點(diǎn)與隱藏節(jié)點(diǎn)直接的權(quán)重矩陣Wij;
2) 可視節(jié)點(diǎn)的偏移量b = (b1,b2,...,bn);
3) 隱藏節(jié)點(diǎn)的偏移量c = (c1,c2,...,cm);
這幾個(gè)參數(shù)決定了RBM網(wǎng)絡(luò)將1個(gè)n維的樣本編碼成1個(gè)m維的樣本。假設(shè)RBM的隱元和顯元的狀態(tài)取1或0,則它的能量函數(shù)為:
根據(jù)吉布斯(Gibbs)分布:p(v,h)=(1/Z)*e[?E(v,h)]和上面的能量函數(shù)建立模型的聯(lián)合概率分布。
可視節(jié)點(diǎn)狀態(tài)只受m個(gè)隱藏節(jié)點(diǎn)影響,同理,每個(gè)隱藏節(jié)點(diǎn)也是只受n個(gè)可視節(jié)點(diǎn)影響。即:
其中,Z為歸一化因子或配分函數(shù),表示對可見層和隱藏層節(jié)點(diǎn)集合的所有可能狀態(tài)的(能量指數(shù))求和。Z計(jì)算復(fù)雜度非常高,無法直接計(jì)算,需要一些數(shù)學(xué)推導(dǎo)來簡化計(jì)算量。
同理得到p(h)。
根據(jù)貝葉斯原理,知道聯(lián)合概率和邊緣概率,求得條件概率為:
這里?是sigmoid函數(shù)。條件概率是根據(jù)隱元或顯元的狀態(tài)、權(quán)重W、偏差b或c來確定顯元或隱元的狀態(tài)。

請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個(gè)字
最新活動更多
-
3月27日立即報(bào)名>> 【工程師系列】汽車電子技術(shù)在線大會
-
4月30日立即下載>> 【村田汽車】汽車E/E架構(gòu)革新中,新智能座艙挑戰(zhàn)的解決方案
-
5月15-17日立即預(yù)約>> 【線下巡回】2025年STM32峰會
-
即日-5.15立即報(bào)名>>> 【在線會議】安森美Hyperlux™ ID系列引領(lǐng)iToF技術(shù)革新
-
5月15日立即下載>> 【白皮書】精確和高效地表征3000V/20A功率器件應(yīng)用指南
-
5月16日立即參評 >> 【評選啟動】維科杯·OFweek 2025(第十屆)人工智能行業(yè)年度評選
推薦專題
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達(dá)AI統(tǒng)治的開始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 4 “AI寒武紀(jì)”爆發(fā)至今,五類新物種登上歷史舞臺
- 5 國產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計(jì)算迎來商業(yè)化突破,但落地仍需時(shí)間
- 7 東陽光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開成長空間
- 8 地平線自動駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機(jī)器人東風(fēng)翻身?