CVPR 2020: SGAS,一種基于貪心思想的CNN/GCN網(wǎng)絡(luò)結(jié)構(gòu)搜索算法
根據(jù)這三個(gè)影響邊選擇的三個(gè)因素,我們提出了兩個(gè)選擇指標(biāo):
指標(biāo)1 :具有高的邊重要性和高的邊確定性的邊將被選擇,公式為:
指標(biāo)2:在指標(biāo)1的基礎(chǔ)上,被選擇的邊也應(yīng)該具有較高的穩(wěn)定性:
這里,normalize(·)指 Min-Max標(biāo)準(zhǔn)化。
實(shí)驗(yàn)結(jié)果
我們搜索了CNN和GCN網(wǎng)絡(luò)結(jié)構(gòu),并在CIFAR,ImageNet圖像分類,ModelNet點(diǎn)云分類,PPI生物圖數(shù)據(jù)節(jié)點(diǎn)分類上達(dá)到了SOTA效果。
CNN
我們將SGAS用到CNN的網(wǎng)絡(luò)結(jié)構(gòu)搜索中, CNN網(wǎng)絡(luò)結(jié)構(gòu)由普通單元(normalcell) 和 歸約單元(reduction cell)組成。普通單元保持特征圖大小不變,歸約單元縮小特征圖至. CNN任務(wù)中,搜索空間由8個(gè)運(yùn)算組成:skip-connect,max-pool-3×3, avg-pool-3×3, sep-conv-3×3, sep-conv5×5, dil-conv-3×3,dil-conv-5×5, zero。
SGAS在CIFAR-10的訓(xùn)練集與驗(yàn)證集搜索結(jié)構(gòu),并在測(cè)試集上進(jìn)行測(cè)試,結(jié)果如表1所示:
SGAS在CIFAR-10的訓(xùn)練集與驗(yàn)證集搜索結(jié)構(gòu),并在ImageNet測(cè)試集上進(jìn)行測(cè)試,結(jié)果如表2所示:
我們的SGAS在性能超越了手工設(shè)計(jì)的網(wǎng)絡(luò)結(jié)構(gòu)以及其他NAS算法。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
3月27日立即報(bào)名>> 【工程師系列】汽車電子技術(shù)在線大會(huì)
-
4月30日立即下載>> 【村田汽車】汽車E/E架構(gòu)革新中,新智能座艙挑戰(zhàn)的解決方案
-
5月15-17日立即預(yù)約>> 【線下巡回】2025年STM32峰會(huì)
-
即日-5.15立即報(bào)名>>> 【在線會(huì)議】安森美Hyperlux™ ID系列引領(lǐng)iToF技術(shù)革新
-
5月15日立即下載>> 【白皮書(shū)】精確和高效地表征3000V/20A功率器件應(yīng)用指南
-
5月16日立即參評(píng) >> 【評(píng)選啟動(dòng)】維科杯·OFweek 2025(第十屆)人工智能行業(yè)年度評(píng)選
推薦專題
-
10 月之暗面,絕地反擊
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達(dá)AI統(tǒng)治的開(kāi)始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 4 “AI寒武紀(jì)”爆發(fā)至今,五類新物種登上歷史舞臺(tái)
- 5 國(guó)產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計(jì)算迎來(lái)商業(yè)化突破,但落地仍需時(shí)間
- 7 東陽(yáng)光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開(kāi)成長(zhǎng)空間
- 8 地平線自動(dòng)駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營(yíng)收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機(jī)器人東風(fēng)翻身?