遮擋反光下拍照無壓力—臺大提出新型遮擋去除模型還你清晰視界
在拍照時不期而遇的遮擋會讓照片的效果大打折扣,從窗戶玻璃的反光到雨滴的遮擋都在影響著清晰的成像,而去除這些惱人的遮擋也是計算機視覺領域的重要研究內容。
最近來自臺大、谷歌等機構的研究人員提出了一種基于前景背景運動差異的學習方法,通過深度學習交替光流場估計和圖像重建實現了高質量的遮擋去除和前景、背景的重建,同時還利用在線優(yōu)化的方法提高了對于多種真實場景的適應能力。
從反射遮擋中獲取清晰的圖像
從反光的玻璃或遮擋的前景中獲取清晰的圖像一直是計算機視覺領域的研究熱點之一,從反光或者遮擋物體的混合圖像中獲取清晰的圖像將有助于提升包括機器人感知、安防監(jiān)控等多種視覺應用等性能。
目前解決這一問題的方法主要集中于單張圖像去除和多幀去除兩個角度;趩螏姆椒ǔ浞掷冒▓D像先驗和離焦線索的方法來對遮擋部分進行識別和重建。雖然取得了優(yōu)異的結果,但是從遮擋/反射混合的圖像中分離出清晰的背景和前景卻在根本上是一個病態(tài)問題,通常需要對場景有著更高級別的語義理解。實際使用中當面臨分布外圖像時,基于學習的算法會發(fā)生嚴重的退化。
為了解決這些問題,研究人員開始利用多幀圖像來處理遮擋反射問題。對于相機來說,拍照時背景和遮擋物具有不同的深度,通過小幅度運動拍攝的多幀照片將有利于分離出兩層結構間的不同運動。已經有很多工作充分利用運動線索來對前景遮擋進行去除,但對于對于多幀視頻處理需要消耗大量的計算資源,同時也需要滿足嚴格的光照連續(xù)性假設和精確的運動估計結果。雖然研究人員開始利用無模型的3DCNN來解決這些問題,但卻無法在真實輸入序列中獲得與優(yōu)化方法可比擬的效果。
為了實現更為迅速、高效、高精度的遮擋去除和重建結果,在這一工作中研究人員提出了一種結合深度學習與優(yōu)化方法多幀的遮擋去除方案。在優(yōu)化思路的啟發(fā)下,本文由粗到精地交替估計稠密運動和重建前景/背景圖像。對于稠密運動的顯式建模使得算法可以漸進地重建出前景和背景層。
本文的方法沒有構建手工的目標函數來構建圖像,而是采用了基于學習的方法來融合流反射變換圖像來適應不滿足光照連續(xù)性和光流估計誤差。在通過合成數據集對模型進行訓練后,為了提高針對真實序列的生成質量,研究人員還增加了在線優(yōu)化過程來對結果進行提升。
下圖顯示了算法的整體流程,這一漸進式的模型通過由粗到精的過程,經過L層的處理不斷提升生成結果的質量。

請輸入評論內容...
請輸入評論/評論長度6~500個字
最新活動更多
-
10月23日火熱報名中>> 2025是德科技創(chuàng)新技術峰會
-
10月23日立即報名>> Works With 開發(fā)者大會深圳站
-
10月24日立即參評>> 【評選】維科杯·OFweek 2025(第十屆)物聯網行業(yè)年度評選
-
11月27日立即報名>> 【工程師系列】汽車電子技術在線大會
-
12月18日立即報名>> 【線下會議】OFweek 2025(第十屆)物聯網產業(yè)大會
-
精彩回顧立即查看>> 【限時福利】TE 2025國際物聯網展·深圳站