谷歌AI負(fù)責(zé)人Jeff Dean:一文回顧谷歌的2018技術(shù)進(jìn)展
1月15日,谷歌高級(jí)研究員、谷歌AI負(fù)責(zé)人Jeff Dean發(fā)表了博文,回顧總結(jié)了2018年谷歌的技術(shù)研究進(jìn)展。
Jeff Dean從谷歌的人工智能、量子計(jì)算、感知技術(shù)、算法理論、AutoML、機(jī)器人以及TPU等多個(gè)技術(shù)層面,系統(tǒng)地還原了谷歌AI的2018。
眾所周知,在去年一整年,谷歌遭遇了諸多危機(jī),尤其是不作惡的原則受到內(nèi)外的質(zhì)疑。Jeff Dean博客中首要提到的便是谷歌的道德原則和AI。
道德原則和人工智能
今年,我們發(fā)布了Google AI原則,但是,由于AI的發(fā)展非常迅速,AI原則中諸如“避免制造或加強(qiáng)不公平的偏見(jiàn)”、“對(duì)人民負(fù)責(zé)”等也在不斷變化和改進(jìn)。
其中,機(jī)器學(xué)習(xí)公平性和模型可解釋性等領(lǐng)域的新研究,正反向推動(dòng)我們的產(chǎn)品進(jìn)步,使其更具包容性。例如我們?cè)诠雀璺g中減少“性別偏見(jiàn)”,并允許探索和發(fā)布更具包容性的圖像數(shù)據(jù)集和模型,使計(jì)算機(jī)視覺(jué)能夠適應(yīng)全球文化的多樣性。
社會(huì)公益
Jeff Dean舉例了AI應(yīng)用于解決現(xiàn)實(shí)公共問(wèn)題的案例:
洪水預(yù)測(cè)工作。該研究與Google的許多團(tuán)隊(duì)合作,旨在提供有關(guān)洪水發(fā)生可能和范圍的準(zhǔn)確細(xì)粒度信息,使洪水易發(fā)地區(qū)的人們能夠更好地保護(hù)自己及其財(cái)產(chǎn)。
地震余震預(yù)測(cè)的工作。谷歌展示了機(jī)器學(xué)習(xí)(ML)模型可以比傳統(tǒng)的基于物理的模型更準(zhǔn)確地預(yù)測(cè)余震位置。
除此之外,還有許多Google研究人員和工程師合作,使用TensorFlow等開(kāi)源軟件解決各種科學(xué)和社會(huì)問(wèn)題,例如使用卷積神經(jīng)網(wǎng)絡(luò)來(lái)識(shí)別座頭鯨的位置,檢測(cè)新的系外行星,識(shí)別患病的木薯植物等。
AI輔助技術(shù)
為了使ML和計(jì)算機(jī)科學(xué)幫助用戶(hù)更快更有效地完成任務(wù),谷歌推出了智能語(yǔ)音技術(shù)Google Duplex。
這是一個(gè)囊括自然語(yǔ)言研究和對(duì)話理解以及文本、語(yǔ)言識(shí)別的技術(shù)。其核心是一個(gè)循環(huán)神經(jīng)網(wǎng)絡(luò),使用的是TensorFlow Extend(TFX)的機(jī)器學(xué)習(xí)平臺(tái)構(gòu)建。
當(dāng)Google Duplex撥打電話時(shí),它的聲音近乎真實(shí)的普通人。你可以聽(tīng)到Google Duplex幫你打電話預(yù)約理發(fā)。
其他應(yīng)用案例還包括Smart Compose,它可以使用預(yù)測(cè)模型提供有關(guān)如何撰寫(xiě)電子郵件的相關(guān)建議,使電子郵件撰寫(xiě)過(guò)程更快更容易的工具。
我們研究的一個(gè)重點(diǎn)是讓Google智能助理這樣的產(chǎn)品支持更多語(yǔ)言,并且可以更好地理解語(yǔ)義相似性。
量子計(jì)算
在過(guò)去的一年里,我們制作了許多令人興奮的量子計(jì)算新成果,包括開(kāi)發(fā)了一種新的72比特通用量子計(jì)算設(shè)備Bristlecone,該設(shè)備可以擴(kuò)大量子計(jì)算機(jī)在量子領(lǐng)域可以解決的問(wèn)題。
我們還發(fā)布了量子計(jì)算機(jī)的開(kāi)源編程框架Cirq,并探討了量子計(jì)算機(jī)如何用于神經(jīng)網(wǎng)絡(luò)。最后,我們分享了量子處理器性能波動(dòng)的經(jīng)驗(yàn)和技術(shù)以及量子計(jì)算機(jī)如何作為神經(jīng)網(wǎng)絡(luò)計(jì)算基板的一些想法。
自然語(yǔ)言理解
2018年,Google的自然語(yǔ)言研究在基礎(chǔ)研究和以產(chǎn)品為中心的合作上都取得了非常棒的成果。我們?cè)谥暗臋C(jī)器學(xué)習(xí)模型基礎(chǔ)上開(kāi)發(fā)了一個(gè)新的并行版本的模型 Universal Transformer,它在包括翻譯和語(yǔ)言推理在內(nèi)的許多自然語(yǔ)言任務(wù)中都顯示出強(qiáng)大的技術(shù)能力。
我們還開(kāi)發(fā)了BERT,這是第一個(gè)深度雙向,無(wú)監(jiān)督的自然語(yǔ)言處理模型,僅使用純文本語(yǔ)料庫(kù)進(jìn)行預(yù)訓(xùn)練,就能使用遷移學(xué)習(xí)對(duì)各種自然語(yǔ)言任務(wù)進(jìn)行微調(diào)。
感知
我們的感知研究解決了允許計(jì)算機(jī)理解圖像,聲音以及為圖像獲取、壓縮、處理,創(chuàng)造性表達(dá)和增強(qiáng)現(xiàn)實(shí)提供更強(qiáng)大工具的難題。
Google AI使命的一個(gè)關(guān)鍵是讓其他人能夠從我們的技術(shù)中受益,今年我們?cè)诟倪M(jìn)作為Google API一部分的功能和構(gòu)建塊方面取得了很大進(jìn)展。比如通過(guò)ML Kit 在Cloud ML API和面部相關(guān)設(shè)備構(gòu)建塊中實(shí)現(xiàn)視覺(jué)和視頻的改進(jìn)和新功能。
MobileNetV2是谷歌的下一代移動(dòng)計(jì)算機(jī)視覺(jué)模型,我們的MobileNets廣泛應(yīng)用于學(xué)術(shù)界和工業(yè)界。MorphNet提出了一種有效的方法來(lái)學(xué)習(xí)深層網(wǎng)絡(luò)的結(jié)構(gòu),從而在計(jì)算資源有限的同時(shí),改進(jìn)圖像和音頻模型上的性能。
計(jì)算攝影
手機(jī)拍照性能的提升不僅僅在于物理傳感器的改進(jìn),更大部分要?dú)w咎于計(jì)算攝影技術(shù)的發(fā)展。
我們的計(jì)算攝影技術(shù)正在與Google的Android和消費(fèi)者硬件團(tuán)隊(duì)密切合作,將這項(xiàng)研究交付給最新的Pixel和Android手機(jī)及其他設(shè)備。2014年,我們推出了HDR +,可以在軟件中對(duì)齊幀,并將它們與計(jì)算軟件結(jié)合,使圖片具有比單次曝光更高的動(dòng)態(tài)范圍。這是2018年我們能夠在Pixel 2中開(kāi)發(fā)Motion Photos,以及Motion Stills中開(kāi)發(fā)增強(qiáng)現(xiàn)實(shí)模式的基礎(chǔ)。
今年,我們?cè)谟?jì)算攝影研究方面的主要工作之一就是創(chuàng)造一種名為Night Sight的新功能,即便在沒(méi)有閃光燈的情況下,也能讓Pixel用戶(hù)在非;璋档膱(chǎng)景中拍出清晰的照片。
算法和理論
在過(guò)去的一年中,我們的研究涵蓋從理論基礎(chǔ)到應(yīng)用算法,從圖形挖掘到隱私保護(hù)計(jì)算等廣泛領(lǐng)域。我們?cè)趦?yōu)化方面的工作涉及從研究機(jī)器學(xué)習(xí)的持續(xù)優(yōu)化到分布式組合優(yōu)化的領(lǐng)域。在前一領(lǐng)域,我們研究用于訓(xùn)練神經(jīng)網(wǎng)絡(luò)的隨機(jī)優(yōu)化算法的收斂性(其贏得了ICLR 2018最佳論文獎(jiǎng)),展示了流行的基于梯度的優(yōu)化方法(例如ADAM的一些變體)的問(wèn)題,為新的基于梯度的優(yōu)化方法提供了堅(jiān)實(shí)的基礎(chǔ)。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
3月27日立即報(bào)名>> 【工程師系列】汽車(chē)電子技術(shù)在線大會(huì)
-
4月30日立即下載>> 【村田汽車(chē)】汽車(chē)E/E架構(gòu)革新中,新智能座艙挑戰(zhàn)的解決方案
-
5月15-17日立即預(yù)約>> 【線下巡回】2025年STM32峰會(huì)
-
即日-5.15立即報(bào)名>>> 【在線會(huì)議】安森美Hyperlux™ ID系列引領(lǐng)iToF技術(shù)革新
-
5月15日立即下載>> 【白皮書(shū)】精確和高效地表征3000V/20A功率器件應(yīng)用指南
-
5月16日立即參評(píng) >> 【評(píng)選啟動(dòng)】維科杯·OFweek 2025(第十屆)人工智能行業(yè)年度評(píng)選
推薦專(zhuān)題
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達(dá)AI統(tǒng)治的開(kāi)始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 4 “AI寒武紀(jì)”爆發(fā)至今,五類(lèi)新物種登上歷史舞臺(tái)
- 5 國(guó)產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計(jì)算迎來(lái)商業(yè)化突破,但落地仍需時(shí)間
- 7 東陽(yáng)光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開(kāi)成長(zhǎng)空間
- 8 地平線自動(dòng)駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營(yíng)收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機(jī)器人東風(fēng)翻身?