計算金融＋AI安全，研究院的使命和責任

馮霽總結，研究院的兩個重點，一個是以業(yè)務為中心，一個是以技術為核心。

其中，計算金融強調技術賦能落地，也就是我們常說的的人工智能＋金融，通常情況下， 計算金融又可以分為三個維度：金融風控、智能投顧以及智能投資。

在具體落地上，馮霽透露研究院正在圍繞交易行為的相關業(yè)務場景做一些嘗試。“交易行為是市場中買方和賣方一系列交易行為的結果，但金融市場的噪聲比較大，如何從交易數(shù)據和行為中挖掘相應的模式并作出預測，相當于AI＋金融領域的圣杯問題。”

除此之外，研究院另一個重心便是AI安全，馮霽直言這是非常酷，也是非常重要的事情的事情。此處的AI安全并不是安防之類的安全保護，特指的是當前AI系統(tǒng)的安全和魯棒性。

馮霽認為，當前的AI解決方案已經從低風險應用轉為高風險應用，比如十年前的垃圾郵件分類，逐漸深入到自動駕駛系統(tǒng)、安防領域的人臉識別，一旦AI系發(fā)生錯誤或者被人惡意攻擊，后果不堪設想�！耙匀四樧R別為例，現(xiàn)在一個特制的眼鏡（鏡框上繪制了包含算法的花紋）就能騙過人臉識別系統(tǒng)，讓其把甲認成乙�！�

所以研究院的一大任務就是研究那些攻擊算法，設置相應的防御機制應對攻擊，同時提出統(tǒng)一的風控或者評估機制，以第三方的角度來為評估AI系統(tǒng)的安全性。

另一方面， AI安全除了研究AI系統(tǒng)安全之外，還囊括數(shù)據隱私保護相關的技術。比如現(xiàn)在由楊強教授等人推動的“聯(lián)邦學習”，力圖在不共享數(shù)據以及合法合規(guī)的前提下，利用雙方的數(shù)據進行機器學習，實現(xiàn)模型增長。

以手機上的用戶數(shù)據為例，此前可以一股腦將所有數(shù)據上傳到云端進行數(shù)據訓練。但歐盟數(shù)據隱私保護條例GDPR規(guī)定出來后，本地數(shù)據是禁止被上傳到云端共享的。那么借助聯(lián)邦學習，手機廠商可以直接在手機本地將數(shù)據訓練出一個小模型，然后將模型的參數(shù)上傳到云端進行算法的優(yōu)化，不共享數(shù)據，共享知識。

在采訪之前，馮霽代表創(chuàng)新工場，當選為聯(lián)邦學習國際標準制定委員會的副主席，在微眾銀行的楊強教授帶領下，共同參與制定國際上第一個人工智能協(xié)同與合作的標準。

如果標準制定順利的話，聯(lián)邦學習對于互聯(lián)網公司以及金融機構都是非常利好的消息，“金融機構在做一些信用評級的時候，如果雙方數(shù)據能夠共享、共同訓練一個大的模型，銀行的業(yè)務都會有所提升�！�

在馮霽的描述中，創(chuàng)新工場南京國際人工智能研究院的發(fā)展路徑和目標非常明確，一方面是研究金融場景下的人工智能模型，另一方面則是針對魯棒性和安全性的人工智能研究，關注AI企業(yè)所提供的人工智能解決方案中安全和數(shù)據隱私的問題，并提供相應的算法建議。

學術界的研究一定要“不那么有用”

馮霽在確定研究院戰(zhàn)略方向的同時，也十分清醒的認識到企業(yè)和高校研究院的定位差異。“同工業(yè)界相比，學術界的研究不應該那么‘有用’�！边@是馮霽給出的答案。

在他看來，學術界和工業(yè)界研究院關注的內容應該涇渭分明。以AI為例，當前的工業(yè)界應用都是在吃學術界早期技術研究的紅利。

就像幾十年前被提出的卷積神經網絡，當后期的硬件條件跟上，才有了今天大規(guī)模的技術商業(yè)應用市場。而以現(xiàn)在的時間點去看未來，如果學術界停止研發(fā)那些“沒用”的東西，十年后的我們又要何去何從？

所以，從科研角度看，學術界不應該去做和工業(yè)界一樣的研究，比如那些可以帶來立竿見影經濟效益的事情�！皩W術界更應該做一些有利于這個學科長久發(fā)展的研究，不要急功近利考慮太多變現(xiàn)的事情。”工業(yè)界的研究則恰恰相反，它們需要思考如何將學術的成果變成一個真正可商業(yè)化的工業(yè)級產品。

馮霽也坦言，如今兩者的界線越來越模糊，尤其是在大量的學術界大佬被企業(yè)挖走，造成學術研究斷崖的當下。

就像馮霽之所以選擇創(chuàng)新工場南京國家人工智能研究院，骨子里有著創(chuàng)業(yè)精神的他，熱愛和一群優(yōu)秀的人做最酷的事情，讓學術界的成果落葉歸根，找到合適的商業(yè)化路徑。