風(fēng)險(xiǎn)分析

金融服務(wù)公司長期以來一直使用統(tǒng)計(jì)模型來評估風(fēng)險(xiǎn)——貸款中的信用風(fēng)險(xiǎn)、交易中的金融風(fēng)險(xiǎn)、保險(xiǎn)部門的精算風(fēng)險(xiǎn)以及所有類別的欺詐風(fēng)險(xiǎn)。

BITS銀行政策研究所技術(shù)政策部門的總裁Chris Feeney說，“如今不同的是，這些算法的使用更加廣泛，可用數(shù)據(jù)量、數(shù)據(jù)類型和數(shù)據(jù)吞吐量正在改變正在解決的各種問題，如果可以收集更多有關(guān)交易的信息，可以更好地避免欺詐。”

Feeney希望人工智能成為金融公司的一個(gè)重要差異化因素。他說，“金融公司必須積極參與，但必須選擇自己的用例�！彼�建議企業(yè)尋找機(jī)會利用人工智能創(chuàng)造競爭優(yōu)勢，同時(shí)也為消費(fèi)者提供明確的價(jià)值。

他說，“這可能是貸款業(yè)務(wù)�，F(xiàn)在有很多關(guān)于使用其他數(shù)據(jù)源向新的人群提供貸款產(chǎn)品的活動(dòng)�！�

他說，欺詐分析是另一個(gè)重要的用例。他說，“我認(rèn)為人工智能將加快發(fā)現(xiàn)欺詐行為的能力，以避免欺詐，更快地發(fā)現(xiàn)異常活動(dòng)�！�

Raghav Nyapati最近在全球十大銀行實(shí)施人工智能項(xiàng)目，現(xiàn)在正在創(chuàng)建一家金融技術(shù)初創(chuàng)企業(yè)。他說，“人們將會采用成千上萬的應(yīng)用程序。人工智能可以幫助過濾掉可能存在欺詐或高風(fēng)險(xiǎn)的應(yīng)用程序，只有經(jīng)過篩選的應(yīng)用程序才會被代理審核�！�

他解釋說，“這些決定需要得到人類判斷的支持。我們必須提供負(fù)責(zé)任的人工智能。我們需要利益相關(guān)者回答，客戶要回答。如果出現(xiàn)任何問題，銀行必須支付巨額罰金。”

調(diào)研機(jī)構(gòu)Gartner公司最近的一項(xiàng)調(diào)查顯示，46％的金融服務(wù)公司使用人工智能進(jìn)行欺詐檢測。

Tabb Group金融科技和歐洲研究主管Monica Summerville表示，在證券行業(yè)，很多公司在交易前和交易后風(fēng)險(xiǎn)分析中使用機(jī)器學(xué)習(xí)。

“以傳統(tǒng)方式進(jìn)行風(fēng)險(xiǎn)分析非常耗費(fèi)計(jì)算量，而且很多機(jī)器學(xué)習(xí)技術(shù)雖然近似，但需要足夠好，而且速度也越來越快�！彼�說。

在Tabb Group公司最近進(jìn)行的一項(xiàng)調(diào)查中，大多數(shù)證券公司計(jì)劃在未來12個(gè)月擴(kuò)大對人工智能的支出。她說：“人工智能被列為他們業(yè)務(wù)中最具顛覆性的技術(shù)�！�

Gartner公司指出，人工智能還將影響更復(fù)雜的任務(wù)，如財(cái)務(wù)合同審查或交易發(fā)起。該公司預(yù)測，到2020年，20％的后臺工作人員將依賴人工智能開展非常規(guī)工作。

合規(guī)性挑戰(zhàn)

監(jiān)管機(jī)構(gòu)已經(jīng)熟悉監(jiān)督金融機(jī)構(gòu)用于評估信用風(fēng)險(xiǎn)或發(fā)現(xiàn)可疑行為的模型的困難。例如，模型可能非常復(fù)雜，難以分析�；蛘咚鼈兛赡苁莵碜缘谌�方供應(yīng)商的專有模型。

有很多方法可以解決這些問題，例如對模型進(jìn)行獨(dú)立審查以及使用補(bǔ)償控制。在某些方面，人工智能驅(qū)動(dòng)的系統(tǒng)可以像傳統(tǒng)的統(tǒng)計(jì)模型一樣對待，但它們也帶來了額外的擔(dān)憂。

美聯(lián)儲委員會成員LaelBrainard在去年的一次演講中說，“就其本身而言，人工智能可能在不透明性和可解釋性方面帶來一些挑戰(zhàn)。認(rèn)識到在使用人工智能工具時(shí)可能存在一些有利的情況，即使它可能是無法解釋或不透明的，人工智能工具也應(yīng)受到適當(dāng)?shù)目刂�。�?/p>

她說，這包括有關(guān)如何構(gòu)建工具，如何在實(shí)踐中使用以及圍繞數(shù)據(jù)質(zhì)量和適用性的控制。

可解釋性（也被稱為黑盒問題）是人工智能系統(tǒng)的一個(gè)特殊問題。使用傳統(tǒng)的統(tǒng)計(jì)模型，數(shù)據(jù)科學(xué)家選擇對特定決策或預(yù)測至關(guān)重要的因素，并決定對這些因素給予多少權(quán)重。然而，人工智能系統(tǒng)可以識別以前未知和難以理解的模式。這使得銀行很難遵守監(jiān)管機(jī)構(gòu)的規(guī)定，例如《平等信貸機(jī)會法》和《公平信貸報(bào)告法》，這兩項(xiàng)法律要求銀行解釋他們在做出決策時(shí)使用的因素。

Brainard補(bǔ)充說，“幸運(yùn)的是，人工智能本身可能會在解決方案中發(fā)揮作用。人工智能社區(qū)正在回應(yīng)在開發(fā)‘可解釋的’人工智能工具方面取得的重大進(jìn)展，重點(diǎn)是擴(kuò)大消費(fèi)者獲得信貸的機(jī)會�！�

Tabb公司的Summerville表示，證券業(yè)也在研究這個(gè)問題。她指出，“能在人工智能中構(gòu)建一個(gè)無偏見的模型嗎？需要能夠解釋公司是如何做出決定的。監(jiān)管機(jī)構(gòu)有興趣確定你不會意外地引入偏見�！�

隨著Synchronomy公司開始關(guān)注人工智能和機(jī)器學(xué)習(xí)的信用決策，黑盒問題也成為該公司面臨的一個(gè)問題。

他說，“我們希望在模型中建立可解釋性，并指出做出這些決定的原因。這不容易做到。不能出于歧視性的原因做出決定。例如不再說‘我不會為這個(gè)郵政編碼的人提供信用證明’，因?yàn)檫@是違法的。”

該公司還花費(fèi)大量精力確保用于培訓(xùn)人工智能模型的原始數(shù)據(jù)不會有偏差。Simpson說，這是公司需要這么多數(shù)據(jù)科學(xué)家的原因之一。

該公司采取的減少偏見的一種方法是從一個(gè)多元化的團(tuán)隊(duì)開始。

他說，“如果沒有多元化的團(tuán)隊(duì)，很難確定數(shù)據(jù)中的偏見，因?yàn)槠髽I(yè)的團(tuán)隊(duì)可能存在偏見。這對銀行來說尤為重要，團(tuán)隊(duì)的多樣性是這個(gè)領(lǐng)域的第一個(gè)也是最好的防御策略�！�