打開AI的黑箱 IBM推出云工具檢測(cè)AI偏見
IBM推出了一項(xiàng)軟件服務(wù),可以掃描人工智能系統(tǒng)的工作情況,以便檢測(cè)偏見并為正在做出的自動(dòng)決策提供解釋,一定程度的透明度可能是合規(guī)目的所必需的,而不僅僅是公司自己的盡職調(diào)查。
新的信任和透明度系統(tǒng)運(yùn)行在IBM云上,并與從IBM作為各種流行的機(jī)器學(xué)習(xí)框架和AI構(gòu)建環(huán)境所構(gòu)建的模型一兼容,包括自己的Watson技術(shù),以及Tensorflow、SparkML、AWS SageMaker和AzureML。
它表示,可以通過(guò)編程來(lái)定制服務(wù)以滿足特定的組織需求,以考慮“任何業(yè)務(wù)工作流程的獨(dú)特決策因素”。
完全自動(dòng)化的SaaS解釋了決策并在運(yùn)行時(shí)檢測(cè)AI模型中的偏見,這意味著它正在捕獲“發(fā)生時(shí)可能產(chǎn)生的不公平結(jié)果”。
它還會(huì)自動(dòng)建議添加到模型中的數(shù)據(jù),以幫助減少已檢測(cè)到的任何偏見。
人工智能決策的解釋包括顯示哪些因素加重了某個(gè)方向的決策、對(duì)建議的信心和信心背后的因素。
IBM還表示該軟件會(huì)記錄AI模型的準(zhǔn)確性、性能和公平性,以及人工智能系統(tǒng)的系譜,這意味著它們可以“以客戶服務(wù)、監(jiān)管或合規(guī)原因輕松跟蹤和召回”。
關(guān)于合規(guī)方面的一個(gè)例子,歐盟的GDPR隱私框架參考了自動(dòng)決策,并且包括讓人們獲得有關(guān)算法在某些情況下如何工作的詳細(xì)解釋的權(quán)利,這意味著企業(yè)可能需要能夠?qū)徍怂麄兊腁I。
IBM AI掃描儀工具通過(guò)可視化儀表板提供自動(dòng)決策的細(xì)分,這是一種減少對(duì)“專業(yè)AI技能”依賴的方法。
然而,它也打算讓自己的專業(yè)服務(wù)人員與企業(yè)合作使用新的軟件服務(wù)。因此,它既可以銷售人工智能,也可以解決人工智能的不完美問題,當(dāng)企業(yè)試圖修復(fù)他們的AI時(shí),專家可以幫助消除任何問題。這表明雖然AI確實(shí)會(huì)刪除一些工作,但自動(dòng)化將忙于創(chuàng)建其他類型的工作。
IBM也不是第一家發(fā)現(xiàn)AI偏見商業(yè)機(jī)會(huì)的專業(yè)服務(wù)公司。幾個(gè)月前,埃森哲公開了一個(gè)公平的工具,用于識(shí)別和修復(fù)不公平AI。
因此,隨著對(duì)多個(gè)行業(yè)自動(dòng)化的大力推動(dòng),設(shè)置和銷售服務(wù)以解決因增加AI的使用而出現(xiàn)的任何問題,看起來(lái)也相當(dāng)龐大。
事實(shí)上,鼓勵(lì)更多企業(yè)對(duì)進(jìn)入自動(dòng)化更有信心。(在這方面,IBM引用了它所進(jìn)行的研究,發(fā)現(xiàn)雖然82%的企業(yè)正在考慮人工智能部署,但60%擔(dān)心責(zé)任問題,63%缺乏內(nèi)部人才來(lái)自信地管理技術(shù)。)
除了推出自己的付費(fèi)AI審計(jì)工具之外,IBM表示,其研究部門將開放采購(gòu)AI偏見檢測(cè)和緩解工具包,旨在鼓勵(lì)“圍繞解決AI中的偏見進(jìn)行全球合作”。
“IBM引領(lǐng)行業(yè)建立信任和透明度原則,以開發(fā)新的AI技術(shù)。現(xiàn)在是時(shí)候?qū)⒃瓌t付諸于實(shí)踐了,”IBM認(rèn)知解決方案高級(jí)副總裁David Kenny在一份聲明中表示!拔覀冋跒槭褂萌斯ぶ悄懿⒚媾R任何有缺陷的決策產(chǎn)生最大潛在風(fēng)險(xiǎn)的企業(yè)提供新的透明度和控制權(quán)!

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
3月27日立即報(bào)名>> 【工程師系列】汽車電子技術(shù)在線大會(huì)
-
4月30日立即下載>> 【村田汽車】汽車E/E架構(gòu)革新中,新智能座艙挑戰(zhàn)的解決方案
-
5月15-17日立即預(yù)約>> 【線下巡回】2025年STM32峰會(huì)
-
即日-5.15立即報(bào)名>>> 【在線會(huì)議】安森美Hyperlux™ ID系列引領(lǐng)iToF技術(shù)革新
-
5月15日立即下載>> 【白皮書】精確和高效地表征3000V/20A功率器件應(yīng)用指南
-
5月16日立即參評(píng) >> 【評(píng)選啟動(dòng)】維科杯·OFweek 2025(第十屆)人工智能行業(yè)年度評(píng)選
推薦專題
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達(dá)AI統(tǒng)治的開始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 4 “AI寒武紀(jì)”爆發(fā)至今,五類新物種登上歷史舞臺(tái)
- 5 國(guó)產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計(jì)算迎來(lái)商業(yè)化突破,但落地仍需時(shí)間
- 7 東陽(yáng)光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開成長(zhǎng)空間
- 8 地平線自動(dòng)駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營(yíng)收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機(jī)器人東風(fēng)翻身?