AI審核不靠譜?微軟Bing被曝顯示兒童色情內(nèi)容
微軟在2019年年初就遭遇了不少的危機(jī),今天,據(jù)外媒報道,微軟的Bing搜索中有一些相關(guān)的關(guān)鍵字,正在為戀童癖者提供大量的兒童色情內(nèi)容,微軟回復(fù)正在努力修復(fù)中。
安全公司的調(diào)研中發(fā)現(xiàn),微軟必應(yīng)搜索不僅僅會在搜索結(jié)果中返回裸體兒童照片,如果用戶點(diǎn)擊這些圖片,必應(yīng)也會在類似圖片功能中展示更多非法虐待兒童圖像,他們還會向用戶推薦其他類似搜索關(guān)鍵詞,從而跳轉(zhuǎn)出更多的兒童色情內(nèi)容。
然而,谷歌的類似搜索卻沒有像必應(yīng)這樣出現(xiàn)明顯的非法圖像以及內(nèi)容。對此,微軟必應(yīng)和人工智能產(chǎn)品副總裁喬迪·里伯斯(Jordi Ribas)表示,“研究人員發(fā)現(xiàn)的搜索結(jié)果確實(shí)違反了網(wǎng)站規(guī)則,公司正在努力防止此類事故的發(fā)生!
此前,微軟宣布正在通過他們的AI研究成果讓必應(yīng)搜索變得更加智能。去年,他們還通過使用專門的人工智能計算硬件BrainWave,使機(jī)器學(xué)習(xí)模型的性能提高10倍以上,增強(qiáng)了微軟必應(yīng)搜索引擎的功能。
而在兒童色情內(nèi)容上,微軟還開創(chuàng)了PhotoDNA技術(shù),實(shí)現(xiàn)兒童性虐圖片檢測的自動化,讓此類非法圖片可以由電腦程序而非工程師自動識別。
據(jù)了解,PhotoDNA可以將圖片轉(zhuǎn)化為常見的黑白格式,還能將圖片尺寸調(diào)整至指定大小。然后該技術(shù)會把圖片分成一個個正方形,同時給每一個正方形內(nèi)存在的特有底紋分配一個數(shù)值。這些數(shù)值結(jié)合在一起以后,就代表一個圖像文件的“PhotoDNA簽名”。這種獨(dú)一無二的簽名可以被用于與其他在線圖片進(jìn)行比對。
早些時候,微軟已經(jīng)將PhotoDNA技術(shù)應(yīng)用在必應(yīng)上,用來識別兒童性虐圖片,阻止這些照片在網(wǎng)上進(jìn)一步傳播。
現(xiàn)在,必應(yīng)卻被曝出這種負(fù)面事件,可以看到這項(xiàng)AI技術(shù)似乎并沒有預(yù)料中的有效,技術(shù)并沒有過濾掉那些非法色情的內(nèi)容。
當(dāng)然,不僅僅是搜索引擎會遇到這種問題,社交平臺、內(nèi)容分發(fā)平臺也經(jīng)常被曝出各種性虐色情內(nèi)容傳播,其實(shí)這也在某種程度上反映了整個科技行業(yè)的現(xiàn)狀,當(dāng)科技公司過于追求營收的增長以及效率,就會忽視對公眾利益的保護(hù),比如如何在機(jī)器審核和人工審核之間的達(dá)到平衡。

請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
推薦專題
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達(dá)AI統(tǒng)治的開始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 4 “AI寒武紀(jì)”爆發(fā)至今,五類新物種登上歷史舞臺
- 5 國產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計算迎來商業(yè)化突破,但落地仍需時間
- 7 東陽光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開成長空間
- 8 地平線自動駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機(jī)器人東風(fēng)翻身?