訂閱
糾錯(cuò)
加入自媒體

制止假新聞傳播,谷歌、Facebook如何用好AI這把劍?

近日,谷歌和其他一些科技巨頭包括Facebook和Twitter就如何應(yīng)對(duì)虛假新聞的傳播簽署了一項(xiàng)行為準(zhǔn)則。實(shí)際上,繼虛假新聞的嚴(yán)重性和傳播范圍在2016美國總統(tǒng)大選和英國脫歐公投之后被曝光后,臉書、谷歌和推特等科技和廣告公司一直面臨歐盟立法機(jī)構(gòu)和世界各國政府的批評(píng),被要求嚴(yán)肅對(duì)待虛假新聞的處理問題,防止未來再發(fā)生類似惡意行為。

目前,陸續(xù)有一些國家開始“出手”整治虛假新聞:印度將為全國716個(gè)縣配備社交媒體監(jiān)測員,以監(jiān)測印度網(wǎng)上輿情和所有在線內(nèi)容;德國推新法“凈化”社交媒體,若其不及時(shí)刪除平臺(tái)上的仇恨言論及破壞他人名譽(yù)的虛假新聞等非法內(nèi)容,將被處以最高可達(dá)5000萬歐元的罰款;埃及國會(huì)通過媒體監(jiān)管法案,凡在社交媒體上擁有超過5000名粉絲的賬戶和博客都將受到埃及媒體管理最高委員會(huì)的監(jiān)督。若其發(fā)布虛假新聞或有煽動(dòng)違法等行為,埃及媒體管理最高委員會(huì)將有權(quán)暫停和屏蔽個(gè)人社交賬戶……

實(shí)際上,谷歌和臉書等科技公司也一直在考慮如何將AI技術(shù)應(yīng)用到虛假新聞的打擊中。

使用AI來衡量信息源的質(zhì)量

大多數(shù)情況下,網(wǎng)民并不是直接的虛假新聞的生成者,而更多時(shí)候扮演的是傳播者的角色。據(jù)科技媒體Science News報(bào)道,全球多個(gè)科研團(tuán)隊(duì)已在研發(fā)可自動(dòng)識(shí)別新聞?wù)鎮(zhèn)蔚乃惴āI缃痪W(wǎng)站可以用這些算法來給新聞做初步檢查,并在用戶打開一篇疑似假新聞時(shí),給用戶發(fā)一個(gè)預(yù)警提示。

10月4日,麻省理工學(xué)院CSAIL(計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室)和QRCI(卡塔爾計(jì)算研究所)宣布研究出一種可以識(shí)別虛假新聞在傳播前的來源和個(gè)人政治偏見的AI系統(tǒng)。他們所使用的機(jī)器學(xué)習(xí)算法利用現(xiàn)有文章集合來衡量給定出口的準(zhǔn)確性和偏差,該系統(tǒng)或可將不可信賴的新聞信息自動(dòng)分類。

自2016年以來,F(xiàn)acebook開始嘗試使用“識(shí)別虛假新聞”的人工智能工具,并于近期收購了總部位于倫敦的初創(chuàng)公司Bloomsbury AI,以幫助其鑒別消除假新聞。

據(jù)外媒報(bào)道,F(xiàn)acebook于3月份推出了Disputed標(biāo)簽。這個(gè)標(biāo)簽將出現(xiàn)在這個(gè)網(wǎng)站上那些被認(rèn)定為不準(zhǔn)確的新聞下面。Facebook使用AI檢查每天在Facebook上分享的數(shù)百萬個(gè)鏈接,識(shí)別出其中的可疑內(nèi)容,然后將它們發(fā)送給事實(shí)核查人員。當(dāng)事實(shí)核查人員將鏈接、圖像或視頻評(píng)級(jí)為假,F(xiàn)acebook就會(huì)減少訪問范圍,降低其在用戶的news feed中的排序位置。

今年4月份以來,谷歌對(duì)其搜索引擎背后的算法進(jìn)行了徹底的調(diào)整,把具備誤導(dǎo)性、虛假在線文章進(jìn)行排名降級(jí)。谷歌還將建立新的規(guī)定,鼓勵(lì)1萬多名評(píng)估搜索結(jié)果的員工標(biāo)記出帶有惡作劇、陰謀論或者"低質(zhì)量內(nèi)容"的網(wǎng)頁。

此外,印第安納大學(xué)社交體觀察站的研究人員推出了Hoaxy和Botometer兩種程序。Hoaxy是一個(gè)搜索引擎,不僅可以展示出Twitter上的即時(shí)熱點(diǎn)事件,并追蹤任何在線新聞報(bào)道或Twitter標(biāo)簽,還能推測出事件傳播的用戶中“機(jī)器人”的比例。而Botometer是一個(gè)打分軟件。他可以根據(jù)Twitter用戶的賬號(hào)發(fā)布的信息,觀察這些信息在Twitter上傳播方式和路徑,結(jié)合機(jī)器學(xué)習(xí)算法給每位用戶分配分?jǐn)?shù),以此來判斷信息是由真人共享,還是由“機(jī)器人”所推動(dòng)。

AI制止假新聞傳播,到底有沒有效?

實(shí)際上,互聯(lián)網(wǎng)巨頭在打擊虛假新聞方面可以說是做得越來越好的。去年,百度將自然語言處理、深度學(xué)習(xí)、圖像識(shí)別等AI技術(shù)引入網(wǎng)絡(luò)信息安全治理。全年甄別處理的有害信息總量達(dá)到451.2億條,攔截惡意網(wǎng)頁全年總量達(dá)202.9億個(gè)。

一項(xiàng)來自斯坦福大學(xué)、紐約大學(xué)和微軟研究院的研究表明,自2016年美國大選到今年7月,F(xiàn)acebook用戶對(duì)于假新聞的參與度下降超過了50%。對(duì)比之下,Twitter的假新聞比例卻在上升。初步可以證明,AI對(duì)虛假新聞的辨別打擊有一定的效果。

哈佛大學(xué)約翰肯尼迪政府學(xué)院錯(cuò)誤信息斗爭項(xiàng)目First Draft的負(fù)責(zé)人Wardle表示,AI的確可以加快某些耗時(shí)的步驟。例如,利用AI檢查每天在線發(fā)布的大量內(nèi)容并標(biāo)記出可能虛假的內(nèi)容。但是,她同樣提出人工智能無法做出最終的判斷!皩(duì)于機(jī)器來說,你如何編碼“誤導(dǎo)性”呢?即使是人類也難以定義它。生活是混亂、復(fù)雜和微妙的,人工智能要做到理解這一點(diǎn),還有很長的路要走!

英國帝國理工學(xué)院的計(jì)算機(jī)科學(xué)家Julio Amador Diaz Lopez表示,即使目前這些鑒定算法演化得越來越“聰明”,但面對(duì)背景較抽象的報(bào)道時(shí),程序可能還是無法像人類一樣會(huì)意,或辨識(shí)其可信度。

人工智能或許還沒有準(zhǔn)備好放在真正的內(nèi)容審查系統(tǒng)上。

在Symposium/ITxpo 2017會(huì)議上,市場研究公司Gartner預(yù)測,到2022年,發(fā)達(dá)經(jīng)濟(jì)體的大多數(shù)人口"消費(fèi)"的虛假信息將超過真實(shí)信息。Gartner警告稱,雖然人工智能被證明在新信息創(chuàng)建方面非常有效,但在扭曲數(shù)據(jù)創(chuàng)建虛假信息方面,它也很有效。

Gartne還預(yù)計(jì),在2020年前,虛假信息會(huì)造成重大財(cái)務(wù)欺詐事件。2022年,沒有一家大型互聯(lián)網(wǎng)公司在解決這一問題方面能取得完全成功。3年內(nèi),一個(gè)主要國家將通過法律法規(guī),遏制人工智能生成的虛假信息的傳播。

聲明: 本文系OFweek根據(jù)授權(quán)轉(zhuǎn)載自其它媒體或授權(quán)刊載,目的在于信息傳遞,并不代表本站贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé),如有新聞稿件和圖片作品的內(nèi)容、版權(quán)以及其它問題的,請(qǐng)聯(lián)系我們。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長度6~500個(gè)字

您提交的評(píng)論過于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無評(píng)論

暫無評(píng)論

    掃碼關(guān)注公眾號(hào)
    OFweek人工智能網(wǎng)
    獲取更多精彩內(nèi)容
    文章糾錯(cuò)
    x
    *文字標(biāo)題:
    *糾錯(cuò)內(nèi)容:
    聯(lián)系郵箱:
    *驗(yàn) 證 碼:

    粵公網(wǎng)安備 44030502002758號(hào)