真人无码作爱免费视频网站,cos国产精品专区在线观看,一本久中文视频播放

一張貼紙或可迷惑自動(dòng)駕駛系統(tǒng)

2019-05-13 09:04

自動(dòng)駕駛的安全性一直以來(lái)受到各方的關(guān)注。近日由北京航空航天大學(xué)、悉尼大學(xué)和劍橋大學(xué)的一項(xiàng)新研究表明，一張紙便可以“迷惑”AI自動(dòng)駕駛系統(tǒng)，將一張用打印機(jī)打印出來(lái)的涂鴉貼畫(huà)貼在路牌上就可以導(dǎo)致AI自動(dòng)駕駛系統(tǒng)分類(lèi)錯(cuò)誤。目前該論文已在全球人工智能頂級(jí)會(huì)議AAAI 2019上發(fā)表。

在實(shí)驗(yàn)中，研究人員將生成的涂鴉貼畫(huà)貼在北航校園中標(biāo)為“限速20km／h”的真實(shí)路牌上后，AI自動(dòng)駕駛系統(tǒng)完全被誤分類(lèi)，將其識(shí)別為“No Entry”（禁行）。該涂鴉貼畫(huà)在論文中被稱(chēng)為“對(duì)抗補(bǔ)丁”，正是這塊補(bǔ)丁“欺騙”了AI自動(dòng)駕駛系統(tǒng)，讓系統(tǒng)將該路牌誤分類(lèi)。

經(jīng)實(shí)驗(yàn)證實(shí)，用該方法生成的對(duì)抗補(bǔ)丁具有穩(wěn)定的攻擊效果，將其貼在路牌上后，不會(huì)影響人類(lèi)對(duì)于路牌語(yǔ)義信息的認(rèn)知，且由于場(chǎng)景語(yǔ)義相關(guān)性人類(lèi)也不會(huì)感覺(jué)到違和。但是，該對(duì)抗補(bǔ)丁對(duì)于AI自動(dòng)駕駛系統(tǒng)則是毀滅性的。例如，這種攻擊可能被惡意地用來(lái)攻擊自動(dòng)駕駛系統(tǒng)，入侵者只要將一小片貼畫(huà)貼在路牌上，當(dāng)自動(dòng)駕駛汽車(chē)駛過(guò)時(shí)就可能會(huì)造成系統(tǒng)的致命錯(cuò)誤，導(dǎo)致車(chē)禍產(chǎn)生。

本地收藏打印推薦給朋友

聲明： 本文系OFweek根據(jù)授權(quán)轉(zhuǎn)載自其它媒體或授權(quán)刊載，目的在于信息傳遞，并不代表本站贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)，如有新聞稿件和圖片作品的內(nèi)容、版權(quán)以及其它問(wèn)題的，請(qǐng)聯(lián)系我們。