近日，國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國家廣播電視總局聯(lián)合印發(fā)了《網(wǎng)絡音視頻信息服務管理規(guī)定》明確網(wǎng)絡音視頻信息發(fā)布相關守則，網(wǎng)絡音視頻信息提供者和網(wǎng)絡音視頻信息使用者利用基于深度學習、虛擬現(xiàn)實等AI技術應用制作、發(fā)布、傳播非真實音視頻信息的，應當按照國家有關規(guī)定開展安全評估，并以顯著方式予以標識。

網(wǎng)絡音視頻信息服務提供者應當部署應用違法違規(guī)音視頻以及非真實音視頻鑒別技術，建立辟謠機制，并將相關信息報有關部門備案。

從網(wǎng)信辦有關負責人處了解，網(wǎng)絡信息服務發(fā)展迅速，用戶數(shù)量不斷增加，據(jù)數(shù)據(jù)顯示，我國網(wǎng)絡音頻用戶規(guī)模已達6．08億，網(wǎng)絡視頻用戶規(guī)模已達7．59億。隨著“深度偽造”等AI技術應用在網(wǎng)絡音視頻領域的運用，也帶來了傳播違法與不良的作假信息、侵犯用戶合法權益等風險隱患。運用AI技術制作非真實的音視頻，可能被利用從事危害國家安全、破壞社會穩(wěn)定、擾亂社會秩序、侵犯他人合法權益等法律法規(guī)禁止的活動，造成政治安全風險和國家安全、公共安全風險，對社會穩(wěn)定造成不良影響。

近些年，隨著AI技術的高速發(fā)展，人臉識別應用在商用場景中大規(guī)模部署。例如，蘇寧任性貸要求刷臉認證，支付寶提供了基于人臉的驗證登錄手段，很多銀行或者金融公司也提供了遠程的、基于人臉識別的視頻面審流程。

AI的人臉識別應用在精確度上已經(jīng)高達95％，很多業(yè)務可以便捷地享受AI科技帶來的便捷核驗手段。但深度偽造技術應用到圖像或視頻欺詐中不僅能實現(xiàn)換臉，更可以通過深度學習模擬真人聲音、創(chuàng)造出現(xiàn)實不存在的人物肖像。利用該技術，可以以視頻這一較為可信的方式讓某人說不曾說過的話，做不曾做的事，達到混淆觀眾的目的。

國外技術團隊也成功開展過欺騙“AI”的試驗，在3D車輛模型的車身上貼上特制的“紙片”，使得模型成功逃逸監(jiān)控識別。從具體效果來看，該“隱身”可在高度運動、光線變化等復雜環(huán)境中保持較高的“隱身性”，技術優(yōu)勢明顯。

AI安全問題已經(jīng)不再只是學術談論，民眾都應該提高對AI安全的意識。AI技術本身是中立的，但發(fā)展成“以子之矛，攻子之盾”的狀況，我們才意識到AI技術，在沒有制約的情況下用在正面領域，帶來了革命性的便捷和高效；應用于黑色非法領域，給我們帶來的風險可能遠超從前。

因此，明確網(wǎng)絡音視頻信息發(fā)布者的信息內容安全管理責任，規(guī)范網(wǎng)絡音視頻信息服務提供者關于利用AI技術新應用的管理要求，為網(wǎng)絡音視頻信息服務及其相關技術的提供、使用、管理等提供有效的依據(jù)是非常有必要的，據(jù)悉該規(guī)定將從2020年1月1日起正式施行。