深度偽造技術(shù)（Deepfake）是一種利用AI程序和深度學(xué)習(xí)算法實(shí)現(xiàn)視、音頻模擬和偽造的技術(shù)，投入深度學(xué)習(xí)的內(nèi)容庫(kù)越大，合成的視音頻真實(shí)性越高，甚至可以達(dá)到以假亂真的程度。

深度偽造技術(shù)不僅能實(shí)現(xiàn)換臉，更可以通過(guò)深度學(xué)習(xí)模擬真人聲音、創(chuàng)造出現(xiàn)實(shí)不存在的人物肖像。利用該技術(shù)，可以以視頻這一較為可信的方式讓某人說(shuō)不曾說(shuō)過(guò)的話，做不曾做的事，達(dá)到混淆觀眾的目的。

雖然操縱數(shù)字文件并不是什么新鮮事兒，但這種可信的偽造行為是通過(guò)使用一種人工智能形式的計(jì)算機(jī)程序完成的。

一個(gè)算法被訓(xùn)練來(lái)識(shí)別特定人的實(shí)際音頻或視覺(jué)記錄中的模式，這個(gè)過(guò)程被稱(chēng)為深度學(xué)習(xí)。就像修改過(guò)的圖片一樣，一段音頻或視頻內(nèi)容可以通過(guò)更換新元素，比如更換別人的臉或聲音來(lái)改變，并無(wú)縫地將兩者結(jié)合起來(lái)。

與語(yǔ)音克隆技術(shù)結(jié)合使用時(shí)，這種手法最容易讓人產(chǎn)生誤導(dǎo)。語(yǔ)音克隆技術(shù)將音頻錄音分解成半音節(jié)的片段，然后可以重新組合成新詞，與蘋(píng)果的Siri和亞馬遜的Alexa等語(yǔ)音助手的創(chuàng)建方法相同。

深度偽造視頻的制作離不開(kāi)AI技術(shù)，而AI技術(shù)的實(shí)現(xiàn)則離不開(kāi)機(jī)器學(xué)習(xí)和深度學(xué)習(xí)技術(shù)，通過(guò)這個(gè)技術(shù)，讓計(jì)算機(jī)在生成具有統(tǒng)計(jì)相似性的假實(shí)例之前從真實(shí)數(shù)據(jù)中學(xué)習(xí)，模仿語(yǔ)音和形象，進(jìn)而創(chuàng)造出另類(lèi)的現(xiàn)實(shí)，讓人們真假難辨。

隨著AI技術(shù)發(fā)展，視頻換臉技術(shù)門(mén)檻降低，普通人也能制作換臉視頻。這項(xiàng)技術(shù)被用于惡搞視頻、色情視頻合成上，其不良效應(yīng)也引發(fā)了社會(huì)的關(guān)注和擔(dān)憂：放任自流，可能成為侵害他人合法權(quán)益和危害社會(huì)公共安全的工具。

①由于深度偽造技術(shù)可以運(yùn)用在包括總統(tǒng)在內(nèi)的任何官員身上，美國(guó)兩黨開(kāi)始擔(dān)心該技術(shù)將成為針對(duì)美國(guó)和其他西方國(guó)家發(fā)起虛假信息戰(zhàn)爭(zhēng)的最新武器。

②制作虛假的色情視頻是深度偽造技術(shù)常見(jiàn)的運(yùn)用方式之一。利用該技術(shù)能實(shí)現(xiàn)將一些公眾人物的臉移轉(zhuǎn)到色情明星的身體上，偽造逼真的色情場(chǎng)景。這些虛假的色情視頻一經(jīng)傳播，受害人的名譽(yù)將嚴(yán)重受損，個(gè)人隱私還隨時(shí)有可能受到侵犯。

③深度偽造技術(shù)對(duì)企業(yè)首次募股（IPO）同樣有不可估量的負(fù)面影響。深度偽造技術(shù)可以借用企業(yè)負(fù)責(zé)人的公開(kāi)談話視頻，篡改表情及談話內(nèi)容，散播虛假信息，讓社會(huì)公眾發(fā)生錯(cuò)誤認(rèn)識(shí)，直接影響公司的信譽(yù)及經(jīng)濟(jì)利益。

④就像圖片處理軟件Photoshop一樣，深度偽造則是一套由人工智能驅(qū)動(dòng)的視頻偽造軟件，它可以讓人們看起來(lái)在做或說(shuō)他們從未做過(guò)的事情。對(duì)視頻的數(shù)字操縱并不是什么新鮮事，但深度偽造這個(gè)工具存在的意義是，被操縱的視頻片段更容易被制作出來(lái)，而且還會(huì)越來(lái)越難被區(qū)分為欺詐。

⑤深度偽造技術(shù)可能會(huì)過(guò)度損害聲譽(yù)，甚至引發(fā)騷亂。想象一下，在偽造的視頻中，總統(tǒng)候選人猥褻兒童，警察局長(zhǎng)煽動(dòng)針對(duì)少數(shù)群體的暴力行為，或者士兵犯下戰(zhàn)爭(zhēng)罪，結(jié)果不堪設(shè)想。

互聯(lián)網(wǎng)時(shí)代下，先進(jìn)的AI技術(shù)和開(kāi)放的數(shù)據(jù)流動(dòng)給社會(huì)帶來(lái)巨大的信息紅利。信息流動(dòng)載體從原始的文本、到語(yǔ)音、至視頻、后進(jìn)化至如今的虛擬現(xiàn)實(shí)，數(shù)據(jù)的巨大量和更高的開(kāi)放程度允許越來(lái)越多消費(fèi)者參與進(jìn)來(lái)。而今隨著AI、深度偽造技術(shù)的發(fā)展，信息更能以重塑現(xiàn)實(shí)的方式豐富用戶的體驗(yàn)。

與AI結(jié)合的深度學(xué)習(xí)算法用于科學(xué)研究上，能幫助改善醫(yī)學(xué)圖像分析，還能用于彌補(bǔ)聽(tīng)力缺陷，幫助有聽(tīng)力障礙的人理解別人的話語(yǔ)等。

該技術(shù)用于制作、真實(shí)還原歷史人物的肖像、相關(guān)音頻和視頻，或者讓藝術(shù)作品中的靜態(tài)的人物角色生活起來(lái)，實(shí)現(xiàn)教育大眾、豐富人們精神世界的目的。

該技術(shù)實(shí)際上與深度學(xué)習(xí)運(yùn)用的技術(shù)一樣，這意味著在面對(duì)深度偽造帶來(lái)的潛在風(fēng)險(xiǎn)時(shí)，不是全部禁止深度偽造技術(shù)的應(yīng)用，而是有效管控其風(fēng)險(xiǎn)，尤其是對(duì)可能造成特定傷害的深度偽造的虛假信息進(jìn)行規(guī)制，同時(shí)不妨礙其在教育、藝術(shù)、社交、虛擬現(xiàn)實(shí)、個(gè)人發(fā)展、醫(yī)療等等領(lǐng)域的應(yīng)用。

深度偽造技術(shù)是AI發(fā)展到一定階段的產(chǎn)物，技術(shù)本身是中立的。技術(shù)并不導(dǎo)致社會(huì)矛盾，只是技術(shù)的出現(xiàn)加劇了這種社會(huì)矛盾。所以我們不應(yīng)該因此而禁止深度偽造技術(shù)。與此相比，更重要的是提高針對(duì)深度偽造的檢測(cè)技術(shù)、完善相關(guān)認(rèn)證機(jī)制。

這是一個(gè)眼見(jiàn)為實(shí)的世界，所有人都相信自己親眼看到的事情，但是隨著人工智能技術(shù)的不斷發(fā)展，眼見(jiàn)有時(shí)也絕非為實(shí)，它給人們根深蒂固的觀念帶來(lái)了沖擊。

但與此同時(shí)也有越來(lái)越多人在學(xué)習(xí)、研發(fā)相關(guān)的檢測(cè)技術(shù)，掌握判斷真?zhèn)蔚募寄�。隨著深度偽造技術(shù)越來(lái)越成熟，相應(yīng)的檢測(cè)深度偽造的技術(shù)也會(huì)越來(lái)越先進(jìn)，這將是一場(chǎng)永無(wú)休止的競(jìng)賽。