文/陳根

近日，“妙鴨相機”爆火。

作為一款A(yù)I寫真小程序，我們只要通過這個小程序，上傳一定數(shù)量的照片，選擇好模版，就可以一鍵生成AI風(fēng)格化寫真，包括肖像照、藝術(shù)照、證件照等。

雖然首次生成需要支付9.9元的數(shù)字分身制作費，不過，相比動輒幾百上千的攝影工作室約拍價格，9塊9幾乎是可以“無腦沖”的程度。妙鴨相機在爆火的同時，也引發(fā)了人們對于AI寫真的倫理與安全問題的擔(dān)憂。

AI寫真面臨的倫理與安全問題之所以會被關(guān)注，核心原因就在于基于AI的技術(shù)進入了真正落地應(yīng)用的階段，不論是寫真，還是醫(yī)療，或者是文本，都會面臨安全與倫理的問題。但AI寫真的安全與倫理問題相對比較急迫，不僅牽涉到潛在的詐騙問題，更會牽涉到借助于AI生成技術(shù)導(dǎo)致的一些照片與小視頻換臉問題。

同時，在AI寫真技術(shù)目前，肖像權(quán)的保護與個人肖像隱私，以及基于人臉識別系統(tǒng)的一些安全措施都將面臨著根本性的挑戰(zhàn)。尤其是包括妙鴨在內(nèi)的各種AI照片寫真與合成技術(shù)，對于用戶而言在使用之前更重要關(guān)注的是這些平臺數(shù)據(jù)的安全保護措施。

對于擁有這些人像生成AI技術(shù)的平臺而言，當(dāng)前首先考慮的并不是商業(yè)化的問題，而是如何保障用戶數(shù)據(jù)庫的安全，這些數(shù)據(jù)庫的安全不僅牽涉到用戶隱私安全，還牽涉到國家安全層面。

因此，我們看到白宮在前幾日緊急召集AI巨頭企業(yè)到白宮商議對策。這讓我們看到了正在到來的人工智能時代，人類社會已經(jīng)有了明確的基本共識，就是要借助于技術(shù)的約束來讓AI技術(shù)服務(wù)于人類，讓AI成為人類社會的效率提升工具。要借助于有效的技術(shù)方式，保障AI在安全與可控的倫理范圍內(nèi)發(fā)展。 

AI巨頭在白宮的壓力下，提出了八項技術(shù)的安全措施。這可以說是全世界所有從事于AI開發(fā)與訓(xùn)練企業(yè)需要學(xué)習(xí)的地方，就是在追求AI技術(shù)發(fā)展的同時，必須要考慮對AI技術(shù)的監(jiān)管，以及要考慮AI萬一偏離設(shè)想后的風(fēng)險管控與干預(yù)。

訓(xùn)練AI服務(wù)于人類社會很難，但是如何再AI自我學(xué)習(xí)的情況下，能夠管控AI不偏離服務(wù)人類社會的這個設(shè)想更難。

       原文標(biāo)題 : 陳根：妙鴨相機爆火之下，AI寫真的安全問題怎么辦？