本次“生成式 AI 服務(wù)管理辦法公布征求意見(jiàn)稿”的意見(jiàn)反饋截止時(shí)間為 2023 年 5 月 10 日。

針對(duì)爆火的生成式 AI 產(chǎn)業(yè)，各國(guó)政府和科技巨頭正在加速規(guī)范政策的出臺(tái)以應(yīng)對(duì)。

“國(guó)標(biāo)”誕生始末

該國(guó)家標(biāo)準(zhǔn)是由鵬城實(shí)驗(yàn)室網(wǎng)絡(luò)智能研究部副主任田永鴻教授帶領(lǐng)的云腦項(xiàng)目團(tuán)隊(duì)牽頭制定，華為、百度、北京大學(xué)等 16 家單位共同編制。屬于該項(xiàng)目團(tuán)隊(duì)在 AI 模型領(lǐng)域全球標(biāo)準(zhǔn)體系化布局中國(guó)內(nèi)標(biāo)準(zhǔn)推進(jìn)工作的重要成果。

2017 年 12 月，鵬城實(shí)驗(yàn)室云腦項(xiàng)目團(tuán)隊(duì)正式啟動(dòng)了標(biāo)準(zhǔn)研制。在標(biāo)準(zhǔn)推進(jìn)策略上，云腦項(xiàng)目團(tuán)隊(duì)采用國(guó)際國(guó)內(nèi)“兩條腿”模式，根據(jù)標(biāo)準(zhǔn)研制中不同標(biāo)準(zhǔn)化組織相關(guān)方的反饋對(duì)標(biāo)準(zhǔn)進(jìn)行迭代優(yōu)化。

第一條腿邁向國(guó)際。

2022年，云腦項(xiàng)目團(tuán)隊(duì)牽頭在 IEEE 成功發(fā)布《Standard for Artificial Intelligence （AI） Model Representation， Compression， Distribution and Management》標(biāo)準(zhǔn)（《人工智能（AI）模型表示 、壓縮 、分發(fā)和管理標(biāo)準(zhǔn)》），該標(biāo)準(zhǔn)在前期工作的基礎(chǔ)上進(jìn)一步結(jié)合了全球領(lǐng)域內(nèi)更廣泛的意見(jiàn)，形成了更具有國(guó)際市場(chǎng)適配性的全球首個(gè) AI 模型國(guó)際標(biāo)準(zhǔn)，云腦項(xiàng)目團(tuán)隊(duì)后來(lái)還在國(guó)際電信聯(lián)盟電信標(biāo)準(zhǔn)分局 ITU－T 成功立項(xiàng)新一代 AI 模型表示技術(shù)標(biāo)準(zhǔn)。

第二條腿深踞國(guó)內(nèi)。

2021 年 10 月 21 日，云腦團(tuán)隊(duì)在新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟 AITISA 發(fā)布了《信息技術(shù) 神經(jīng)網(wǎng)絡(luò)表示與模型壓縮第一部分：卷積神經(jīng)網(wǎng)絡(luò)》團(tuán)體標(biāo)準(zhǔn)，并在該團(tuán)體標(biāo)準(zhǔn)的基礎(chǔ)上進(jìn)行迭代優(yōu)化，最終形成了本次發(fā)布的國(guó)標(biāo)。至此，首個(gè)全球 AI 模型表示與壓縮技術(shù)標(biāo)準(zhǔn)體系布局基本成型。

該系列標(biāo)準(zhǔn)根據(jù)當(dāng)前 AI 產(chǎn)業(yè)界在資源受限設(shè)備和 AI 模型部署方面的需求，管理辦法涉及的生成式人工智能包括基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。

該系列部分標(biāo)準(zhǔn)已在 AI 開(kāi)發(fā)框架（百度）、AI 芯片（華為海思）和 AI 開(kāi)放平臺(tái)（海康威視）等領(lǐng)域得到應(yīng)用。本次發(fā)布的系列標(biāo)準(zhǔn)輻射到 AMD Xilinx 賽靈思等國(guó)際 AI 領(lǐng)軍公司。

網(wǎng)信辦公開(kāi)征求意見(jiàn)

國(guó)家網(wǎng)信辦就《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》公開(kāi)征求意見(jiàn)，意見(jiàn)反饋截止時(shí)間為2023年5月10日。

網(wǎng)信辦稱(chēng)，為促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》等法律法規(guī)，國(guó)家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》，現(xiàn)向社會(huì)公開(kāi)征求意見(jiàn)。

重要看點(diǎn)有——

1、國(guó)家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國(guó)際合作，鼓勵(lì)優(yōu)先采用安全可信的軟件、工具、計(jì)算和數(shù)據(jù)資源。

2、利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會(huì)主義核心價(jià)值觀，不得含有顛覆國(guó)家政權(quán)、推翻社會(huì)主義制度，煽動(dòng)分裂國(guó)家、破壞國(guó)家統(tǒng)一，宣揚(yáng)恐怖主義、極端主義，宣揚(yáng)民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂經(jīng)濟(jì)秩序和社會(huì)秩序的內(nèi)容。

3、利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息。

4、禁止非法獲取、披露、利用個(gè)人信息和隱私、商業(yè)秘密。

5、利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個(gè)人（以下稱(chēng)“提供者”）承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任；涉及個(gè)人信息的，承擔(dān)個(gè)人信息處理者的法定責(zé)任，履行個(gè)人信息保護(hù)義務(wù)。

6、提供者發(fā)現(xiàn)用戶利用生成式人工智能產(chǎn)品過(guò)程中違反法律法規(guī)，違背商業(yè)道德、社會(huì)公德行為時(shí)，包括從事網(wǎng)絡(luò)炒作、惡意發(fā)帖跟評(píng)、制造垃圾郵件、編寫(xiě)惡意軟件，實(shí)施不正當(dāng)?shù)纳虡I(yè)營(yíng)銷(xiāo)等，應(yīng)當(dāng)暫�；蛘呓K止服務(wù)。

7、提供者應(yīng)當(dāng)明確并公開(kāi)其服務(wù)的適用人群、場(chǎng)合、用途，采取適當(dāng)措施防范用戶過(guò)分依賴(lài)或沉迷生成內(nèi)容。

8、用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)當(dāng)向國(guó)家網(wǎng)信部門(mén)申報(bào)安全評(píng)估。

9、提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)生成的圖片、視頻等內(nèi)容進(jìn)行標(biāo)識(shí)。

10、提供者在提供服務(wù)過(guò)程中，對(duì)用戶的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù)。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據(jù)用戶輸入信息和使用情況進(jìn)行畫(huà)像，不得向他人提供用戶輸入信息。

11、提供者應(yīng)當(dāng)對(duì)生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來(lái)源的合法性負(fù)責(zé)。對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn)，明確并公開(kāi)其服務(wù)的適用人群、場(chǎng)合、用途，對(duì)用戶的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù)。

國(guó)外科技巨頭正在推進(jìn)生成式AI標(biāo)準(zhǔn)出臺(tái)