12月13日，聯(lián)合國(guó)《特定常規(guī)武器公約》第六次審議大會(huì)在日內(nèi)瓦開幕。中國(guó)裁軍大使李松率團(tuán)出席，并提交了中國(guó)《關(guān)于規(guī)范人工智能軍事應(yīng)用的立場(chǎng)文件》，呼吁各國(guó)通過對(duì)話與合作，就如何規(guī)范人工智能軍事應(yīng)用尋求共識(shí)，構(gòu)建普遍參與的有效國(guó)際治理機(jī)制，避免人工智能軍事應(yīng)用給人類帶來重大損害。

中國(guó)提交的《立場(chǎng)文件》表明，中國(guó)反對(duì)用AI武器發(fā)動(dòng)戰(zhàn)爭(zhēng)。李松表示：“各國(guó)在發(fā)展人工智能武器系統(tǒng)方面應(yīng)保持克制，人工智能的軍事應(yīng)用不應(yīng)成為發(fā)動(dòng)戰(zhàn)爭(zhēng)和謀求霸權(quán)的工具，反對(duì)利用人工智能技術(shù)謀求絕對(duì)軍事優(yōu)勢(shì)，損害他國(guó)主權(quán)和領(lǐng)土安全�！�

此外，中方呼吁，AI武器應(yīng)該永遠(yuǎn)處于人類的控制之下，李松表示：“要不斷提升人工智能技術(shù)的安全性、可靠性、可控性，增強(qiáng)人工智能安全評(píng)估和管控能力，確保人工智能武器永遠(yuǎn)處于人類控制之下。要對(duì)人工智能軍事應(yīng)用加強(qiáng)監(jiān)管，降低擴(kuò)散風(fēng)險(xiǎn)�！�

【美國(guó)拒簽AI殺手機(jī)器人的禁用協(xié)議】

據(jù)了解，聯(lián)合國(guó)自2017年以來一直在日內(nèi)瓦舉行外交對(duì)話，旨在就解決AI殺手機(jī)器人的使用問題達(dá)成協(xié)議。但迄今為止，各國(guó)甚至就是否需要對(duì)此類武器進(jìn)行管控也尚未達(dá)成一致意見。

許多國(guó)家提議盡快簽訂法定協(xié)議，限制殺手機(jī)器人這類武器的使用，包括智利、墨西哥、巴西、阿根廷、菲律賓、巴勒斯坦等，新西蘭在11月30日亦表示將會(huì)推動(dòng)相關(guān)禁令。

12月2日，本次聯(lián)合國(guó)《特定常規(guī)武器公約》第六次審議大會(huì)前的討論會(huì)上，美國(guó)拒絕簽訂禁用AI殺手機(jī)器人的法定協(xié)議。

美國(guó)代表喬希·多羅辛（Josh Dorosin）在會(huì)上說：“我們認(rèn)為，取得進(jìn)展的最佳方式是起草一份沒有法律約束力的行為準(zhǔn)則�！倍嗔_辛認(rèn)為，行為準(zhǔn)則就能夠督促國(guó)家負(fù)責(zé)并遵守國(guó)際法。此外，印度也拒絕簽訂該項(xiàng)協(xié)議。

以美國(guó)和印度為代表的反對(duì)立法國(guó)認(rèn)為，就算他們不研發(fā)殺手機(jī)器人，其他國(guó)家也會(huì)。

麻省理工學(xué)院物理學(xué)終身教授、未來生命研究所創(chuàng)始人Max Tegmark教授認(rèn)為這樣的說法不成立，他認(rèn)為，聯(lián)合國(guó)以往通過立法禁用生化武器，已經(jīng)成功地限制了生化武器的廣泛使用，而殺手機(jī)器人跟生化武器一樣，便宜且致命！

【人民網(wǎng)發(fā)文：莫讓人工智能技術(shù)走入歧途】

12月3日，美國(guó)拒絕簽訂禁用AI殺手機(jī)器人的法定協(xié)議后，我國(guó)人民網(wǎng)隨即發(fā)表題為《莫讓人工智能技術(shù)走入歧途》的文章。

文章表示：“從實(shí)際情況看，美國(guó)、俄羅斯、日本、英國(guó)、印度等主要國(guó)家均認(rèn)識(shí)到人工智能軍事應(yīng)用的顛覆性力量，積極發(fā)展和部署智能化武器系統(tǒng)。一些中小國(guó)家為借助智能武器系統(tǒng)獲得挑戰(zhàn)大國(guó)的非對(duì)稱優(yōu)勢(shì)，也對(duì)其趨之若鶩。從他們的所作所為來看，都是為了謀求一己私利，企圖利用人工智能技術(shù)鞏固自身軍事優(yōu)勢(shì)�！�

【中國(guó)首次就規(guī)范AI軍事應(yīng)用提出倡議】

12月13日，本次聯(lián)合國(guó)《特定常規(guī)武器公約》第六次審議大會(huì)上，中國(guó)提交的《關(guān)于規(guī)范人工智能軍事應(yīng)用的立場(chǎng)文件》，是中國(guó)首次就規(guī)范人工智能軍事應(yīng)用問題提出倡議。

以下是文件全文：

《中國(guó)關(guān)于規(guī)范人工智能軍事應(yīng)用的立場(chǎng)文件》

人工智能技術(shù)的快速發(fā)展及其廣泛應(yīng)用，正深刻改變?nèi)祟惿�產(chǎn)和生活方式，給世界帶來巨大機(jī)遇的同時(shí)，也帶來難以預(yù)知的安全挑戰(zhàn)。特別值得關(guān)注的是，人工智能技術(shù)的軍事應(yīng)用，在戰(zhàn)略安全、治理規(guī)則、道德倫理等方面可能產(chǎn)生深遠(yuǎn)影響和潛在風(fēng)險(xiǎn)。

人工智能安全治理是人類面臨的共同課題。隨著人工智能技術(shù)在各領(lǐng)域的廣泛應(yīng)用，各方普遍對(duì)人工智能軍事應(yīng)用乃至武器化風(fēng)險(xiǎn)感到擔(dān)憂。

在世界和平與發(fā)展面臨多元挑戰(zhàn)的背景下，各國(guó)應(yīng)秉持共同、綜合、合作、可持續(xù)的全球安全觀，通過對(duì)話與合作，就如何規(guī)范人工智能軍事應(yīng)用尋求共識(shí)，構(gòu)建有效的治理機(jī)制，避免人工智能軍事應(yīng)用給人類帶來重大損害甚至災(zāi)難。

加強(qiáng)對(duì)人工智能軍事應(yīng)用的規(guī)范，預(yù)防和管控可能引發(fā)的風(fēng)險(xiǎn)，有利于增進(jìn)國(guó)家間互信、維護(hù)全球戰(zhàn)略穩(wěn)定、防止軍備競(jìng)賽、緩解人道主義關(guān)切，有助于打造包容性和建設(shè)性的安全伙伴關(guān)系，在人工智能領(lǐng)域踐行構(gòu)建人類命運(yùn)共同體理念。

我們歡迎各國(guó)政府、國(guó)際組織、技術(shù)企業(yè)、科研院校、民間機(jī)構(gòu)和公民個(gè)人等各主體秉持共商共建共享的理念，協(xié)力共同促進(jìn)人工智能安全治理。

為此，我們呼吁：

——戰(zhàn)略安全上，各國(guó)尤其是大國(guó)應(yīng)本著慎重負(fù)責(zé)的態(tài)度在軍事領(lǐng)域研發(fā)和使用人工智能技術(shù)，不謀求絕對(duì)軍事優(yōu)勢(shì)，防止加劇戰(zhàn)略誤判、破壞戰(zhàn)略互信、引發(fā)沖突升級(jí)、損害全球戰(zhàn)略平衡與穩(wěn)定。

——軍事政策上，各國(guó)在發(fā)展先進(jìn)武器裝備、提高正當(dāng)國(guó)防能力的同時(shí)，應(yīng)銘記人工智能的軍事應(yīng)用不應(yīng)成為發(fā)動(dòng)戰(zhàn)爭(zhēng)和追求霸權(quán)的工具，反對(duì)利用人工智能技術(shù)優(yōu)勢(shì)危害他國(guó)主權(quán)和領(lǐng)土安全的行為。

——法律倫理上，各國(guó)研發(fā)、部署和使用相關(guān)武器系統(tǒng)應(yīng)遵循人類共同價(jià)值觀，堅(jiān)持以人為本，秉持“智能向善”的原則，遵守國(guó)家或地區(qū)倫理道德準(zhǔn)則。各國(guó)應(yīng)確保新武器及其作戰(zhàn)手段符合國(guó)際人道主義法和其他適用的國(guó)際法，努力減少附帶傷亡、降低人員財(cái)產(chǎn)損失，避免相關(guān)武器系統(tǒng)的誤用惡用，以及由此引發(fā)的濫殺濫傷。

——技術(shù)安全上，各國(guó)應(yīng)不斷提升人工智能技術(shù)的安全性、可靠性和可控性，增強(qiáng)對(duì)人工智能技術(shù)的安全評(píng)估和管控能力，確保有關(guān)武器系統(tǒng)永遠(yuǎn)處于人類控制之下，保障人類可隨時(shí)中止其運(yùn)行。人工智能數(shù)據(jù)的安全必須得到保證，應(yīng)限制人工智能數(shù)據(jù)的軍事化使用。

——研發(fā)操作上，各國(guó)應(yīng)加強(qiáng)對(duì)人工智能研發(fā)活動(dòng)的自我約束，在綜合考慮作戰(zhàn)環(huán)境和武器特點(diǎn)的基礎(chǔ)上，在武器全生命周期實(shí)施必要的人機(jī)交互。各國(guó)應(yīng)始終堅(jiān)持人類是最終責(zé)任主體，建立人工智能問責(zé)機(jī)制，對(duì)操作人員進(jìn)行必要的培訓(xùn)。

——風(fēng)險(xiǎn)管控上，各國(guó)應(yīng)加強(qiáng)對(duì)人工智能軍事應(yīng)用的監(jiān)管，特別是實(shí)施分級(jí)、分類管理，避免使用可能產(chǎn)生嚴(yán)重消極后果的不成熟技術(shù)。各國(guó)應(yīng)加強(qiáng)對(duì)人工智能潛在風(fēng)險(xiǎn)的研判，包括采取必要措施，降低人工智能軍事應(yīng)用的擴(kuò)散風(fēng)險(xiǎn)。

——規(guī)則制定上，各國(guó)應(yīng)堅(jiān)持多邊主義、開放包容的原則。為跟蹤技術(shù)發(fā)展趨勢(shì)，防范潛在安全風(fēng)險(xiǎn)，各國(guó)應(yīng)開展政策對(duì)話，加強(qiáng)與國(guó)際組織、科技企業(yè)、技術(shù)社群、民間機(jī)構(gòu)等各主體交流，增進(jìn)理解與協(xié)作，致力于共同規(guī)范人工智能軍事應(yīng)用并建立普遍參與的國(guó)際機(jī)制，推動(dòng)形成具有廣泛共識(shí)的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范。

——國(guó)際合作上，發(fā)達(dá)國(guó)家應(yīng)幫助發(fā)展中國(guó)家提升治理水平，考慮到人工智能技術(shù)的軍民兩用性質(zhì)，在加強(qiáng)監(jiān)管和治理的同時(shí)，避免采取以意識(shí)形態(tài)劃線、泛化國(guó)家安全概念的做法，消除人為制造的科技壁壘，確保各國(guó)充分享有技術(shù)發(fā)展與和平利用的權(quán)利。