三星率先接入ChatGPT狂飆，但在20天內(nèi)翻車了。

韓媒消息，三星電子引入ChatGPT不到20天，就曝出 3 起內(nèi)部機(jī)密資料外泄事故。其中，2 起跟半導(dǎo)體設(shè)備有關(guān)，1 起跟會議內(nèi)容有關(guān)。

目前，這些機(jī)密資料已被存入 ChatGPT 的數(shù)據(jù)庫中，或?qū)��?dǎo)致半導(dǎo)體設(shè)備測量資料、產(chǎn)品良率原封不動傳輸給了美國公司。

怎么出的事？

本次三星使用 ChatGPT 泄密事件共有 3 起，2 起與半導(dǎo)體設(shè)備有關(guān)，1 項(xiàng)與會議內(nèi)容有關(guān)。

設(shè)計(jì)芯片設(shè)備的事件中，三星半導(dǎo)體事業(yè)暨裝置解決方案（Device Solutions）部門的員工于操作半導(dǎo)體測試設(shè)備下載軟件的過程中，發(fā)現(xiàn)復(fù)制有問題，即把有問題的代碼復(fù)制到 ChatGPT 中尋找答案，此舉有可能令 ChatGPT 把三星的機(jī)密信息當(dāng)作訓(xùn)練資料使用。

另一事件同樣發(fā)生在該部門，借助 ChatGPT 來優(yōu)化代碼，只不過此代碼是涉及芯片良率的。三星 DS 部門于 3月 11日才允許員工使用 ChatGPT，不到 20 天時(shí)間便出現(xiàn)了意外。

第三起則是讓 ChatGPT 記錄會議內(nèi)容，雖然不是技術(shù)機(jī)密，但仍可能導(dǎo)致會議內(nèi)容外泄。

三星的反應(yīng)

目前，三星正在制定相關(guān)保護(hù)措施杜絕類似事故再發(fā)生。綜合 Economist、SBS 等韓媒消息，三星方面稱，如遇類似事故，三星內(nèi)部可能會切斷 ChatGPT 服務(wù)。

如果切斷一旦發(fā)生，三星“運(yùn)算新事業(yè)組”所研發(fā)的“新一代超大型 AI 方向定制款存儲器”這一明星項(xiàng)目也將被叫停，這對三星的損失是巨大的。

最初三星也因擔(dān)憂內(nèi)部機(jī)密外泄而禁用 ChatGPT，不過基于半導(dǎo)體是“生成式 AI”的建構(gòu)基礎(chǔ)，三星自2023年3月11日起放行 DS 部門使用 ChatGPT，但裝置體驗(yàn)（Device eXperience；DX）部門仍禁用 ChatGPT。

三星在 ChatGPT 的使用指南中也特別呼吁職員注意 ChatGPT 的使用方式，并提醒使用者在 ChatGPT 輸入內(nèi)容后，相關(guān)資料都將傳送到外部服務(wù)器無法回收。

三星 DS 部門放行 ChatGPT 不到20天，就出現(xiàn)內(nèi)部機(jī)密資料外泄疑慮，證實(shí)先前部分觀點(diǎn)的擔(dān)憂，三星也在認(rèn)知內(nèi)部資料外泄風(fēng)險(xiǎn)后，緊急將每一個(gè) ChatGPT提問容量限制在 1，024 byte 以下，日后不排除懲處。

信息泄露引發(fā)廣泛憂慮

數(shù)據(jù)安全公司Cyberhaven的研究人員分析了不同行業(yè)客戶的160 萬員工的ChatGPT 使用情況——企業(yè)員工平均每周向 ChatGPT 泄露敏感數(shù)據(jù)達(dá)數(shù)百次，一周內(nèi)約有 10萬名員工的機(jī)構(gòu)，向基于 AI 的聊天機(jī)器人提供機(jī)密文件199 次、客戶數(shù)據(jù)173 次，以及源代碼159 次。

隨著更多服務(wù)通過API 集成ChatGPT技術(shù)，在未來幾個(gè)月內(nèi)信息安全事件可能會迅速增加。

出于對機(jī)密數(shù)據(jù)泄露的憂慮，美國銀行、花旗集團(tuán)、德意志銀行、高盛集團(tuán)、富國銀行、摩根大通和 Verizon 等越來越多的機(jī)構(gòu)禁止員工使用 ChatGPT 聊天機(jī)器人處理工作任務(wù)。

許多日本大公司也限制了ChatGPT 和類似聊天機(jī)器人的商業(yè)用途。該名單包括軟銀、富士通、瑞穗金融集團(tuán)、三菱日聯(lián)銀行、三井住友銀行等。

三星被爆信息泄露第二天，意大利國家數(shù)據(jù)保護(hù)局宣布全國范圍內(nèi)禁用 ChatGPT。緣因?qū)?OpenAI 公司的調(diào)查中出現(xiàn)了“數(shù)據(jù)泄露”“非法收集用戶信息”等危險(xiǎn)行為。

可見，技術(shù)帶來的數(shù)據(jù)安全隱患，包括數(shù)據(jù)獲取、隱私泄露、惡意濫用、跨境合規(guī)等等，正在不斷引發(fā)各方重視。