字節(jié)跳動(dòng)大模型遭實(shí)習(xí)生破壞?公司稱損失上千萬(wàn)美元嚴(yán)重夸大
AI發(fā)展途中,哪怕是大廠的內(nèi)控制度仍需加強(qiáng)
大模型也能被“投毒”?
近日,有消息稱字節(jié)跳動(dòng)發(fā)生大模型訓(xùn)練被實(shí)習(xí)生“投毒”事件。
據(jù)流傳,該事件發(fā)生在字節(jié)跳動(dòng)商業(yè)化團(tuán)隊(duì),因?qū)嵙?xí)生田某某對(duì)團(tuán)隊(duì)資源分配不滿,利用HF(huggingface)的漏洞,通過(guò)共享模型注入破壞代碼,導(dǎo)致團(tuán)隊(duì)模型訓(xùn)練成果受損。消息稱此次遭到入侵的代碼已注入8000多張卡,損失或達(dá)千萬(wàn)美元。
而在19日下午,字節(jié)跳動(dòng)官方也出面進(jìn)行了澄清,表示有媒體稱“字節(jié)跳動(dòng)大模型訓(xùn)練被實(shí)習(xí)生攻擊”,經(jīng)公司內(nèi)部核實(shí),確有商業(yè)化技術(shù)團(tuán)隊(duì)實(shí)習(xí)生發(fā)生嚴(yán)重違紀(jì)行為,該實(shí)習(xí)生已被辭退。
不過(guò),雖然有相關(guān)事件,但相關(guān)報(bào)道也存在部分夸大及失實(shí)信息,涉事實(shí)習(xí)生惡意干擾商業(yè)化技術(shù)團(tuán)隊(duì)研究項(xiàng)目的模型訓(xùn)練任務(wù),但并不影響商業(yè)化的正式項(xiàng)目及線上業(yè)務(wù),也不涉及字節(jié)跳動(dòng)大模型等其他業(yè)務(wù)。另外,網(wǎng)傳“涉及8000多卡、損失上千萬(wàn)美元”嚴(yán)重夸大。
經(jīng)核實(shí),涉事人一直在商業(yè)化技術(shù)團(tuán)隊(duì)實(shí)習(xí),并沒(méi)有AI Lab實(shí)習(xí)經(jīng)歷。其社交媒體個(gè)人簡(jiǎn)介及部分媒體報(bào)道有誤。據(jù)悉,該實(shí)習(xí)生已在8月被公司辭退。公司也將其行為同步給行業(yè)聯(lián)盟和所在學(xué)校,交由校方處理。
但是,此事件也暴露出了字節(jié)跳動(dòng)技術(shù)訓(xùn)練中存在的安全管理問(wèn)題,包括權(quán)限隔離、共用代碼的審計(jì)等。據(jù)九派新聞報(bào)道,一位技術(shù)安全專家表示,HF漏洞產(chǎn)生肯定是單一性集中訓(xùn)練,公司既沒(méi)做權(quán)限隔離,也沒(méi)有做好共用代碼的審計(jì)。正常情況下,每次大的代碼變動(dòng)必須做審計(jì),無(wú)論誰(shuí)做操作都有痕跡記錄,一個(gè)人想動(dòng)代碼是不可能的。
作者:楊啟隆
編輯:丁力
原文標(biāo)題 : 字節(jié)跳動(dòng)大模型遭實(shí)習(xí)生破壞?公司稱損失上千萬(wàn)美元嚴(yán)重夸大

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
3月27日立即報(bào)名>> 【工程師系列】汽車電子技術(shù)在線大會(huì)
-
4月30日立即下載>> 【村田汽車】汽車E/E架構(gòu)革新中,新智能座艙挑戰(zhàn)的解決方案
-
5月15-17日立即預(yù)約>> 【線下巡回】2025年STM32峰會(huì)
-
即日-5.15立即報(bào)名>>> 【在線會(huì)議】安森美Hyperlux™ ID系列引領(lǐng)iToF技術(shù)革新
-
5月15日立即下載>> 【白皮書(shū)】精確和高效地表征3000V/20A功率器件應(yīng)用指南
-
5月16日立即參評(píng) >> 【評(píng)選啟動(dòng)】維科杯·OFweek 2025(第十屆)人工智能行業(yè)年度評(píng)選
推薦專題
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達(dá)AI統(tǒng)治的開(kāi)始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 4 “AI寒武紀(jì)”爆發(fā)至今,五類新物種登上歷史舞臺(tái)
- 5 國(guó)產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計(jì)算迎來(lái)商業(yè)化突破,但落地仍需時(shí)間
- 7 東陽(yáng)光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開(kāi)成長(zhǎng)空間
- 8 地平線自動(dòng)駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營(yíng)收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機(jī)器人東風(fēng)翻身?