近日消息，據(jù)界面新聞報道，多個微信群流傳一則消息：“某頭部大廠的大模型訓練被實習生入侵，注入了破壞代碼，導致其訓練成果不可靠，可能需要重新訓練。據(jù)稱遭到入侵的代碼注入了 8000 多張卡，帶來的損失可能超過千萬美元。”
據(jù)知情人士處透露，該頭部大廠為字節(jié)跳動。此事發(fā)生在今年 6 月，起因是某高校的博士在字節(jié)跳動商業(yè)化技術團隊實習，因?qū)F隊資源分配不滿，使用攻擊代碼破壞團隊的模型訓練任務。截至目前，官方未進行回應。
傳聞顯示，該田姓實習生利用了 HF（注：huggingface）的漏洞，在公司的共享模型里寫入破壞代碼，導致模型的訓練效果忽高忽低，無法產(chǎn)生預期的訓練效果，而且 AML 團隊無法核查原因。但傳聞曝出之后，該實習生還在某微信群里辟謠稱，自己發(fā)完論文后就從字節(jié)跳動離職，這個當口有另一個人鉆漏洞改模型代碼，把鍋扣到自己頭上。
知情人士稱，字節(jié)跳動內(nèi)部已經(jīng)調(diào)查明確此事為田姓實習生所為。目前，該實習生已被辭退，字節(jié)跳動同時把此事同步給陽光誠信聯(lián)盟和企業(yè)反舞弊聯(lián)盟，以及該實習生所在的給學校。但這名實習生被辭退后到處“辟謠”甩鍋，稱是其他人所為。
報道稱，該實習生攻擊的并不是豆包大模型，而是商業(yè)化技術團隊的模型訓練任務，影響了該技術團隊的一些業(yè)務進展，但整體對公司造成的損失并沒有傳聞中的超過千萬美元那么大。
原創(chuàng)文章，作者：潮玩君，如若轉(zhuǎn)載，請注明出處：http://leeannwhittemore.com/article/687155.html
