12月8日消息,業(yè)界中國(guó)聯(lián)通宣布,首次算分術(shù)新中國(guó)聯(lián)通研究院日前與浙江聯(lián)通、中國(guó)聯(lián)通服裝制造軍團(tuán)協(xié)同攻關(guān),聯(lián)通離技針對(duì)AI敏感數(shù)據(jù)的大模本地存儲(chǔ)異地訓(xùn)練需求提出了創(chuàng)新的業(yè)務(wù)模式,并成功在杭州與金華兩地間實(shí)施了業(yè)界首次30TB樣本數(shù)據(jù)的型存跨200公里存算分離拉遠(yuǎn)訓(xùn)練。
經(jīng)過(guò)實(shí)際測(cè)算,突破訓(xùn)練效率高達(dá)97%以上。業(yè)界
中國(guó)聯(lián)通表示,首次算分術(shù)新上述業(yè)務(wù)模式為業(yè)界首例,中國(guó)實(shí)現(xiàn)了AI大模型存算分離技術(shù)的聯(lián)通離技突破。
通過(guò)測(cè)試,大模充分驗(yàn)證了存算分離技術(shù)的型存安全性、可行性和高效性,突破為未來(lái)AI技術(shù)的業(yè)界發(fā)展提供了新的思路和方向。
據(jù)介紹,存算分離技術(shù)是指將存儲(chǔ)數(shù)據(jù)的倉(cāng)庫(kù)和對(duì)數(shù)據(jù)進(jìn)行計(jì)算的加工廠(chǎng)獨(dú)立開(kāi)來(lái),在訓(xùn)練時(shí)直接將數(shù)據(jù)從遠(yuǎn)端存儲(chǔ)設(shè)備中拉過(guò)來(lái)進(jìn)行計(jì)算,而不需要先存儲(chǔ)到本地的磁盤(pán)再進(jìn)行處理,可以有效保證用戶(hù)數(shù)據(jù)的安全性和一致性。
本次存算拉遠(yuǎn)測(cè)試的主要特色包括:
跨地市AI大模型訓(xùn)練能力創(chuàng)新:傳統(tǒng)的智算集中訓(xùn)練模式需要用戶(hù)將樣本上傳到智算中心進(jìn)行落盤(pán)訓(xùn)練,但部分用戶(hù)對(duì)隱私樣本落盤(pán)存在安全顧慮,浙江聯(lián)通通過(guò)IP廣域無(wú)損方案,實(shí)現(xiàn)了杭州存、金華訓(xùn)的“數(shù)據(jù)不落盤(pán)”拉遠(yuǎn)訓(xùn)練,為企業(yè)用戶(hù)隱私樣本訓(xùn)練探索出了一條新路。
樣本數(shù)據(jù)總量與傳輸效率:樣本數(shù)據(jù)總量達(dá)30TB,傳輸距離超200公里,計(jì)算拉遠(yuǎn)效率大于97%。通過(guò)聯(lián)通服裝制造軍團(tuán)“衣瞳行業(yè)模型”的AI訓(xùn)練存算分離現(xiàn)網(wǎng)測(cè)試,充分驗(yàn)證了針對(duì)AI訓(xùn)練業(yè)務(wù)存算拉遠(yuǎn)的技術(shù)可行性。