2025年7月19日,中國聯(lián)通在合作伙伴大會期間舉辦CUBE-Net 3.0新突破--下一代互聯(lián)網(wǎng)系列成果發(fā)布會,中國聯(lián)通集團(tuán)建設(shè)發(fā)展部副總經(jīng)理呂洪濤、中國聯(lián)通研究院副院長唐雄燕、上海聯(lián)通副總經(jīng)理歐大春、華為數(shù)據(jù)通信產(chǎn)品線路由器領(lǐng)域總裁蔡駿等相關(guān)領(lǐng)導(dǎo)上臺發(fā)布業(yè)界首個隱私數(shù)據(jù)零泄露的分布式訓(xùn)推試點(diǎn)成果。
當(dāng)前,DeepSeek正加速推進(jìn)AI普惠化,各行各業(yè)紛紛布局AI推理應(yīng)用,助力企業(yè)數(shù)智化轉(zhuǎn)型向縱深發(fā)展。然而,對于大多企業(yè)用戶來說,自建AI算力受限于成本、機(jī)房場地及供電等因素,而租用云端算力,又擔(dān)心數(shù)據(jù)離開企業(yè)園區(qū)會造成泄露不安全。因此如何保障靈活便捷的算力供應(yīng),同時又滿足企業(yè)客戶對數(shù)據(jù)安全的訴求,成為智算服務(wù)快速惠及千行百業(yè)的關(guān)鍵問題。
中國聯(lián)通面向隱私數(shù)據(jù)保護(hù)與數(shù)據(jù)安全需求,成功在上海金橋與臨港數(shù)據(jù)中心間完成了業(yè)界首例基于模型分割學(xué)習(xí)的分布式邊云協(xié)同訓(xùn)推技術(shù)方案驗(yàn)證,通過部署AINet智算網(wǎng)關(guān),以輕量化網(wǎng)絡(luò)升級實(shí)現(xiàn)分割學(xué)習(xí)、邊云協(xié)同和無損網(wǎng)絡(luò)融合創(chuàng)新,解決隱私數(shù)據(jù)敏感型用戶在使用AI訓(xùn)推服務(wù)中的痛點(diǎn)問題,提供更加安全可靠的人工智能服務(wù)。
在邊云協(xié)同訓(xùn)練場景下,在企業(yè)側(cè)部署輕量級算卡資源,通過PP并行模式與云側(cè)智算中心算力進(jìn)行協(xié)同訓(xùn)練,樣本和模型首尾層部署在企業(yè)本地,保障樣本數(shù)據(jù)不出園區(qū);按需租賃運(yùn)營商智算中心算力資源,僅部署模型中間層,接收/發(fā)送激活值、梯度值。云邊算力之間通過智算IP廣域網(wǎng)連接,高效、無損傳輸激活值、梯度值數(shù)據(jù)。當(dāng)前基于Llama 2模型實(shí)測,與云上集中訓(xùn)練相比,算效損失小于3%。
在邊云協(xié)同推理場景下,在企業(yè)側(cè)部署輕量級算卡資源,通過模型分割學(xué)習(xí)與云側(cè)智算中心算力進(jìn)行協(xié)同推理,Embedding&Unembedding層及模型首尾層部署在企業(yè)園區(qū)本地,保障Prompt不出園區(qū);按需租賃運(yùn)營商智算中心算力資源,僅部署模型中間層,接收/發(fā)送隱變量。云邊算力之間通過智算IP廣域網(wǎng)連接,高效傳輸隱變量數(shù)據(jù)。當(dāng)前基于DeepSeek模型實(shí)測,邊云協(xié)同推理吞吐達(dá)到集中推理吞吐95%以上。
中國聯(lián)通研究院副院長、首席科學(xué)家唐雄燕介紹,以網(wǎng)強(qiáng)算,以算賦智,通過網(wǎng)絡(luò)技術(shù)創(chuàng)新實(shí)現(xiàn)AI服務(wù)的普惠化是網(wǎng)絡(luò)升級演進(jìn)的重要方向。分布式邊云協(xié)同訓(xùn)推方案解決了AI訓(xùn)推服務(wù)過程中的用戶隱私數(shù)據(jù)安全的痛點(diǎn)問題,滿足了智算業(yè)務(wù)面向云化發(fā)展的需求,不僅可以實(shí)現(xiàn)算網(wǎng)資源靈活協(xié)同,也實(shí)現(xiàn)了隱私訓(xùn)推數(shù)據(jù)“0”泄露。
未來,中國聯(lián)通持續(xù)推進(jìn)算網(wǎng)一體服務(wù)創(chuàng)新,不斷豐富和完善分布式邊云協(xié)同訓(xùn)推方案的核心內(nèi)涵。通過提供高品質(zhì)的算網(wǎng)一體化服務(wù),加速企業(yè)AI應(yīng)用規(guī)模化普及,促進(jìn)產(chǎn)業(yè)升級與效率提升,驅(qū)動企業(yè)數(shù)智化轉(zhuǎn)型,為社會經(jīng)濟(jì)的高質(zhì)量發(fā)展持續(xù)貢獻(xiàn)力量。