近日，在中國(guó)云網(wǎng)智聯(lián)大會(huì)期間，中國(guó)移動(dòng)研究院攜手華為及產(chǎn)業(yè)合作伙伴，重磅發(fā)布了《分布式推理網(wǎng)絡(luò)（Distributed Inference Network，DIN）技術(shù)白皮書》，聚焦AI發(fā)展面臨的挑戰(zhàn)，定義了分布式推理網(wǎng)絡(luò)的目標(biāo)架構(gòu)，結(jié)合分布式計(jì)算、邊緣智能和動(dòng)態(tài)調(diào)度技術(shù)，加速普惠AI發(fā)展進(jìn)入“推理時(shí)刻”。
AI普惠發(fā)展面臨三大挑戰(zhàn)
2025年，隨著DeepSeek等AI大模型的火爆，DAU增長(zhǎng)速度不斷刷新行業(yè)記錄。然而，隨著海量并發(fā)用戶請(qǐng)求訪問，服務(wù)器資源迅速耗盡，多次出現(xiàn)網(wǎng)頁(yè)和API無(wú)法訪問的情況。同時(shí)，AI大模型的火爆也吸引攻擊者使用多種技術(shù)和手段持續(xù)攻擊。上述問題暴露了AI大模型規(guī)模應(yīng)用面臨的三大挑戰(zhàn)：AI推理基礎(chǔ)設(shè)施能力不足、AI推理網(wǎng)絡(luò)架構(gòu)及技術(shù)待完善、AI服務(wù)網(wǎng)絡(luò)安全防護(hù)能力待提升。
分布式推理網(wǎng)絡(luò)架構(gòu)及關(guān)鍵技術(shù)
DIN采用分布式架構(gòu)，實(shí)現(xiàn)端、邊、網(wǎng)、算的有效協(xié)同，提供差異化、高安全、高并發(fā)、高頻次、高并發(fā)的網(wǎng)絡(luò)連接服務(wù)保障。
關(guān)鍵技術(shù)一：節(jié)點(diǎn)間互聯(lián)質(zhì)量保障技術(shù)。為滿足推理業(yè)務(wù)的低時(shí)延、高可靠、大帶寬等需求，邊緣推理設(shè)備如新一代AI路由器及智能單板等，基于AI進(jìn)行應(yīng)用精準(zhǔn)識(shí)別，根據(jù)AI推理呈現(xiàn)應(yīng)用級(jí)QoE，按照業(yè)務(wù)需要實(shí)現(xiàn)路徑調(diào)優(yōu)或精準(zhǔn)擴(kuò)容，實(shí)現(xiàn)應(yīng)用級(jí)差異化、確定性的體驗(yàn)保障。同時(shí)，分布式推理業(yè)務(wù)催生了海量數(shù)據(jù)高效傳輸需求，這對(duì)廣域網(wǎng)絡(luò)提出了“零丟包”和“極低抖動(dòng)”的雙重挑戰(zhàn)，彈性無(wú)損、流級(jí)流控等關(guān)鍵技術(shù)實(shí)時(shí)感知網(wǎng)絡(luò)擁塞狀況，基于精準(zhǔn)流控反壓、層次化細(xì)粒度切片實(shí)現(xiàn)網(wǎng)絡(luò)無(wú)損和微秒級(jí)抖動(dòng)等極致性能。
關(guān)鍵技術(shù)二：推理服務(wù)的調(diào)度技術(shù)。模型調(diào)度是DIN的主要功能之一，旨在根據(jù)用戶需求、設(shè)備性能、網(wǎng)絡(luò)狀態(tài)等多重因素，按需動(dòng)態(tài)生成業(yè)務(wù)調(diào)度策略，將業(yè)務(wù)沿最佳路徑調(diào)度到目的推理服務(wù)節(jié)點(diǎn)。通過(guò)高效的模型調(diào)度，DIN能夠在復(fù)雜多變的環(huán)境中實(shí)現(xiàn)資源的智能分配，為用戶提供低延遲、高可用的AI服務(wù)，同時(shí)降低運(yùn)營(yíng)成本。
關(guān)鍵技術(shù)三：模型推理安全防護(hù)技術(shù)。DIN利用嵌入AI技術(shù)，具備入侵檢測(cè)和防御能力，與安全平臺(tái)協(xié)同，做到惡意流量快速感知、自動(dòng)阻斷；通過(guò)以太網(wǎng)相干PHYSec技術(shù)對(duì)模型分發(fā)、KV Cache等數(shù)據(jù)實(shí)現(xiàn)低時(shí)延、零開銷的物理層比特流安全加密，防止百公里鏈路傳遞過(guò)程中被中間節(jié)點(diǎn)竊取或篡改。
展望未來(lái)，華為積極配合中國(guó)移動(dòng)實(shí)現(xiàn)分布式推理網(wǎng)絡(luò)的演進(jìn)和部署，通過(guò)華為AI WAN解決方案優(yōu)勢(shì)，助力中國(guó)移動(dòng)構(gòu)建融合端、邊、網(wǎng)、算的DIN技術(shù)體系和標(biāo)準(zhǔn)體系，解決大模型在個(gè)人、家庭及企業(yè)應(yīng)用中的成本、效率與場(chǎng)景適配難題，加速AI普惠化發(fā)展，引領(lǐng)邁向全面智能社會(huì)。 
