4月23日，在2025年云网智联大会主论坛，中国移动研究院携手中国通信标准化协会、中国信息通信研究院、华为、中兴、博通、新华三、上海贝尔、锐捷、思博伦、盛科等10余家合作伙伴，联合发布了《分布式推理网络（Distributed Inference Network，DIN）技术白皮书》，中国移动研究院副院长段晓东、中国信息通信研究院科技委主任蒋林涛、中国通信标准化协会TC3主席赵慧玲及合作伙伴代表共同出席了发布仪式，中国移动研究院基础网络技术研究所副所长程伟强对白皮书进行了解读。
2025年，随着DeepSeekAI大模型的火爆，DAU增长速度不断刷新行业记录。然而，随着海量并发用户请求访问，服务器资源被大量消耗，多次出现网页和API无法访问的情况。同时，AI大模型的火爆也吸引了攻击者使用多种技术和手段持续攻击。随着普惠AI推理时代的到来，用户访问需求及网络流量模型将出现新的变化，需要考虑构建以AI业务为核心的训推融合的网络。针对AI推理服务爆发式增长，当前面临AI推理基础设施能力不足，AI推理网络技术待完善炒股配资平台排名，AI服务网络安全防护能力待提升等挑战。
分布式推理网络（DIN）是中国移动研究院面向普惠AI服务提出的新型网络架构，采用“端-边-云-网”分布式协同架构，融合运营商协议可编程和网络流量感知调度能力的优势，面向用户实现“推理无处不在、智能触手可及、服务体验最优”，面向推理服务提供商实现“模型随需部署、随需更新、弹性调度、高效应对海量并发”的目标。DIN通过微流级流控、层次化细粒度切片以及以太网相干PHYSec等技术，达成广域纳级丢包、微秒级抖动、多层次安全等目标，支撑算网一体安全推理、边云协同后训练、模型分层协同、大小模型协同、训推协同进化、PD分离协同等多种端边云协同模式，有效应对十亿级用户、IOT的海量并发推理挑战，助力AI推理普惠化发展。
目前，中国移动在福建已成功完成业界首个分布式推理网络DIN技术试点，现网验证了算网安一体机推理、大小模型协同推理、PD分离推理服务场景及关键技术。现网验证表明，算网安一体推理可满足企业分支安全访问总部推理服务，可有效保障模型数据安全和推理访问安全；通过大小模型协同，用户可按需访问边缘或远端DeepSeek 7B/70B/671B不同参数模型；通过PD分离技术，可在满足相同业务SLA条件下有效节省计算资源成本，同时验证了用户体验无劣化情况下，PD分离可拉远距离200-300km。本次试点为进一步完善分布式推理网络DIN技术体系、拓展业务场景、推动形成产业共识、助力全民AI普惠业务的发展打下坚实基础。
下一步，中国移动在分布式推理网络方面，将联合产业共同构建融合端、边、网、算的DIN技术体系和标准体系，解决大模型在个人（ToC）、家庭（ToH）及企业（ToB）应用中的成本、效率与场景适配难题，并在实践中与合作伙伴形成AI推理时代的新商业模式，助力加速全社会普惠AI时代到来。
扫码下载白皮书
]article_adlist-->
海量资讯、精准解读，尽在新浪财经APP
联富配资提示：文章来自网络，不代表本站观点。
热点资讯
