首页 > 传媒 > 关键词  > 智算网络最新资讯  > 正文

业界首例中国电信完成长距跨DC分布式无损智算推理网络技术验证

2025-08-23 23:01 · 稿源: 站长之家用户

近日,中国电信广东公司联合中国电信研究院,在智算网络领域实现重大技术突破,成功完成 Deepseek-671B 满血版长距跨数据中心(DC)分布式无损智算推理网络的技术验证验证。该成果为企业按需扩容算力及推理数据本地化存储提供了突破性的技术解决方案,标志着中国电信在智算网络技术创新上迈出关键一步。

图1中国电信广东公司跨DC分布式无损智算推理试验环境

本次实验将推理的Prefill任务放在边缘节点执行,部署少量算力,模拟企业园区数据中心,将推理的Decode任务放在云上,部署更多的算力,云、边之间通过KV Cache进行协同,有效降低推理服务成本,提升边缘节点的推理服务体验。本次实验基于昇腾PD分离的大 EP 推理架构,对 DeepSeek671B 满血版模型开展压力验证,系统评估了8:1、32:1、64:1三种带宽收敛比下的运行表现。结果显示,凭借智算无损网络低延迟、高吞吐的特性,结合 PD 分离架构设计,即使在带宽收敛比64:1、百公里级长距拉远场景下,TTFT、TPOT、Throughput三个关键指标可以达到同DC场景的99%,仍能充分满足推理服务的 SLA 要求,既保障远端算力资源稳定高效支持企业 AI 推理任务,又严格满足数据不出园区的安全要求。

这一技术突破为企业算力部署模式带来革命性变革。依托智算无损网络,企业仅需在园区部署少量算力服务器结合云端海量的算力资源,即可实现算力资源的灵活调用,有效降低硬件投入成本,突破物理空间限制。而 PD 分离架构则通过数据与处理分离的创新设计,全方位保障数据在传输与处理过程中的安全性,为企业核心数据资产筑牢安全防线。

此次验证的圆满成功,不仅彰显了中国电信在智算网络领域的技术实力,更为 AI 技术的普及应用奠定了坚实基础。未来,中国电信将持续深化与行业伙伴的合作,加速智算网络技术创新与落地实践,全力助推企业数字化转型,为数字经济高质量发展注入强劲动能。

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐

今日大家都在搜的词: