首页 > 传媒 > 关键词  > 正文

腾讯云星脉网络获AI网络创新大会“标杆应用奖”

2023-10-24 15:10 · 稿源: 站长之家用户

今日,记者获悉,在 2023 年度AI网络创新大会上,腾讯云星脉网络获得了“标杆应用奖”。大会由中国通信学会主办,该奖项旨在表彰具有强商业价值、高服务水平和显著应用效益的优秀AI网络行业应用案例。

星脉网络是腾讯云自研的大模型专属高性能网络。基于腾讯云新一代算力集群HCC,可支持 10 万卡的超大计算规模;同时,星脉网络具备业界比较高的3.2T通信带宽,时延降到10us-40us,丢包率降到0,为AI大模型带来 10 倍通信性能提升,提升40%的GPU利用率,节省30%-60%的模型训练成本。

腾讯云副总裁王亚晨在现场的分享中介绍了星脉网络。星脉网络基于高速以太网络技术进行构建,为腾讯混元大模型提供了高性能互联底座。

王亚晨指出,随着AI大模型的不断发展,对网络的传输和稳定提出了新的需求。传统的网络架构已经越来越满足不了大模型训练的需求。

腾讯云副总裁王亚晨

千亿、万亿参数规模的大模型,训练过程中通信占比比较大可达50%,传统低速网络的带宽远远无法支撑。同时,传统网络协议容易导致网络拥塞、高延时和丢包,而仅0.1%的网络丢包就可能导致50%的算力损失,最终造成算力资源的严重浪费。大带宽、高利用率、信息无损,是AI大模型时代网络面临的核心挑战。

基于全面自研能力,腾讯云在交换机、通信协议、通信库以及运营系统等方面,进行了软硬一体的升级和创新,率先推出业界领先的大模型专属高性能网络——星脉网络。

在硬件方面,星脉网络基于腾讯的网络研发平台,采用全自研设备构建互联底座,实现自动化部署和配置。

在软件方面,腾讯云自研的TiTa网络协议,采用先进的拥塞控制和管理技术,能够实时监测并调整网络拥塞,满足大量服务器节点之间的通信需求,确保数据交换流畅、延时低,实现高负载下的零丢包,使集群通信效率达90%以上。

此外,腾讯云还为星脉网络设计了高性能集合通信库TCCL,融入定制化解决方案,使系统实现了微秒级感知网络质量。结合动态调度机制合理分配通信通道,可以避免因网络问题导致的训练中断等问题,让通信时延降低40%。

网络的可用性,也决定了整个集群的计算稳定性。为确保星脉网络的高可用,腾讯云自研了端到端的全栈网络运营系统,通过端网立体化监控与智能定位系统,将端网问题自动定界分析,让整体故障的排查时间由天级降低至分钟级。同时,大模型训练系统的整体部署时间从 19 天缩减至4. 5 天,保证基础配置高准确。

2023 AI网络创新大会由中国通信学会指导,中国通信学会信息通信网络技术委员会、江苏省未来网络创新研究院主办,SDNLAB协办;邀请运营商、互联网公司、设备厂商代表、高校与科研单位代表,围绕AI下的网络互连架构、AI网络设备、高性能网络传输技术、网络调度与资源分配等议题进行分享交流,搭建国内头个AI网络垂直交流平台,为AI行业稳健发展夯实网络基础设施,以技术创新升级驱动赋能网络发展。

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 大家在看

今日大家都在搜的词:

热文

  • 3 天
  • 7天