首页 > 业界 > 关键词  > 正文

突破大算力瓶颈:华为支持超万亿参数大模型训练 等效于18000张卡

2023-09-23 15:52 · 稿源: 快科技

快科技9月22日消息,在华为全联接大会2023期间,华为正式发布全新架构的昇腾AI计算集群Atlas 900 SuperCluster,可支持超万亿参数的大模型训练。

华为常务董事、ICT基础设施业务管理委员会主任、企业BG总裁汪涛介绍,新集群采用全新的华为星河AI智算交换机CloudEngine XH16800,借助其高密的800GE端口能力,两层交换网络即可实现2250节点(等效于18000张卡)超大规模无收敛集群组网。

新集群同时使用了创新的超节点架构,大大提升了大模型训练能力。

此外,发挥华为在计算、网络、存储、能源等领域的综合优势,从器件级、节点级、集群级和业务级全面提升系统可靠性,将大模型训练稳定性从天级提升到月级。

为了加速大模型创新,华为发布了更开放、更易用的CANN7.0,不仅全面兼容业界的AI框架、加速库和主流大模型,还深度开放底层能力,让AI框架和加速库可以更直接地调用和管理计算资源,使能开发者自定义高性能算子。

汪涛表示,随着人工智能进入大模型时代,大算力正在成为人工智能发展的核心引擎。华为改变传统的服务器堆叠模式,以系统架构创新打造AI集群,实现算力、运力、存力的一体化设计,突破大算力瓶颈。

举报

  • 相关推荐
  • “孙正义损失超180000亿韩元”,WeWork为何迅速崩塌?

    诺伊曼将 WeWork 定义为科技公司,自称是“线下的Facebook”“地产界的Uber”。孙正义于 2017 年投资 44 亿美元,助推其扩张步伐……

  • 1800亿身家的小红书放手一搏

    在靠近IPO的路上,小红书选择了一条与抖音截然相反的道路。 五年前,当抖音斩断直播外链、决意自建电商闭环时,它开启了一个流量霸主蜕变为电商巨头的时代。五年后,面对同样的选择题,小红书却“逆行”——重新向昔日的竞争对手阿里、京东敞开怀抱,将自己精心培育的“种草”流量直接导向外部交易平台。 近期,小红书先后与阿里和京东升级了战略合作,以提高�

  • 学生发现教授用ChatGPT生成课件,要求退费 8000 美元

    越来越多教师也在使用 AI 来批改作业 —— 有时还用得相当“笨拙”。与此同时,学生利用 AI 作弊的现象正在变得越来越普遍……

  • 中国石油发布3000亿参数昆仑大模型:华为、中国移动、科大讯飞联合打造

    日前,中国石油发布3000亿参数昆仑大模型,标志着中国石油在人工智能领域迈出关键一步。 据了解,昆仑大模型由中国石油、中国移动、华为、科大讯飞联合打造,2024年8月完成备案,成为中国能源化工行业首个通过备案的大模型。 去年8月28日,330亿参数昆仑大模型发布,11月28日又发布700亿参数昆仑大模型。

  • 小米汽车5月交付量超过28000台:正在为YU7大规模量产做准备

    今天上午,小米汽车官微宣布,2025年5月,小米汽车交付量超过28000台。官方还表示,我们正在为小米YU7大规模量产做准备。 目前小米在售的汽车共有4款,分别是小米SU7标准版、SU7 Pro、SU7 Max和SU7 Ultra,起售价分别是21.59万元、24.59万元、29.99万元和52.99万元。

  • 40万级最狂新能源家用SUV!全新问界M8上市34天大定破80000台

    鸿蒙智行全新问界M8上市34天订单突破8万台,创品牌最快大定记录。新车定位40万级大五座/六座SUV,售价35.98-44.98万元,填补M7与M9市场空白。采用全新鲲鹏跃境设计语言,配备华为百万像素智慧投影大灯、专属迎宾灯语等科技配置。内饰搭载一体穹顶屏、副驾独立影院及AR-HUD,后排零重力座椅支持43度调节。安全方面采用八横五纵车身架构,2000MPa潜艇级钢占比27%,通过严苛碰撞测试。搭载华为乾崑ADS+4.0智驾系统,配备192线激光雷达和4D毫米波雷达。动力采用双电机四驱,零百加速5.2秒,CLTC纯电续航310公里,综合续航1526公里。底盘配备双腔空悬+EDC减振器,转弯半径仅5.9米。

  • 阿里云”618创新加速季“开启:先进、领先的大模型限免 超7000万 token,加速多场景 AI 应用落地

    阿里云启动"618创新加速季"活动,聚焦AI创新与云端智能,推出多项优惠:1)提供7000万+免费大模型token体验及最高1728元优惠券;2)通义大模型限免超7000万token,推出10-100元多档资源包,GPU服务0.9折起;3)PAI平台推出通用节省计划,最低3折;4)针对中小企业推出AI火花会主题活动,提供场景化定制服务;5)基础云产品全线优惠,包括轻量服务器38元/年、RDS MySQL 88元/年等。活动还包含5亿算力补贴计划、10万元出海满减券等专项支持,助力企业智能化升级。

  • 华为系最贵豪车!尊界S800上市1小时大定破1000台

    日前,尊界首款车型尊界S800正式发布,新车共分为6个版本,售价区间70.8万元至101.8万元,这是鸿蒙智行迄今为止发布的最贵车型。 根据官方发布的海报,尊界S800上市1小时大定量就突破了1000台,先行者计划仅剩219席。 另据多位博主透露,定购100万的版本占比非常高。 据了解,尊界S800先行者计划将于6月26日开始交付,限量599台,8月中旬开始规模批量交付。

  • 尊界S800首发800V雪鹄增程系统:纯电续航400km行业最长

    今日晚间,尊界汽车举办尊界S800上市发布会。余承东介绍,尊界S800提供纯电、增程两款动力系统。 其中,增程版首发800V雪鹄增程系统,配备65度大电池,支持6C快充,从10%充至80%仅需10.5分钟。 并且,雪鹄增程系统为800V高压智能增程,拥有超过80kW的发电功率,即时亏电状态下,150km/h的时速下,动力仍不衰减。 得益于大电池包,尊界S800双电机版拥有400km行业最长的纯电续航

  • 芯片界“变形金刚”:清微智能超2000万颗出货,重构AI算力新范式

    第七届北京智源大会成功举办,清微智能作为国产可重构芯片架构领导者受邀出席,展示前沿国产算力技术成果。公司首次官宣可重构芯片累计出货量突破2000万颗,成为全球销量领先的可重构芯片厂商。清微依托清华20年技术积淀,坚持高阶国产替代路径,已量产TX8与TX5两大系列十余款芯片,为AI智算中心、大模型等场景提供算力支持。公司还与智源研究院深化合作共建FlagOS生态,并与华为同期加入FlagTree,共同打造统一自主的国产AI芯片软件生态。清微通过"芯片+模型"软硬协同模式重构国内AI生态,成为高阶国产替代赛道的长期主义样本。