首页 > 业界 > 关键词  > nGPT最新资讯  > 正文

英伟达nGPT重塑Transformer,AI训练速度暴增20倍!文本越长,加速越快

2024-10-21 08:39 · 稿源: 新智元公众号

【新智元导读】LLM训练速度还可以再飙升20倍!英伟达团队祭出全新架构归一化Transformer(nGPT),上下文越长,训练速度越快,还能维持原有精度。AI的未来,或许就此改写......最近,英伟达团队抛出的一枚重磅炸弹,提出了全新神经网络架构——归一化Transformer(nGPT),基于超球

......

本文由站长之家合作伙伴自媒体作者“新智元公众号”授权发布于站长之家平台,本平台仅提供信息索引服务。由于内容发布时间超过平台更新维护时间,为了保证文章信息的及时性,内容观点的准确性,平台将不提供完全的内容展现,本页面内容仅为平台搜索索引使用。需阅读完整内容的用户,请查看原文,获取内容详情。

举报

  • 相关推荐
  • 微软以Maia 280开启新局对垒英伟达,Meta/微美全息开源联动引领AI创新

    微软自研AI芯片Braga因设计问题延期至2026年,将推出过渡产品Maia280,性能或提升30%。微软原计划2025年量产Braga芯片以减少对英伟达的依赖,但延期导致后续产品线同步推迟。面对英伟达在AI芯片领域的主导地位(市占率超80%,年销售额增长10倍),微软正调整战略转向更务实的迭代路线。与此同时,Meta成立"超级智能团队"加速AI研发,微美全息押注量子计算等前沿技术。行业分析师认为,由于英伟达技术迭代速度极快(年增长32%),多数企业自研芯片计划可能最终难以抗衡其市场领导地位。

  • 英伟达Blackwell Ultra芯片商用落地,微美全息以“算力+开源”领航AI科技新程

    英伟达与CoreWeave合作推出新一代AI芯片Blackwell Ultra,该芯片已实现商业部署,采用液冷技术,包含72个GPU和36个CPU。Blackwell Ultra的AI内容生成能力是前代产品的50倍,预计今年批量出货。英伟达凭借高性能AI芯片近乎垄断市场,年利润超5000亿元,市值逼近4万亿美元,有望成为全球市值最高公司。微软推迟自研AI芯片发布,转向过渡性设计方案。微美全息专注AI芯片技术布局,构建多元化技术生态,推动产业协同,成为全球AI芯片竞赛重要参与者。当前AI产业进入大规模商业化关键阶段,算力需求持续高涨,推动企业向算力数智化迁移。消费电子领域,AI赋能传统智能终端,新型智能硬件结合AI创造增量需求,关注算力产业链技术创新配套机遇。

  • 攀升科技携手英伟达亮相BW2025,RTX主机限时福利大放送

    7月11-13日,攀升科技以"乐玩AI+趣享攀升"为主题亮相Bilibili World 2025展会。现场设立GeForce RTX体验区,玩家可试玩《永劫无间》等游戏,感受RTX50系列显卡带来的极致画质和DLSS4技术。重点展示AI技术在游戏中的创新应用,如通过NVIDIA ACE技术实现AI队友语音互动。展会期间推出多款优惠主机:RTX5060主机搭载i5-14600KF处理器,48G DDR5内存,享政府补贴后到手价优;RTX5070主机采用Blackwell架构,AI算力达988TOPS,原价10699元,补贴后仅8699元。攀升科技诚邀玩家亲临4A18展位体验RTX技术魅力。

  • 攀升科技携手英伟达亮相BW2025,RTX主机限时福利大放送

    攀升科技将于7月11-13日亮相Bilibili World 2025展会,以"乐玩AI+趣享攀升"为主题,携手英伟达带来RTX50系列显卡体验。现场可试玩《永劫无间》《漫威争锋》等游戏,体验全景光线追踪和DLSS4技术。重点展示AI在游戏中的创新应用,如通过NVIDIA ACE技术创建智能NPC队友。展会期间推出RTX5060/5070主机优惠,5060主机搭载i5-14600KF处理器和48G DDR5内存,5070主机AI算力达988TOPS,支持DLSS4技术。参与现场活动可获购机福利,抖音旗舰店下单享政府补贴最高立省2000元。展会地点为上海国家会展中心4A18展位。

  • 一键解决无障碍出行,华人创立的Transreport拿到了英国“国王企业奖”

    伦敦无障碍出行服务公司Transreport荣获2025年度英国"国王企业奖"创新类奖项。该公司由华人创业者沈星杰2015年创立,通过移动App和后台系统为残障人士提供一键预约高铁、机场等场所的照护服务。其创新技术已支持超700万次援助请求,拥有全球100万用户。目前正拓展日本、中东市场,与阪急集团合作将于2025年在日本推出服务。该奖项由英国国王亲自颁发,表彰其在推动交通系统现代化和无障碍出行领域的突出贡献。

  • 英伟达成首家市值超4万亿美元公司

    科技巨头英伟达在资本市场大放异彩,股价上涨2.5%,报收于163.9美元/股,凭借这一表现,其总市值成功攀升至4万亿美元,一举成为全球首家市值突破这一惊人关口的公司,再次刷新了资本市场的纪录。 在全球市值排名中,英伟达稳坐头把交椅,微软以3.74万亿美元的市值位居第二,苹果则以3.14万亿美元位列第三。

  • ChatGPT们重塑了对话框,钉钉今天要重塑表格

    ​自从1979年,丹·布里克林(Dan Bricklin)和鲍勃·弗兰克斯顿(Bob Frankston)在苹果当时划时代的 Apple II 电脑上做出了第一张可以自动计算和更新的电子表格 VisiCalc 后,表格就成为了计算机用数据方式理解人类世界的基座。不过,在更多的时候,没人这样讨论它。横横竖竖几个格子,表格无处不在,它看起来太普通了。 然而计算机诸多繁荣的根基,都建立在一张张表格之上,无�

  • 英伟达股价创新高 市值3.89万亿美元

    在7月4日美国独立日假期前的短暂交易日中,英伟达(NVDA.US)股价强劲上涨1.33%,盘中一度触及历史新高160.98美元,最终市值定格在3.89万亿美元,这一成绩不仅彰显了英伟达在资本市场的非凡实力,更标志着其成为全球科技产业的新标杆。

  • 华为云盘古预测大模型首创 Triplet Transformer 统一预训练架构

    6月20日,华为发布盘古大模型5.5,五大基础模型全面升级。该模型采用业界首创的Triplet+Transformer统一预训练架构,能跨行业处理表格数据、时间序列数据和图片数据,显著提升预测精度和泛化能力。已在水泥、钢铁、电解铝、供热等多个工业场景落地应用:海螺水泥实现熟料强度预测,宝武钢铁高炉出铁温度合格率超90%,云南铝业年省电2600万度,天津供热能耗降低10%。模型聚焦工业领域,通过工艺优化和系统寻优,助力企业降本增效,推动行业智能化转型。

  • AI与量子科技融合浪潮来袭,英伟达/微美全息竞速抢抓量子计算战略机遇期

    湖南湘江新区正加速推动量子科技从实验室走向应用,量子产业初具规模。湖南长期深耕量子技术研发,推动量子科技实现从技术到产业的跨越。量子计算作为前沿技术,已在金融、医药等领域进入应用探索阶段。英伟达CEO黄仁勋预测量子计算将迎来拐点,未来几年可解决现实问题。微美全息等企业正构建量子计算生态,开发基于FPGA的数字量子协处理器,突破现有硬件局限。量子计算商用仍需10-20年发展,但已成为大国核心技术竞争领域,各国加大政策支持力度。量子科技发展将增强技术自主能力,是科技创新的重要里程碑。