首页 > 业界 > 关键词  > 正文

华为提出全新压缩算法:节省70%内存占用

2025-01-24 21:31 · 稿源: 快科技

华为AI算法团队在人工智能领域取得重大进展,成功开发出创新的大模型KV Cache压缩算法“RazorAttention”。

该算法表现出色,可节省高达70%的大模型推理内存占用,为AI大模型的高效运行奠定基础。

RazorAttention算法已发表论文,并被国际顶级深度学习会议ICLR 2025收录。华为指出,该算法是业界首次基于Attention可解释性开发的离线静态KV Cache压缩算法。

通过检索头机制,RazorAttention算法确保上下文中的关键信息不丢失,实现了高精度(误差低于1%)和高效压缩。其压缩率可达70%,显著降低了AI大模型推理成本。

目前,RazorAttention算法已集成至昇腾MindIE/MindStudio产品中,支持主流8K~1M长序列KV Cache压缩,并可在32K以上场景中提升20%的吞吐量。

举报

  • 相关推荐
  • 全系标配702km续航!全新小鹏G7预售:23.58万起能爆款吗

    刚刚,全新小鹏G7开启预售,该车分为Max和Ultra两种版本,价格为23.58万元。 G7采用了家族式设计风格,定位中型SUV,提供多达六种外观配色以及四种内饰配色。 其长宽高分别为4892mm x 1925mm x 1655mm,轴距2890mm,88%超大得房率,后备厢尺寸多大819升,最大可扩展空间至2277L,可容纳37个20寸行李箱,同时还提供干湿分离前备箱。 内饰极简风格,取消了仪表盘,用上与华为合作打造

  • 米家空调Pro系列推送OTA:压缩机升级全工况6Hz变频算法

    小米官方发文宣布,米家空调Pro系列OTA今日起陆续推送,升级了全新的压缩机控制算法,覆盖新风和上出风系列产品。 这次OTA主要就是全面优化了双缸压缩机控制算法,升级为全工况6Hz变频算法”。

  • 360荣膺“杰出生态伙伴奖”,与华为共建数字安全新范式

    360漏洞研究院凭借全链路漏洞攻防技术优势,荣获2024年度华为终端安全杰出生态伙伴奖,彰显其在全球数字安全领域的标杆地位。作为华为终端安全生态战略技术伙伴,360通过"AI+安全"双轮驱动构建深度协同模式,双方共建AI赋能的漏洞挖掘、威胁研判和应急响应闭环机制,显著提升高危漏洞挖掘效率和应急响应准确率。自2018年起,360已连续多年获得华为安全奖项,并持续刷新国际安全领域纪录,包括十余次登上BlackHat全球顶级安全峰会发布前沿研究成果,多次获得微软MSRC、天府杯等国际奖项。360将持续深化与产业龙头企业的技术协同,加速构建自主可控的数字安全新生态。

  • 华为Pura 80系列支持全新个性色卡:参数实时可调

    华为Pura 80系列今日正式发布,XMAGE色彩也再次升级,除了原生色卡还有新增的个性色卡。 拍前拍后色卡参数都可实时调整,一共有胶片风格、电影风格、动漫风格,也可以直接导入别人的色号使用,创作更简单了。

  • 夺命盲区背后,G7易流用数字技术重构货运安全新防线

    文章揭示了货车存在的"死亡弯月"等视觉盲区安全隐患,指出70%货车亡人事故发生在右转弯时。通过北京一起电动车试图超越货车导致死亡的案例,说明盲区危险无处不在。G7易流推出的360°智能盲区监测系统采用毫米波雷达+4K摄像头技术,能精准覆盖传统设备盲区,并建立三级防护体系:AI监督司机行为、六边形模型评估风险、智能平台闭环管理。该方案已帮助某物流实现事故率下降86%,覆盖全国20多个城市50万+高风险路段。文章强调科技不仅要提升效率,更应守护生命安全,构建"人-车-路"协同防护网。

  • 平安租赁融惠GO 全新升级,火热进行中

    平安租赁作为行业领先的创新租赁专家,通过"融资+融物"模式深度赋能产业链。2025年全新升级的"融惠GO"活动聚焦汽车、酒店、城市基建等五大场景,联动全国10城50家门店推出购车优惠,并创新酒店业供应链金融方案。公司累计投放超万亿支持实体经济,通过产业节等活动推动产融结合,以定制化金融方案助力中小企业设备升级,持续优化产业生态,释放实体经济发展动能。

  • 华为Pura 80系列预装鸿蒙5.1:小艺全新升级AI视觉能力 随身导游

    今天下午华为Pura 80系列正式发布,新机出厂搭载最新的鸿蒙5.1系统,为用户带来前所未有的智能体验。 其中,全新小艺再升级,新増AI视觉识别能力,能够精准捕捉并理解用户需求,识别周边的一切。

  • 余承东宣布华为Pura 80系列首发全新小艺智能体:动动嘴就能订机票、购物

    日前,华为常务董事、终端BG董事长余承东发布视频,介绍他的新助理小艺帮帮忙,并宣布将于8月在华为Pura80系列首发上线。 在视频中,余承东演示了用小艺订机票、在华为商城买手机、在华为视频缓存影视作品的过程,全程语音操控,十分方便。 据了解,在2025年华为开发者大会上,华为启动HarmonyOS6开发者Beta,鸿蒙智能体框架(HMAF)首次登场。

  • 首次提供单电机 全新理想i6申报:李想问了一个尖锐的问题

    在最新一批次工信部申报名录中,理想汽车全新纯电SUV车型i6现身其中,其采用与理想i8近似的外观设计,将于今年9月上市。 正面看去,i6延续了i8的设计方案,车头仍然类似于高铁车头的流线设计,以降低风阻,前大灯组位于前包围处。 前风挡采用大倾角,车顶配备一个尺寸更小的ATL全天候激光雷达,在前风挡下部是环形的贯穿式日行灯,两侧还有两个黄色的小灯。 新车�

  • 猛玛携全新极影生态,支持FIRST训练营青年电影创作

    2025年6月17日,猛玛发布新一代无线图传监视器极影5,标志着"极影图传生态"进入2.0阶段。该产品配备1500nit超高亮屏、160°超广视角、双频协同+自动跳频等七大功能,专为中小型影视团队设计。极影5与极影全系图传设备和"立声PRO"通话系统共同构建无线音视频支持体系,服务青年电影人创作实践。同时,猛玛宣布成为第十九届FIRST青年电影展官方指定无线音视频技术品牌,将为42位入选青年电影人提供技术支持。猛玛自2017年推出首款专业无线图传以来,已服务《流浪地球》《长安十二时辰》等头部剧组,逐步确立"国产专业图传首选品牌"的行业地位。