首页 > 业界 > 关键词  > LLM最新资讯  > 正文

中国科学院团队首篇LLM模型压缩综述:细聊剪枝、知识蒸馏、量化技术

2023-08-27 10:56 · 稿源: 机器之心公众号

随着 LLM 的突破性工作逐渐放缓,对于如何让更多人使用 LLM 成为时下热门的研究方向,模型压缩可能是 LLM 未来的一个出路。此前 OpenAI 首席科学家 Ilya Sutskever 表示可以通过压缩的视角来看待无监督学习。本文首次总结了关于 LLM 的四种模型压缩方法,并提出了未来进一步研究的

......

本文由站长之家合作伙伴自媒体作者“机器之心公众号”授权发布于站长之家平台,本平台仅提供信息索引服务。由于内容发布时间超过平台更新维护时间,为了保证文章信息的及时性,内容观点的准确性,平台将不提供完全的内容展现,本页面内容仅为平台搜索索引使用。需阅读完整内容的用户,请查看原文,获取内容详情。

举报

  • 相关推荐
  • 小红书正式上线RED Skill功能,发力AI Skill创新生态

    6月8日,小红书正式上线RED Skill功能,创作者可在笔记中直接嵌入AI Skill组件,用户点击即可一键复制口令并安装至个人Agent使用,无需跳转第三方。平台推出“RED Skill大赏”扶持活动,并计划完善Skill站内使用功能。目前已有近千个原创Skill发布,相关创作者达30万,话题曝光超6亿。此举旨在降低AI Skill分发门槛,构建从创造、种草到转化的创新社区生态。

  • 弃购率超70%,Upsello携手飞诺门阵押注电商AI导购

    Upsello与飞诺门阵科技成立合资公司,将独立站聊天框从“客服入口”转型为“销售入口”。其AI智能导购能识别用户购买意图,结合商品、订单、优惠等数据,主动完成推荐、挽单、跟进等动作,而非仅回答问题。实测显示,该方案可使AOV提升10%-15%,弃单挽回率5%-15%,响应时间低于5秒,并支持50多种语言。Upsello旨在让客服中心成为第二增长引擎,把对话窗口变成新的交易入口。

  • 肯德基Skill正式接入千问:疯狂星期四一句话下单 直接到店取

    肯德基Skill接入千问App,全国1.3万门店可直接语音点单,如“帮我点附近肯德基的疯狂星期四”,系统自动匹配门店、套餐并显示距离和取餐时间。作为首个接入的餐饮品牌,肯德基与千问会员权益打通,下单自动使用大神卡和优惠券。千问近期宣布全面开放第三方Agent和Skill,瑞幸咖啡、蜜雪冰城、东方航空等首批企业已测试,将陆续上线。Agent具备记忆和主动规划能力,可提供行程提醒、权益到期提醒等服务。

  • ROG Xbox Ally X20 搭载谷粒GuliKit TMR 摇杆,双方合作进一步深化

    谷粒科技GuliKit宣布其TMR电磁摇杆技术已应用于ROG最新发布的Xbox Ally X20掌机,双方合作进一步深化。该技术采用非接触式电磁感应方案,解决了传统碳膜电位器摇杆的漂移问题,提升了稳定性和寿命。此前谷粒已为ROG提供官方授权维修替换模块,此次直接应用于整机核心部件,展现了其行业领先地位。谷粒持续研发电磁摇杆技术,并已为Steam Deck、Switch等多类掌机及游戏控制器提供元件供应和定制化解决方案,未来将继续推动游戏操控体验升级。

  • CallFay GEO & Studio 新品发布会圆满举行

    CallFay在深圳举办“三虾万物·AI共生”新品发布会,推出CallFay Studio和CallFay GEO两大产品,聚焦AI内容生产与搜索可信占位。来自腾讯云、阿里云、火山引擎等行业伙伴围绕AI技术趋势、电商经营变革等展开交流。CallFay致力于构建从“被搜索”到“被成交”的企业全域智能经营闭环,通过产品矩阵降低AI应用门槛,助力商家实现数字化增长。

  • 暴喵修复匠修复电脑DLL、DirectX靠谱吗?实测暴喵修复匠的修复原理与用法

    文章指出电脑游戏运行时频繁出现DLL缺失、DirectX报错等问题,主要因系统断电、软件残留、驱动不匹配或DX版本冲突引起。暴喵修复工具通过智能扫描,一键检测并修复缺失或损坏的DLL与DirectX组件,支持区分32/64位及新旧DX版本,避免手动下载风险。相比传统方案,它更精准、纯净、全面,适合PC游戏玩家、系统重装用户及电脑小白,能有效解决游戏启动故障。

  • 千问宣布全面开放第三方Agent、Skill:肯德基、瑞幸、蜜雪冰城首批接入

    今日,千问App宣布,将向第三方Agent、Skill全面开放,所有企业均可在千问运营自己的品牌Agent。 据悉,瑞幸咖啡、肯德基、蜜雪冰城、东方航空等首批企业已在千问进行Agent服务测试,并将陆续上线。 未来,企业可在千问App内打造专属Agent,自定义人设、服务范围与交互方式,通过对话为用户提供产品咨询、下单推荐、行程服务、权益提醒等能力。 与传统客服不同,Agent具�

  • 自变量开源 Wall-OSS-0.5,全球领先首次实现“预训练”比肩“后训练”

    自变量机器人今日正式开源具身基础模型Wall-OSS-0.5,全球首次实现无需下游任务后训练,预训练模型直接部署至机器人即可完成搬运、分拣、整理绳索等多种操作任务,在部分任务上零样本泛化表现接近常规微调水平。该模型通过梯度桥、视觉对齐动作分词器、动作空间监督流匹配和DMuon优化器四项改进,让主干网络真正掌握动作能力而非依赖外挂模块,在十余个真实机器人任

  • HOLLYLAND猛玛发布行业首款无线直播声卡系统MELO P1,重塑唱歌直播新体验

    HOLLYLAND猛玛发布MELO+++P1无线直播声卡系统,将手持麦克风、声卡、无线监听耳机和遥控器整合于一体充电盒中,开箱即播。该产品通过QQ音乐臻品音质认证和全民K歌臻品录音认证,旨在解决音乐直播设备体验滞后于内容发展的问题。猛玛利用12年无线音视频技术积累,将专业录音棚级硬件(双DSP芯片、AI降噪等)以易用形态下沉至直播场景,降低搭建门槛,提升户外稳定性,为行业提供了从参数竞争转向产品形态创新的新方向。

  • AI日报:千问全面开放第三方Agent与Skill;字节开源统一框架 Bernini;OpenAI 推出 Sites 功能

    AI日报今日要点:1. 阿里千问全面开放第三方Agent与Skill,瑞幸、东航等首批接入,升级为"超级Agent"个人助手;2. 字节跳动开源Bernini框架,通过"先理解、再生成"机制解决视频编辑画面失控问题;3. OpenAI推出Sites功能,可将创意秒变互动网站;4. 微软Win11隐藏AI卸载选项,可释放超2.5GB硬盘空间;5. DeepSeek首轮融资估值或达4000亿元,腾讯、宁德时代拟参投;6. OpenAI发布六行业Codex工作流插件;7. 谷歌推出Android虚假来电检测功能;8. 亚马逊Ring门铃人脸识别功能遭集体诉讼。

今日大家都在搜的词: