首页 > 业界 > 关键词  > 自然语言处理最新资讯  > 正文

清华微软开源全新提示词压缩工具,长度骤降80%,GitHub怒砍3.1K星

2024-03-26 08:45 · 稿源: 新智元公众号

最近,清华和微软的研究人员提出了一种全新的方法,能在保证输出质量不变的前提下,将提示词压缩到原始长度的20%!在自然语言处理中,有很多信息其实是重复的。如果能将提示词进行有效地压缩,某种程度上也相当于扩大了模型支持上下文的长度。现有的信息熵方法是通过删除某些词或短

......

本文由站长之家合作伙伴自媒体作者“新智元公众号”授权发布于站长之家平台,本平台仅提供信息索引服务。由于内容发布时间超过平台更新维护时间,为了保证文章信息的及时性,内容观点的准确性,平台将不提供完全的内容展现,本页面内容仅为平台搜索索引使用。需阅读完整内容的用户,请查看原文,获取内容详情。

举报

  • 相关推荐
  • 有望治愈癌症!微软开源新模型,诺奖级重大突破

    微软在官网开源了,最新动态蛋白质生成模型BioEmu-1。BioEmu-1能在单个GPU上每小时生成数千种蛋白质结构,生成效率比传统MD模拟提高了几个数量级。在预测人类血管紧张素转换酶2的构象柔性方面,BioEmu-1成功揭示了ACE2在不同构象下的动态特性,证明了其在解析生物大分子相互作用及预测蛋白质功能方面的巨大潜力。

  • 微软开源创新框架:可将DeepSeek,变成AI Agent

    微软在官网发布了视觉Agent解析框架OmniParser最新版本V2.0,可将DeepSeek-R1、GPT-4o、Qwen-2.5VL等模型,变成可在计算机使用的AIAgent。与V1版本相比,V2在检测较小的可交互UI元素时准确率更高、推理速度更快,延迟降低了60%。当任务是“点击设置按钮”时,OmniParser不仅提供了设置按钮的边界框和ID提供了其功能描述,颗显著提高了模型的准确性和鲁棒性。

  • OpenAI发布全新Agent:内置三大工具

    据报道,OpenAI发布了专为构建AIAgents设计的新工具和API。OpenAI此次发布的核心产品包括ResponsesAPI和AgentsSDK。OpenAI首席产品官KevinWeil在直播中提到:2025年将会是AI智能体爆发的一年,也是ChatGPT和我们开发者工具从仅仅回答问题升级为真正能在现实世界里为你执行任务的一年。

  • AI日报:抖音测试接入豆包AI;即梦接入DeepSeek支持智能提示词生成;Grok语音模式面开放

    欢迎来到【AI日报】栏目!这里是你每天探索人工智能世界的指南,每天我们为你呈现AI领域的热点内容,聚焦开发者,助你洞悉技术趋势、了解创新AI产品应用。新鲜AI产品点击了解:https://top.aibase.com/1、抖音打通豆包AI,字节跳动开启超级AI生态战略抖音App正在测试接入豆包AI,标志着字节跳动加速推进AI生态布局。此次融资将用于加速研发和引进人才,致力于打造领先的AI视频生成大模型及应用。

  • 大爆款预订!全新问界M8预售开启:36.8万起

    AITO汽车官宣,品牌旗下家庭智慧旗舰SUV全新M8现已开启预订,价格为36.8万元,下订可享5000元减免10000元尾款。作为全新SUV产品,问界M8长宽高分别为5190/1999/1795mm,轴距为3105mm,整体非常逼近M9,同时提供五座和六座两种版本可供选择,目前仅有增程混动车型。问界M8的到来将对35-45万价位区间的所有SUV展开猛烈进攻,凭借问界M9良好的口碑,M8的热度只高不低,销量超过M9也很有可能,基本预订了今年的大爆款。

  • 华为3月将发布“想不到的产品”:博主爆料称是全新折叠屏

    华为常务董事、终端BG董事长、智能汽车解决方案BU董事长余承东预告,华为将在3月份推出一款想不到的产品”,这是首款为原生鸿蒙生的新形态手机。新产品生于鸿蒙、原生智能,硬件软件生态全新突破、全新体验”。这款新品出厂搭载全新的原生鸿蒙操作系统,该系统采用了更先进的鸿蒙内核,从编程语言、编译器、编程框架,再到AI框架和大模型等实现了全面突破,余承东介绍,腾讯、字节、阿里、美团等生态伙伴正全力冲刺优化应用。

  • 发布全新AI神冰箱5系产品 打造智慧厨房新风尚

    在智慧科技与家居生活深度融合的今天,智能家居已成为现代品质生活的核心标志。作为家电行业的创新引领者,三星始终以前瞻视野洞察未来生活趋势,致力于为消费者打造更智能、更高效、更具品位的家居生活体验。三星生活家电以科技之力重新定义厨房空间,AI神冰箱5系的升级发布引领厨房家居领域开启新一轮迭代升级,一系列创新技术的融合让用户拥有了更加便捷多元的储鲜管理以及语音交互场景体验,进一步享受更加高效、智能、健康的现代家居生活。

  • 36.8万起售掀桌子了!一文看懂全新问界M8各车型配置差异

    鸿蒙智行问界全新家庭旗舰SUV车型M8正式开启预售,价格为36.8万元起,待上市时价格有望进一步降低来到35万级。作为一台车长接近5.2米、轴距超3.1米的大SUV,问界M8的起售价着实让人没想到,目前这款车已经可在华为商城预订购买,那么它具体的配置如何?可以看到M8提供Max、Max和Ultra三个版本,均包含五座和六座两种款型,预计六座版会更为走量。Ultra版本:电池容量标配为53.4度,标配MAX版本的所有配置,包括电动门和激光投影,独有百万像素智慧投影大灯。

  • 清华团队开源大模型推理引擎“赤兔Chitu”:硬件成本削减50%

    据报道,清华大学高性能计算研究所翟季冬教授团队与清华系科创企业清程极智联合宣布,开源大模型推理引擎赤兔Chitu”。这一突破性技术为国产AI芯片的广泛应用和生态建设带来了新的机遇。开源赤兔”引擎是推动国内AI生态建设的重要一步,将为行业提供更高效、更灵活的技术支持。

  • PCIe 5.0 SSD来了!首次8TB、速度翻倍飙到14800MB/s

    今天三星宣布发布9100PRO系列PCIe5.0NVMeSSD,这款产品是990PRO的继任者,承诺性能提升99%,几乎是前代产品的两倍。根据官方数据,该SSD的顺序读取速度最高可达14800MB/s,顺序写入速度可达13400MB/s,在随机性能方面,读写速度分别为2200KIOPS和2600KIOPS。不过不知是何原因,三星在发布不久后便撤回了公告,不过估计在几天之内应该会再次上线。