11.11云上盛惠!海量产品 · 轻松上云!云服务器首年1.8折起,买1年送3个月!超值优惠,性能稳定,让您的云端之旅更加畅享。快来腾讯云选购吧!
大模型长文本能力测试,又有新方法了!腾讯MLPD实验室,用全新开源的“数星星”方法替代了传统的“大海捞针”测试。新方法更注重对模型处理长依赖关系能力的考察,对模型的评估更加全面精准。CountingStars的出现,或许正好有助于我们了解这些模型的真实表现。
该报记者从知情人士获悉百度即将免费开放200万-500万长文本能力。百度文心一言将进行版本升级,届时将开放长文本能力,文字范围将在200万-500万之间。希望这一举措能够为用户带来更多便利和实用性,促进文本处理技术的创新和进步。
一提到提高大模型长文本能力,就想到长度外推或者上下文窗口扩展?不行,这些都太费硬件资源了。来看一个奇妙新解:和长度外推等方法使用KV缓存的本质不同,它用模型的参数来存储大量上下文信息。不过从邮箱信息来看,可能来自港城大、港中文等学校。