站长之家（ChinaZ.com）8月4日 消息:近期研究人员提出了一种名为 LEVER 的技术，通过学习验证生成的程序与执行结果来改善自然语言到代码的生成。LEVER 使用自然语言描述、程序表面形式和执行结果的组合表示进行训练，以识别和拒绝错误的程序。
论文地址:https://arxiv.org/abs/2302.08468
为了评估，研究人员在代表不同领域的四个数据集上进行了实验，包括表 QA、数学 QA 和基础 Python 编程，以评估 LEVER 的功效。使用 code-davinci-002的性能提升范围为4.6% 到10.9%，并且结果始终优于基本代码 LLM。在所有数据集中，LEVER 都取得了全新的最先进结果，证明了其在根据自然语言描述生成精确且上下文相关的代码方面的优越性。
LEVER 的技术可以提高代码 LLMs 将自然语言描述转化为可执行代码的能力，有潜力改善数据库接口、机器人控制和虚拟助手等人工智能应用。
（举报）
随着大型语言模型的出现，人工智能和数学问题求解领域取得了显著进展。这些模型在面对复杂的数学挑战时仍然存在问题。对工具交互的优势和挑战进行的全面分析为未来的研究提供了重要见解，有望开发更先进和适应性更强的推理代理。
用于生成式AI工具的大型语言模型通常会极大地增加对更多处理器的需求，这些处理器通常价格昂贵且供应受限。即使是云资源也不能总是解决企业试图扩展规模并利用最新的生成式AI技术所面临的问题。」Anyscale首席执行官兼联合创始人RobertNishihara在一份声明中表示。
卡内基梅隆大学、Google研究以及乔治亚理工学院联合推出了一项名为MAGVIT-v2的视频标记工具，它成功地将图像和视频输入转化为大型语言模型可识别的标记。项目地址:https://magvit.cs.cmu.edu/MAGVIT-v2的独特算法让开发者可以实现令人惊叹的应用。MAGVIT-v2的发布，预示着视觉生成领域的一次重大突破。
IDEA研究院封神榜团队最近开源了最新的代码大模型Ziya-Coding-34B-v1.0，该模型在HumanEvalPass@1的评测上取得了75.5的好成绩，超过了GPT-4的得分。此次开源的Ziya-Coding-34B-v1.0，基于CodeLLaMA34B的预训练模型，经过了两个阶段的有监督精调，支持多种与代码相关的任务，包括代码生成、代码解释、代码纠错以及单元测试的生成等。
研究人员发现了一种改进语言模型性能的方法——Headless语言模型，即将输入嵌入与模型的其他嵌入捆绑在一起，并使用对比损失。通常情况下，语言模型的输入和输出嵌入层是分开的，但这种新方法通过捆绑它们，提高了模型的训练速度和准确性。这项工作为以对比学习取代交叉熵作为自监督预训练目标开辟了道路，为语言表示学习提供了一种高效可行的替代方案。
微软似乎正在致力于开发一种人工智能系统，可以使用自然语言处理理解和解决客户支持请求。微软公司已经为这一基于人工智能的客户支持系统申请了专利。这个功能通过允许用户使用普通语言轻松地找到文件和照片，使搜索变得轻松。
OpenPipe是一个创新的AI工具，旨在将昂贵的语言模型的强大能力与更便宜的模型相结合，以满足用户的精确需求。它的核心思想是利用强大但昂贵的大型语言模型进行微调，生成适合特定需求的廉价模型。多种训练数据导出格式:支持导出多种训练数据格式，包括Alpaca和ChatGPT，同时具备去重功能，使数据准备更加高效。
生成艺术家通常使用编程语言或AI文本到图像工具来将表达性语义转化为代码，以创建抽象的图案或超现实的景观。编写艺术作品是一个耗时复杂的过程通常需要通过多次迭代的试验和错误来改进作品，这可能会受到界面的限制感到沮丧。他们计划在今年晚些时候将该工具作为开源工具发布，以供艺术家使用，并研究这种工具如何帮助新手学习如何用代码创作艺术。
什么样的技术能经历时间洗礼还历久弥新?答案或许可以归总为一个“三部曲”般的规律——兴起、发展和大规模应用，外加这个过程再一次演进式的迭代。引领第一次工业革命的是蒸汽机，当它演进成为内燃机并开始普及时，第二次工业革命的颠覆者——电能本身以及与它相关的各种设备正处于初创期在电力设备走向微电子的迭代革新时，各种燃油引擎还在持续改良和普及中�
研究人员日前发布了一项名为"FAVOR"的创新技术，它能够在帧级别巧妙地融合音频和视觉细节，从增强大型语言模型对视频内容的理解能力。这一引入FAVOR方法的举措，为拓展大型语言模型在视频理解领域的潜力开辟了新的机遇。这些示例可以作为起点，帮助用户开始构建他们自己的多模态交互。
