首页 > 业界 > 关键词  > Google最新资讯  > 正文

Google DeepMind 使用大型语言模型解决纯数学中的未解问题

2023-12-15 10:21 · 稿源:站长之家

站长之家(ChinaZ.com) 12 月 15 日消息:Google DeepMind 最近利用一种大型语言模型成功破解了纯数学中一个著名的未解问题。该团队在《自然》杂志上发表的论文中宣称,这是首次使用大型语言模型发现长期科学难题的解决方案,产生了之前不存在的可验证且有价值的新信息。Google DeepMind 研究副总裁 Pushmeet Kohli 表示:「这不在训练数据中——甚至以前是未知的。」

Bard,Gemini Pro,Google DeepMind,人工智能,AI

大型语言模型通常以编造事实而闻名,而不是提供新事实。Google DeepMind 的新工具 FunSearch 可能改变这一点。它表明,只要适当引导,并且舍弃它们提出的大部分内容,这些模型确实可以做出发现。

FunSearch(之所以这样命名,是因为它搜索数学函数,而不是因为它有趣)延续了 DeepMind 使用 AI 在基础数学和计算机科学领域取得的一系列发现。首先是 AlphaTensor 找到了一种加快多种不同类型代码核心计算的方法,打破了 50 年来的记录。然后是 AlphaDev 找到了加快每天使用数万亿次的关键算法的方法。

然而,这些工具并没有使用大型语言模型。它们都建立在 DeepMind 的游戏 AI AlphaZero 之上,通过将数学问题视为围棋或国际象棋中的难题来解决。问题是它们局限于自己的领域,如同公司研究员 Bernardino Romera-Paredes 所说:「AlphaTensor 擅长矩阵乘法,但基本上没有别的。」

FunSearch 采用了不同的方法。它结合了一个称为 Codey 的大型语言模型(一种在计算机代码上微调的 Google PaLM 2 版本)和其他系统,后者可以排除不正确或无意义的答案,并将好的答案重新输入。

Fawzi,Google DeepMind 的研究科学家说:「说实话,我们有假设,但我们不确切知道为什么这有效。项目开始时,我们不知道这是否会奏效。」

研究人员首先用 Python(一种流行的编程语言)勾勒出他们想要解决的问题,但省略了指定如何解决问题的程序行。这就是 FunSearch 介入的地方。它让 Codey 填补空白——实际上,提出解决问题的代码建议。

然后,第二个算法检查并评分 Codey 提出的内容。最佳建议——即使还不正确——被保存并反馈给 Codey,后者再次尝试完成程序。「许多将是无意义的,一些将是合理的,少数将是真正有启发性的,」Kohli 说。「你拿着这些真正有启发性的内容,然后说,『好的,拿着这些重复一遍。』」

经过几百万次建议和几十次整体过程的重复(历时几天),FunSearch 终于提出了一个正确且之前未知的解决 cap set 问题的代码,该问题涉及寻找某种类型集合的最大尺寸。可以想象在图表纸上绘制点。cap set 问题类似于尝试确定可以放置多少个点,而不会让其中任何三个点形成一条直线。

这个问题非常细致,但很重要。数学家们甚至不同意如何解决它,更不用说解决方案是什么了。(它还与 AlphaTensor 加速的计算——矩阵乘法——有关。)加州大学洛杉矶分校的 Terence Tao,曾获得多个数学顶级奖项,包括菲尔兹奖,他在 2007 年的博客文章中称 cap set 问题为「我最喜欢的开放性问题」。

Tao 对 FunSearch 能做的事情感到好奇。他说:「这是一个有前途的范例。这是利用大型语言模型的力量的一种有趣方式。」

与 AlphaTensor 相比,FunSearch 的一个主要优势是,理论上它可以用来找到一系列问题的解决方案。这是因为它产生代码——生成解决方案的方法,而不是解决方案本身。不同的代码将解决不同的问题。FunSearch 的结果也更容易理解。Fawzi 说,方法通常比它产生的奇怪数学解决方案更清晰。

为了测试其多功能性,研究人员使用 FunSearch 来解决另一个数学难题:bin packing 问题,该问题涉及尝试将物品尽可能少地装入箱子中。这对计算机科学的一系列应用很重要,从数据中心管理到电子商务。FunSearch 提出了一种比人类设计的方法更快的解决方案。

Tao 表示,数学家们「仍在努力弄清楚如何最好地将大型语言模型纳入我们的研究工作流程,以利用它们的力量同时减轻它们的缺点。」他说:「这当然表明了一种可能的前进方向。」

举报

  • 相关推荐
  • 大家在看
  • Gobi:个性化情绪健康指导APP

    Gobi是一款致力于提供个性化情绪健康指导的应用程序。它由一群对AI充满热情的团队开发,团队成员来自Google、Microsoft、Meta和Scale AI等知名公司。Gobi通过实时生成基于科学的语音指导健康实践,帮助用户管理情绪健康。产品的主要优点包括全天候的人性化健康支持、适应性AI个性化、实时健康实践生成、日常检查和情绪健康跟踪等。

  • DiT-MoE:大规模参数扩散变换器模型

    DiT-MoE是一个使用PyTorch实现的扩散变换器模型,能够扩展到160亿参数,与密集网络竞争的同时展现出高度优化的推理能力。它代表了深度学习领域在处理大规模数据集时的前沿技术,具有重要的研究和应用价值。

  • Picogen AI Image API:AI图像生成API,提供高质量的4K图像生成和编辑功能。

    Picogen AI Image API是一个领先的AI图像生成平台,提供与Midjourney, Stable Diffusion和DALL-E相媲美的高质量图像生成服务。它支持生成高达4K分辨率的图像,并且具备图像合并、背景移除和8K分辨率的图像放大等高级功能。Picogen旨在为数字营销人员、平面设计师、内容创作者等专业人士提供强大的视觉内容创作工具。

  • Colocio AI:一站式在线营销工具,由AI驱动,简化广告和内容创作。

    Colocio AI是一款集成了人工智能技术的在线营销工具,旨在帮助用户创建、评估和自动化在线广告活动。它通过AI技术生成高转化率的广告文案和社交媒体内容,提供无障碍的内容调度功能,以及实时的AI辅助和数据驱动的报告,帮助用户优化广告活动,提高性能。Colocio AI的背景是简化内容和媒体创作流程,专注于为品牌和目标受众量身定制内容,同时释放用户时间,让他们专注于战略规划和与受众互动,推动业务创新和增长。

  • Supermemory.ai:你的个人数字第二大脑

    Supermemory是一个致力于帮助用户组织、搜索和利用保存信息的平台。它提供强大的工具,如搜索引擎、写作助手和画布,旨在成为用户的个人第二大脑。它注重隐私保护,可在任何地方工作,支持自托管,并且价格亲民,提供免费层级。

  • Dialed:个性化AI激励演讲,激发潜能。

    Dialed是一款AI驱动的应用程序,旨在通过个性化的激励演讲来激发用户的潜能。无论是健身、演讲还是日常挑战,Dialed都能提供个性化的激励和启发。产品的主要优点包括个性化的激励演讲、真诚的支持、传奇的演讲定制、多种声音选择、背景音乐以及AI生成的激励图像。此外,Dialed还允许用户将激励演讲分享给朋友和家人。

  • Aphrodite-engine:PygmalionAI的大规模推理引擎

    Aphrodite是PygmalionAI的官方后端引擎,旨在为PygmalionAI网站提供推理端点,并允许以极快的速度为大量用户提供Pygmalion模型服务。Aphrodite利用vLLM的分页注意力技术,实现了连续批处理、高效的键值管理、优化的CUDA内核等特性,支持多种量化方案,以提高推理性能。

  • ICSFSurvey:深入研究大型语言模型的内部一致性和自我反馈

    ICSFSurvey是一个关于大型语言模型内部一致性和自我反馈的调查研究。它提供了对LLMs自我评估和自我更新机制的统一视角,包括理论框架、系统分类、评估方法、未来研究方向等。

  • Stable Audio Open demo:从文本提示生成立体声音频

    Stable Audio Open 是一个能够从文本提示生成长达47秒的立体声音频的技术。它包含三个主要组件:一个将波形压缩到可管理序列长度的自编码器、一个基于T5的文本嵌入用于文本条件、以及一个在自编码器的潜在空间中操作的基于变换的扩散(DiT)模型。该技术在生成音频方面表现出色,能够根据文本提示生成各种类型的音频,如打击乐、电子音乐、自然声音等。

  • Claude Engineer:利用Anthropic的Claude模型辅助软件开发任务的高级命令行界面。

    Claude Engineer是一个高级的命令行界面,它利用Anthropic的Claude 3和Claude 3.5模型的能力,来协助完成广泛的软件开发任务。这个工具无缝地结合了最先进大型语言模型的能力与实用的文件系统操作、网页搜索功能、智能代码分析和执行能力。

  • Aiuni:探索3D虚拟世界,体验梦想家宇宙。

    Aiuni是一个提供3D虚拟世界体验的平台,用户可以在这里创建和探索个性化的3D模型,享受沉浸式的宇宙探索之旅。Aiuni以其创新的3D技术、丰富的互动性和高度的个性化定制,为用户提供了一个全新的虚拟体验空间。

  • Morphic.com:创新故事讲述的未来,使用突破性技术。

    Morphic Studio是一个利用先进人工智能技术,为创意产业带来革命性变化的在线平台。它提供了从构思到最终故事的全面工具,包括画布(Canvas)和视频编辑器,以及Morphic Playground,允许用户通过简单的消息创建资产。Morphic Studio旨在为创意专业人士,如游戏设计师和电影制作人,提供工具,以减少产品上市时间,并提高创作效率。

  • RapidOCR:快速、多语言支持的OCR工具包

    RapidOCR是一个基于ONNXRuntime、OpenVINO和PaddlePaddle的OCR多语言工具包。它将PaddleOCR模型转换为ONNX格式,支持Python/C++/Java/C#等多平台部署,具有快速、轻量级、智能的特点,并解决了PaddleOCR内存泄露的问题。

  • 百度智金・金融智能体:依托大模型技术,助力金融智能化转型,降本增效。

    智金・金融智能体是基于百度领先的大模型技术,结合多年的金融行业知识,专为金融从业人员设计的智能化解决方案。该产品通过智能化的咨询、交易引导和报告生成等功能,旨在提升金融业务的效率与合规性,帮助用户在信贷、投资、监管和保险等多个场景实现数字化转型。定位为金融行业的智能助手,智金・金融智能体通过 AI 技术为客户提供了高效、准确的支持,降低了人力成本并提高了服务质量。其背景源自百度在 AI 领域的深厚积累,价格策略灵活,具体情况可咨询客服。

  • Proton Scribe:智能隐私优先的邮件写作助手

    Proton Scribe是一个集成在Proton Mail中的智能写作助手,它以隐私优先,可以帮助用户撰写和润色邮件草稿,节省撰写邮件的时间,同时保护最敏感、最有价值的数据。Proton Scribe设计为本地运行,确保用户数据不会离开设备。Proton一直致力于研究保护隐私的AI技术,并在2023年推出了Proton Sentinel,这是第一个利用AI提供增强账户保护的功能。Proton Scribe也是开源的,可以进行独立的安全和隐私审计。

  • Dialog AI:先进的对话式AI面试平台,提升招聘效率。

    Dialog AI 是一个利用人工智能技术进行面试的在线平台,它通过自动化面试安排、实时AI面试和即时反馈报告,帮助企业简化招聘流程,提高面试效率和候选人满意度。该平台支持24/7的面试安排,确保公平一致的面试过程,并提供定制化的反馈报告,帮助企业做出更有信心的招聘决策。

  • ENSTANT 智云即弹:全档位AI吉他,让音乐创作更自由。

    ENSTANT 智云即弹是一款结合人工智能技术的吉他学习与创作应用,它通过模拟真实吉他的演奏体验,为用户提供了一种全新的音乐创作和学习方式。该产品利用先进的AI算法,能够即时生成和弦和旋律,帮助用户快速掌握吉他演奏技巧,激发音乐创作灵感。智云即弹以其创新性、易用性和强大的功能,为吉他爱好者和音乐创作者提供了一个便捷的音乐创作平台。

  • AI文本检测器:确保文本原创性,防止抄袭的AI检测工具。

    AI文本检测器是一款专业的AI检测工具,利用先进的AI技术,为用户提供文本原创性检测服务。它通过多种检测模型,如Chatgpt Detector Roberta、Roberta-Large OpenAI Detector和Roberta Academic Detector,确保检测结果的准确性和可靠性。该工具不仅免费使用,还支持多语言,响应速度快,并且强调用户隐私和数据安全。

  • story-writing:使用LangGraph代理帮助用户编写故事

    story-writing是一个基于LangGraph Cloud的应用程序,旨在以一种有趣且互动的方式展示LangGraph Cloud的功能。该应用程序允许用户在LangGraph代理的帮助下编写故事,用户可以编辑已经写好的章节,或者继续编写下一章。用户可以有多个相同章节编号的版本,并选择他们最喜欢的版本继续故事。在开始时,用户提供故事摘要、所需的写作风格和对故事重要的任何其他细节。从那时起,他们只需要提供编辑和继续指令,以引导代理朝期望的方向发展。注意:这个应用程序是一个原型,尚未准备好部署,可能会有bug或代理的输出结果不佳。

  • Zenquiz:智能生成考试复习题

    Zenquiz是一款将学习笔记转换为考试复习题的在线工具。它利用AI技术帮助学生、教师和企业用户提高学习效率和教学体验,通过个性化的选择题、判断题和填空题来强化记忆并准备考试。产品背景是教育领域的数字化转型,主要优点包括个性化学习、节省时间、增强记忆和提升参与度。

今日大家都在搜的词:

热文

  • 3 天
  • 7天