首页 > 业界 > 关键词  > Pandora最新资讯  > 正文

Pandora:根据自然语言指令生成动作和视频的通用世界模型

2024-05-24 15:00 · 稿源:站长之家

划重点:

🔍 Pandora 是一个通向通用世界模型(GWM)的重要步骤,通过生成视频来模拟任何领域的世界状态。

🔍 Pandora 可以接受自然语言输入作为动作,并在视频生成过程中实时控制视频内容,与之前只能在视频开始时输入文本提示的文本到视频模型有着关键的不同。

🔍 Pandora 还可以生成基于相同初始状态但不同动作的多个替代未来的视频,让用户能够自主控制未来的发展。

站长之家(ChinaZ.com)5月24日 消息:Pandora 是一个研究通用世界模型(GWM)的重要进展,其目标是通过生成视频来模拟任何领域的世界状态,并提供自然语言的实时控制。

与之前的文本到视频模型不同,Pandora 可以接受自由文本的动作输入,实现在视频生成过程中对视频内容的实时控制。这种实时控制的能力实现了世界模型的互动内容生成承诺,并增强了强大的推理和规划能力。比如生成视频的过程中,用户可以输入指令如“让汽车向左转弯转”、“汽车前方发生爆炸事故”,Pandora 会即时地根据这些指令调整视频内容,实现动态控制。

image.png

产品入口网址:https://top.aibase.com/tool/pandora

Pandora 还能够生成基于相同初始状态但不同动作的多个替代未来的视频。用户可以通过输入不同的动作来控制视频的发展方向,实现对未来的自主控制。这种能力使得世界模型不再只是模拟替代未来,而是能够真正实现对未来的控制。

Pandora 能够在各种通用领域生成视频,包括室内 / 室外、自然 / 城市、人类 / 机器、2D/3D 等场景。通过使用高质量数据进行指导和训练,模型可以学习有效的动作控制,并在不同领域中实现迁移学习。例如,Pandora 在训练时只接触过2D 游戏 Coinrun,但可以无缝地将学到的动作应用于其他2D 游戏。

Pandora 将视频模型与自主生成的 Pandora 背骨结合在一起,可以生成更长的视频,甚至可以达到无限长度。通过这种结合,Pandora 能够生成长达8秒的视频,即使训练时的视频长度最多只有5秒。

然而,作为通向 GWM 的初步步骤,Pandora 仍然存在一些限制。它可能无法生成一致的视频,模拟复杂场景,理解常识和物理定律,以及遵循指令 / 动作。

Pandora 是通向通用世界模型的重要一步,它通过自然语言动作和视频状态的模拟生成,实现了对未来的自主控制,为交互式内容生成、强大的推理和规划能力提供了支持。

举报

  • 相关推荐
  • 全球首款生成式人形机器人运动大模型发布:可根据指令生成跑步、舞蹈等连贯动作

    今日上午,国家地方共建人形机器人创新中心联合复旦大学未来信息创新学院,正式发布了全球首款生成式人形机器人运动大模型 龙跃”(MindLoongGPT)。 龙跃大模型以自然语言驱动”为核心,构建了从多模态输入到高保真动作生成的完整闭环,颠覆传统运动控制范式。 也就是说,用户无需学习专业术语或操作复杂软件,仅需像与人类对话一样发出指令,例如以优雅的姿势递

  • 蔚来世界模型NWM将于5月30日全量推送

    智能泊车方面,蔚来世界模型NWM展现出了显著优势。它具备360超视距车位识别能力,无需车辆处于特定起点位置,用户可在任意位置、任意挡位下发起泊车指令。这一特性极大地提高了泊车的便捷性和灵活性,让用户不再受传统泊车方式的限制。在泊车过程中,NWM能够实时规划泊车轨迹,确保车辆准确、高效地停入车位。同时,它还支持借用通道实现长距离漫游泊车,即使面�

  • 如何用指令句式让豆包生成个性化学生评语库

    本文介绍如何利用豆包工具快速生成个性化期末评语库。操作步骤包括:1.登录豆包平台输入详细指令,要求生成50名本科生的A级评语,内容需涵盖学术亮点、改进建议和假期规划,确保个性化差异度高于30%;2.检查生成结果是否符合要求;3.通过细化指令优化不满意内容,如突出学科优势或提供更具体学习方法建议。该工具能帮助教师高效完成评语撰写,节省时间精力。

  • 豆包大模型1.6发布:全球第一梯队!可生成1080p高品质视频

    字节跳动旗下豆包大模型正式升级为1.6版,在推理、数学、指令遵循、Agent等方面的能力均有较大提升,同时豆包视频生成模型Seedance 1.0 pro、豆包语音播客模型也正式发布。 豆包大模型1.6包括三部分,分别是豆包1.6、豆包1.6-thinking、豆包1.6-flash。 其中,豆包1.6支持on/off/auto三种思考模式,豆包1.6-thinking强化了思考能力,支持多模态,在多个权威测评集上达到了全球第一梯队�

  • 快手可灵AI上线2.1系列模型:生成5秒视频不到1分钟

    快手旗下可灵AI发布2.1系列模型,包含720p标准版和1080p高品质版,在性价比、生成速度和质量三大维度实现突破。新模型生成5秒视频仅需20-35灵感值,与上代保持相同成本;1080p视频生成时间不到1分钟,快于行业同级产品2-3倍。模型在动态表现、物理模拟和语义理解方面均有优化,人物动作更真实自然。可灵AI自发布以来发展迅猛,全球用户突破2200万,月活增长25倍,累计生成1.68亿视频和3.44亿图片。商业化进程加速,2025年Q1营收超1.5亿元人民币,展现强劲市场潜力。

  • 如何用deepseek生成短视频脚本

    本文介绍如何利用DeepSeek工具快速生成30秒短视频脚本。该工具可根据用户需求,自动生成包含开场悬念、核心干货、反转情节和结尾互动的优质脚本。操作流程包括:1.登录DeepSeek官网;2.输入具体指令(如"生成洗发水广告脚本,需包含开场悬念+3个核心干货+结尾互动");3.检查并优化脚本内容;4.补充画面风格、背景音乐等细节。通过多次指令调整可获得更理想的脚本

  • 对标Sora!谷歌发布AI视频生成器Veo 3:可同时生成视频和音效

    谷歌在I/O开发者大会上发布第三代视频生成模型Veo+3,对标OpenAI的Sora。该模型不仅能基于文本和图像生成高质量视频,还能为人物对话、鸟鸣等场景自动匹配音效,实现更逼真的视听体验。目前Veo+3面向美国Gemini Ultra订阅用户,月费249.99美元,并将纳入企业级Vertex AI平台。谷歌同期还发布了升级版图像模型Imagen 4、电影制作工具Flow等AI产品。值得注意的是,谷歌在AI图像生成领域并非一帆风顺,此前Imagen 3曾因生成含历史错误的图像引发争议。

  • 必应引入OpenAI的Sora视频生成器,完全免费使用

    微软表示:“Bing 视频生成器体现了我们让 AI 视频创作变得全民可及的努力。我们相信,创造力应当轻松且人人可用,从而助力你的探索与表达。”

  • AI日报:QQ浏览器升级为AI浏览器;OpenAI全新编程智能体Codex;B站团队推动漫视频生成模型AniSora

    本文介绍了AI领域多项最新进展:1)B站团队推出开源动漫视频生成模型AniSora,支持多种风格创作;2)OpenAI发布编程智能体Codex,提升开发效率;3)Google测试AI问答功能AI Mode;4)ChatGPT将整合MCP协议,支持第三方AI服务对接;5)阿里推出ZeroSearch框架,减少对搜索引擎的依赖;6)Stability AI与Arm合作推出手机端音频生成AI;7)Qwen发布WorldPM系列大模型;8)GPT-5将整合多款产品功能;9)ListenHub上线AI播客生成工具;10)QQ浏览器升级为AI浏览器;11)数学建模AI助手MathModelAgent面世;12)GenSpark推出全球首个智能下载代理;13)谷歌NotebookLM将推出视频摘要功能。这些创新展现了AI技术在各领域的快速发展和广泛应用。

  • 火山引擎推出豆包·语音播客模型:文本秒变双人对话播客,5 秒生成热点音频!

    5月20日,火山引擎推出豆包·语音播客模型,实现文本秒转专业播客内容。该模型三大优势:1)自然流畅的双人对话效果,语音拟真度高;2)支持热点话题即时生成,5秒产出最新资讯播客;3)提供端到端创作链路,支持超长文本/网页链接转播客。相比传统AI播客,解决了内容重复、机械感强等问题。模型即将登陆豆包APP及PC端,6月11日将在火山引擎大会上展示更多功能。