首页 > AI头条  > 正文

上海AI实验室发布首个视频转网页评测基准IWR-Bench:GPT-5综合得分仅36.35分

2025-10-21 10:05 · 来源: AIbase基地

上海人工智能实验室与浙江大学等机构近日联合推出IWR-Bench,这是首个专门评估大语言模型将视频转化为交互式网页代码能力的基准测试。该基准旨在更真实地衡量多模态大语言模型(LVLM)在动态网页重建方面的能力,填补了AI前端开发领域动态交互评测的空白。

与传统的图像转代码(Image-to-Code)任务不同,IWR-Bench要求模型观看记录用户完整操作流程的视频,结合网页所需的所有静态资源,重建网页的动态交互行为。任务复杂度涵盖从简单的网页浏览到复杂的游戏规则重建,包括2048游戏、机票预订等多种应用场景。

测试结果显示了当前AI模型在这一任务上的显著局限。在对28个主流模型的评测中,表现最好的GPT-5综合得分仅为36.35分,其中交互功能正确性(IFS)得分为24.39%,视觉保真度(VFS)得分为64.25%。这一数据清晰反映出模型在视觉还原方面相对较强,但在实现事件驱动逻辑和动态交互功能方面存在明显短板。

image.png

从评测方法来看,IWR-Bench不仅关注模型的视觉还原能力,还通过自动化代理评估其交互功能的正确性。每个任务都提供完整的静态资源,且所有文件名经过匿名化处理,迫使模型依靠视觉匹配而非语义推理来关联资源。这种设计更贴近真实开发场景,要求模型理解操作视频中的因果关系和状态变化,然后将其转化为可执行的代码逻辑。

研究人员还发现了一些有趣的现象。带有"思考"机制的模型版本在某些任务中表现更好,但提升幅度有限,表明基础模型的能力仍是决定性因素。此外,专门针对视频理解优化的模型在该任务中的表现并不如通用多模态模型,说明视频转网页任务与传统视频理解任务存在本质差异——前者需要的不仅是理解视频内容,更需要将动态行为抽象为程序逻辑。

image.png

从技术挑战来看,视频转网页任务的难点在于多个层面。首先是时序理解,模型需要从连续的视频帧中提取关键交互事件和状态转换。其次是逻辑抽象,需要将观察到的行为模式转化为事件监听、状态管理等编程概念。第三是资源匹配,在匿名化的静态资源中准确找到对应的图片、样式等文件。第四是代码生成,需要产生结构合理、逻辑正确的HTML、CSS和JavaScript代码。

GPT-5仅获得36.35分的综合得分,说明即使是最先进的多模态模型,在将动态行为转化为可执行代码这一任务上仍有很大提升空间。24.39%的交互功能正确率意味着模型生成的网页中,超过四分之三的交互功能存在问题。这可能包括事件响应不正确、状态管理错误、业务逻辑遗漏等问题。

image.png

IWR-Bench的推出对AI研究和应用都有重要意义。从研究角度看,它为多模态模型的动态理解和代码生成能力提供了新的评测维度,有助于识别当前技术的薄弱环节。从应用角度看,视频转网页能力如果成熟,可以大幅降低前端开发的门槛,让非技术人员通过演示操作就能生成功能原型。

不过需要注意的是,即使模型在该基准上取得高分,距离实际应用仍有距离。真实的网页开发涉及性能优化、兼容性处理、安全防护、可维护性等多个维度,这些都难以通过视频演示来完全传达。此外,复杂的业务逻辑、边缘情况处理和用户体验细节,也很难仅从操作视频中完全推断出来。

从行业趋势来看,IWR-Bench代表了AI代码生成从静态向动态、从单帧向多帧、从描述向演示的演进方向。这与当前AI编码助手主要依赖文本描述的模式形成对比,为"所见即所得"的智能开发工具提供了技术基础。如果未来模型在该任务上取得突破,可能催生新一代的原型开发工具,让产品经理或设计师通过录制操作视频就能生成可交互的网页原型。

从测试结果来看,当前AI模型在理解复杂动态交互方面仍处于早期阶段。视觉保真度64.25%相对较高,说明模型已经能够较好地还原页面的静态外观。但交互功能正确性仅24.39%,表明将观察到的行为转化为正确的程序逻辑仍是巨大挑战。这种差距反映了AI在"看懂"和"做对"之间的鸿沟——能识别视觉元素不等于能理解背后的交互逻辑。

IWR-Bench的意义不仅在于提供了一个评测工具,更在于明确了AI多模态能力发展的一个重要方向。随着该基准的推广,可以预期会有更多研究聚焦于动态行为理解、时序推理和代码生成的结合,推动多模态大模型在实际开发场景中的应用价值。

  • 相关推荐
  • AI日报:阿里夸克“C计划”曝光;Veo3.1将增加视频“精确编辑”功能;Anthropic推出Claude Code网页版

    今日AI领域动态:阿里夸克启动"C计划"布局对话式AI应用,剑指字节"豆包";Anthropic推出Claude Code网页版,支持浏览器直接编码;谷歌Veo新增视频"精确编辑"功能,提升创作效率;Fish Audio升级S1语音克隆模型,10秒即可复刻真人声音;AWS美东故障影响ChatGPT等多项服务;DeepSeek-OCR推出"视觉记忆压缩"机制破解AI记忆瓶颈;Adobe推出AI Foundry服务,支持企业定制品牌AI模型;Anthropic发布Claude for Life Sciences,加速生命科学研究。

  • 小猪逃跑狂奔 校方:已送回实验室 是科研动物

    近日,安徽合肥某高校内发生了一起令人忍俊不禁的“猪跑事件”。一只原本用于科研实验的小猪突然从实验室逃脱,在众目睽睽之下于食堂周边区域狂奔,其较快的奔跑速度和颇具戏剧性的场面迅速吸引了大量学生的围观。 事件发生后,校园安保人员迅速介入,经过一番努力,成功将这只“越狱”的小猪捕获。幸运的是,此次事件并未造成人员受伤或校园设施的损坏。校方

  • 知乎崩了上热搜:网页端完全无法进入 App端也未能幸免

    10月17日上午,知乎遭遇大规模服务故障,全端瘫痪。网页端无法访问,App端问答详情、小说阅读及搜索功能失效,用户登录状态异常,被强制显示为匿名。大量用户误以为是设备或网络问题,尝试重启、重装应用等措施无效。故障引发全网关注,微博话题“知乎崩了”单日讨论量激增,成为网络热点。此次故障严重影响用户使用体验,暴露平台服务稳定性问题。

  • 小鹏X9增程版官宣!63.3电+60L大油箱 综合续航1602km

    小鹏汽车董事长何小鹏10月23日宣布,小鹏X9超级增程车型正式发布,定位为面向全球的下一代增程产品。该车作为行业首款超级增程车型,搭载63.3度大电池与60L大油箱,综合续航达1602公里,号称全球续航最长七座车。历经全球复杂环境严苛验证,设计棱角分明,配备主动进气格栅优化风阻。新车长宽高5316*1988*1785mm,轴距3160mm,定位七座MPV,整备质量2750千克。动力采用1.5T增程器,最大功率110千瓦,匹配磷酸铁锂电池包,支持800V高压平台与5C超充技术,纯电续航超450公里,彻底解决里程焦虑。

  • 如何提升品牌在AI回答中的提及率?GEO优化3招,让ChatGPT主动提及你的品牌

    本文探讨AI搜索时代品牌面临的"隐身危机",指出AI搜索用户年增538.7%,但品牌在AI回答中提及率不足20%。提出三大核心策略:1)构建权威背书矩阵,通过知乎等高权重平台获取自然提及;2)优化AI友好内容,采用对话式标题和结构化数据;3)建立数据监测闭环,通过A/B测试持续迭代。强调需善用监测工具实时追踪品牌在豆包、文心一言等AI模型的曝光表现,避免内容"注水"。最终实现从"被动等待"到主动抢占AI"第一屏"的转变。

  • AI日报:谷歌发布Veo 3.1;通义千问推Qwen Chat Memory功能;Sora2免费用户可生成15秒视频

    本期AI日报聚焦多项技术更新:谷歌Veo 3.1视频模型新增音频生成与精细化编辑功能;通义千问推出记忆功能提升对话连贯性;Sora2免费用户可生成15秒视频,Pro版支持25秒;百度文心助手升级8种创作模式;谷歌Flow工具增强视频光影编辑与音频合成能力;Anthropic发布高性价比Claude Haiku 4.5;北京查处首例AI虚假广告案,涉伪造主持人带货;阿里推出响应仅200毫秒的编程工具Qoder CLI。

  • 35岁陪爬泰山男演员转行景区NPC:称职业并无高低之分

    ​2025年,曾因主演《东北插班生》而小有名气的35岁演员史元庭,遭遇了演艺生涯的低谷。近年来,他面临“无戏可拍、无综艺合作”的困境,上半年仅获得了4天的拍戏机会,生存压力骤增。 为了维持生计,史元庭开始尝试多种灵活创收方式。他成为了一名泰山陪爬员,白天场收费699元,夜场则高达799元,还包含观日出服务。在陪爬过程中,他不仅提供全程陪护,还为游客�

  • AI日报:OpenAI发布浏览器Atlas;通义Qwen3-VL新增2B、32B两个模型尺寸;百川发布循环证据增强大模型

    本文汇总AI领域最新动态:OpenAI推出集成ChatGPT的Atlas浏览器,实现多任务自主处理;阿里通义千问新增2B/32B视觉语言模型,手机可流畅运行;谷歌AI Studio升级Vibe Coding功能,简化应用开发流程;百川发布医疗大模型M2Plus,通过循证推理降低误诊率;奇瑞墨甲机器人实现L3级技术突破,计划多行业应用;YouTube推出AI肖像识别工具,打击虚假内容;三星宣布2026年推出AI眼镜,融合AR与语音助手;Claude客户端更新,支持截图分析和语音交互功能。

  • OpenAI推出AI浏览器ChatGPT Atlas 开启个性化上网新体验

    OpenAI于10月22日推出首款AI驱动浏览器ChatGPT Atlas,以个性化上网体验为核心。用户点击“Ask ChatGPT”即可在侧边栏实时互动,实现网页摘要生成、航班预订、文档编辑等多样化任务。目前仅支持macOS,未来将扩展至Windows和移动端。高级代理功能暂限付费用户使用,其特色包括自动捕捉页面上下文、分屏浏览及记忆用户操作历史,旨在通过自然对话提升网络使用效率。

  • Qwen登顶AI赚钱大赛只是开始?“弃GPT投Qwen”已在硅谷蔓延开来

    近期AI炒币大赛Alpha Arena引发关注,六款主流大模型用1万美元本金在币圈实战。戏剧性的是,被寄予厚望的GPT-5和Gemini因高杠杆操作亏损惨重,而中国开源模型表现亮眼——通义千问Qwen以53%回报率逆袭登顶,DeepSeek紧随其后。硅谷巨头Airbnb CEO公开表态依赖Qwen,投资人Chamath也承认将业务转向中国模型。市场用真金白银投票:预测平台押注Qwen胜率高达36%,远超OpenAI的3%。这场竞赛�

今日大家都在搜的词: