首页 > AI头条  > 正文

数字人起飞!字节Loopy对口型功能在即梦上线 可根据语境匹配表情和情绪

2024-09-23 11:08 · 来源: AIbase基地

还记得月初刚发布时就让大家惊艳不已的字节新项目Loopy吗?这个让数字人声音完美匹配画面还匹配表情和情绪的对口型项目已经正式在即梦上线了。

111.jpg

AIbase体验了一下,效果非常不错,可以说是目前支持中文效果最好的对口型服务了。

以往,对口型视频往往存在一个通病,那就是看似嘴型对上了,但总感觉这个声音不是他发出来的,以至于大家看对口型视频的时候,会有一种割裂感。

字节跳动和浙江大学的科研团队联合开发的基于音频驱动的视频扩散模型LOOPY完美解决了这个问题。

image.png

不同于以往的对口型只是张张嘴,Loopy可以让对口型视频中的角色在说话或唱歌时,还自动带上该语境下相应的语气,情绪和表情。它可以精准地"指挥"虚拟形象的每一个细微动作,例如叹息等非语音动作、情绪驱动的眉毛和眼睛运动以及自然的头部运动。

目前,这一功能已经集合进字节旗下即梦的视频生成模块内:

AIbase上传了一张女孩的照片测试一下,

即梦里面的对口型目前可以选择两种对口型方式:

1、文本朗读

文本朗读.jpg

即梦的操作基本都很简单,只需要上传你要对口型的角色图片或视频,然后输入文本,选择一个配音即可。这里AIbase选了一个高冷御姐的配音,测试效果如下:

可以看到,人物在说话的同时,还会有一些细微的表情,而且说话的时候,法令纹那些细节的动态也比较真实

2、上传本地配音

而且,你不但可以让她说话,还可以上传一段唱歌的音频,让她开口唱歌:

对口型,图片+本地配音.jpg

这里AIbase选择了一段抖音最近比较火的野人节选片段,看看效果:

效果真不错,不仅口型对上了,而且声音不会让人有割裂的感觉,仿佛女孩的原声就是这样的。

不过有一个小问题,AIbase选的这个女孩照片,眼睛没看向观众,可能代入感不够强烈,我再换一个正面的试试:

这样是不是好多了,而且人物在唱歌的时候,还会有闭眼,摇头这样很真实的动作。

AIbase还测试了一个男生版的,效果如下:

效果是不是很惊艳?比较让AIbase惊喜的是,它在对口型的时候,还会考虑到喉结,眉毛等这些很细微的变化细节。使得整体的视频更加真实。

感兴趣的可以自行体验哦~

即梦产品入口:https://top.aibase.com/tool/jimeng

  • 相关推荐
  • 小心侵权!《大话西游》周星驰表情包别随便用了

    杨浦区法院判决一起动画表情包侵权案:某短视频公司A拥有《大话西游之月光宝盒》独家网络传播权,发现B动画平台擅自截取39个电影片段制作动图供用户下载。法院认定B平台作为专业机构,未尽审核义务构成"帮助侵权",判赔5500元。法官提醒:动图虽有趣,法律红线碰不得!制作表情包需注意:1.直接截取影视片段可能侵犯著作权;2.若使用演员清晰肖像还可能涉及肖像权。建议使用免费授权素材或通过正规渠道获取授权,让网络社交在"尊重原创"的轨道上更欢乐。此案为表情包制作敲响警钟,随意截取影视内容将面临法律风险。

  • 松延动力新一代女机器人面部表情逼真 近观太震撼

    松延动力推出新一代仿生机器人"小诺",采用女性形象设计,具有32自由度超高灵活度,能精准模拟人类面部表情如闭眼、张口等动作。该产品支持多模态具身交互和个性化定制,满足不同场景需求。公司成立于2023年9月,专注人形机器人研发,产品线包括高动态双足机器人和仿生人形机器人两类,前者擅长跑跳等高难度动作,后者侧重自然交互与情感表达。此前其研发的N2机器人曾获北京马拉松比赛冠军。

  • 转发动图表情包侵权吗 答案来了:可能侵犯著作权

    据媒体报道,上海一家法院判决某公司因擅自传播《大话西游》动图表情包赔偿5500元。 该案例引发不少网友的疑问:随手转发动图表情包会侵权吗? 业内人士指出,从著作权的角度来看,截取影视作品的场景或片段形成的动图或表情包,仍然是影视作品的一部分。在著作财产权保护期未届满时,除部分情况外,未经著作权人许可擅自转发这些动图或表情包,便侵犯了影视作

  • 重庆荣昌扯面大爷爆火后营业额翻3倍 此前因生无可恋表情走红

    假期期间,黄二鸡汤铺盖面店人气爆棚,每天都要卖出几千碗面。有拍摄者透露,近两日该店每天要扯五六千份铺盖面。如此巨大的客流量,让负责扯面的大爷忙得不可开交。3日,网友拍摄的一段扯面大爷的视频登上热搜,视频中大爷扯面时因太过忙碌而表

  • 蝉镜推出国内首个数字人内容生产MCP

    2025年5月20日,国内首个垂直领域数字人内容生产协议蝉镜MCP正式发布,标志着AI行业进入"技术普惠化"新阶段。该协议通过打通大语言模型与营销工具的全链路协同,实现"输入需求,AI自主完成全流程创作"的突破性创新。核心价值在于构建开放智能协同网络,支持不同AI模型自由组合,无需复杂API开发即可实现功能调用。企业只需输入简单指令,系统就能自动完成文案生成、素材匹配、视频剪辑等全流程,将运营效率提升300%以上,开发成本降低90%。蝉镜MCP独创"三无模式"(无模特、无场地、无拍摄),仅需上传短视频即可零成本生成数字人IP,单条视频成本降至个位数。目前已有企业通过该平台打造专业形象,单条视频播放量破百万。作为战略级产品,蝉镜MCP精准识别行业爆款标签,将AI创作与营销科学深度融合,推动营销行业进入"智能体协作"时代。数据显示采用该协议的企业客户留存率高达92%,远超行业均值。

  • 即梦总算赢了一次豆包

    进入5月份以来,字节进一步加大了对旗下视频生成应用即梦AI的重视程度。直观表现之一是,即梦AI在苹果中国区App Store免费应用下载榜上排名急速上升。 从5月13日开始,即梦AI已经超越字节旗下豆包和红果短剧两大常年霸榜前二的应用,首次登顶。

  • 《大话西游》周星驰表情包别随便用了!一公司被判赔5500元

    近日,杨浦区人民法院审结了一起涉及《大话西游》电影动图表情包的信息网络传播权纠纷案件,判决某网络公司因未经授权传播电影动图表情包,需赔偿短视频公司经济损失及合理费用共计5500元。 据了解,某短视频公司(A公司)享有《大话西游》独家信息网络传播权。而某网络公司(B公司)作为某动图制作与分享网站的运营者,其平台上存在39张带有《大话西游》相关关键�

  • 全球首款生成式人形机器人运动大模型发布:可根据指令生成跑步、舞蹈等连贯动作

    今日上午,国家地方共建人形机器人创新中心联合复旦大学未来信息创新学院,正式发布了全球首款生成式人形机器人运动大模型 龙跃”(MindLoongGPT)。 龙跃大模型以自然语言驱动”为核心,构建了从多模态输入到高保真动作生成的完整闭环,颠覆传统运动控制范式。 也就是说,用户无需学习专业术语或操作复杂软件,仅需像与人类对话一样发出指令,例如以优雅的姿势递

  • 即梦VS可灵,下一步战火烧向何方?

    当字节跳动的即梦AI与快手的可灵AI在国内文生视频赛道激烈厮杀时,大洋彼岸的谷歌 I/O2025却悄然为这场竞争指明了新的方向。 此刻,国内的AI文生视频产品无疑迎来了双雄争霸的格局。 一方面,即梦AI在字节跳动网传120亿美元下注AI的激进投资战略里占据重要位置,且实现了用户飞速增长;另一方面,可灵AI自商业化以来至今年2月累计营业收入超1亿元,在全球的文生视频性�

  • 找零工APP上线智能匹配引擎:1分钟极速接单,破解用工“两头难”

    找零工APP通过智能匹配引擎解决用工难题,1分钟内精准对接用工需求与工人资源,效率较传统方式提升2倍。系统采用AI算法分析200多个维度标签,实现供需秒级匹配,订单完成率从78%跃升至95%。同时通过电子围栏技术实时监控作业安全,采用"预存保证金+区块链存证"保障薪资准时到账率达99.5%。该模式已推广至长三角、珠三角20余城,推动区域灵活用工标准化率提升68%,获评"浙江省数字化就业服务示范平台",为2亿灵活就业者构建了高效可信的新型用工生态。

今日大家都在搜的词: