首页 > 传媒 > 关键词  > AI音乐最新资讯  > 正文

解码「天工SkyMusic」,填补AI音乐领域技术空白

2024-04-12 14:39 · 稿源: 站长之家用户

这几周,全球无不对AI音乐大模型那”以假乱真“的音乐创作能力感到惊奇不已,甚至有人认为“AI将革新音乐产业”。

而位居这场革新风暴中心的,正是昆仑万维推出的国内唯 一公开可用的AI音乐生成大模型——「天工SkyMusic」。

自开启邀测以来,「天工SkyMusic」已经在互联网上刷爆了存在感,成为网友们改编、二创音乐的新晋网红神器。

迟迟等不到的“音乐ChatGPT”时刻

相信大家在体验「天工SkyMusic」时,都会有一个疑问:隔壁AI视频生成大模型都开始辅助创作了,为什么「天工SkyMusic」这类AI音乐生成大模型才才崭露头角?

原因在于构建生成高质量音乐的AI大模型,所面临的复杂度远超想象。

一方面是技术路线的选择,AI音乐生成大模型有两种主流技术路线,符号音乐生成和大模型音乐音频生成。前者以MIDI为主要流派,其本身不包含音频文件,而是记录音乐演奏的指令,比如哪个音符被播放、音量是多少、音符持续的时间等,不能生成直接听的音乐。

学术与产业界在符号派的AI音乐生成上投入了大量研究,但是始终效果不佳。

相反,深度学习大规模音频数据则通过大模型端对端的方案,直接生成包含乐器、人声、旋律等音乐元素的完整音频作品。它需要模型具备极 高的模拟精确度、大规模的高品质音频数据集、庞大的算力支撑……

这是一条预期效果更好,但是难度非常高的技术路径,业内只有很少玩家展开研究。

同时,鉴于歌声在音乐审美中的核心地位,AI对人声歌唱逼真模拟的研究也尤为关键。遗憾的是,受限于技术发展,以往AI音乐生成模型更关注无人声演唱的背景音乐(Background Music,BGM)领域,而非包含人声演唱的Song领域,因此行业内缺乏有效的解决方案。

因此在AI音乐生成领域,无论是OpenAI的JukeBox、Meta的MusicGen,还是Google的MusicLM,它们虽然逐步解决了AI音乐生成中的痛点,但距离生成高品质且类型丰富的音乐作品还有一定距离。

「天工SkyMusic」自研发阶段即确立目标,要开发一款辅助用户创作高质量音乐的工具。团队毅然选择了AI音乐生成大模型的道路,并决定重点攻克人声歌唱难题,勇敢涉足AI音乐制作领域内两个最具挑战的无人区。

「天工SkyMusic」架构诞生记

面对大模型音乐音频生成+人声Song这两个近乎空白的技术领域,昆仑万维倾注了海量研发资源和算力算法投入,不断试错,终于自主研发出一套音乐音频领域的大模型架构。

这是一套类似Sora的DiT大模型架构,采用LLM+Diffusion的核心模块组成。

其中,用户输入的参考音乐会被拆解为不同的Music Patches,由Large-scale Transformer负责谱曲,来学习Music Patches的上下文依赖关系,同时完成音乐可控性。

同时,Diffusion Transformer将负责大模型的“演唱”部分,通过LDM(Latent Diffusion Model)扩散模型让Music Patches被还原成成44.1KHz的高品质立体声的音频。

昆仑万维这套高效、灵活且具有情感表达能力的音乐生成模型架构,填补了音频生成+人声Song这两技术领域的空白,堪称AI音乐生成领域的一大技术飞跃,也让昆仑万维公开「天工SkyMusic」技术原理图的举措更让人敬佩,它不仅打破了行业内的封闭状态,更为更是为整个产业铺垫了一条可复现的技术路径,大大降低整个AI音乐生成产业的研发风险。

AI音乐破晓:「天工SkyMusic」的中国式突破

从「天工SkyMusic」的技术分析中我们可以看到,昆仑万维在研发过程中克服了诸多技术难题,为我们打造出一个真正意义上,能高效创作高品质音乐的AI音乐生成大模型。在这里,我们可以生成时长80秒,采样率44.1KHz的双声道立体声歌曲,还可以通过歌词控制歌曲的情绪变化,精确区分不同音乐结构间的情感起伏,也可完成各种复杂歌唱技巧。

而且较之国外同类产品,「天工SkyMusic」最明显的差异是在中文人声歌唱上发音纯正清晰,无明显机械痕迹,效果逼真的程度足以“以假乱真”。这不仅让中文歌词韵味和情感表达更为出色,也在表达中国文化特有的意境与情感内涵时,更加贴合国人的审美习惯与情感认同,形成独有的差异化优势。

情感AGI待放:天工SkyMusic」引领情感创作变革

「天工SkyMusic」作为昆仑万维 “All in AGI和AIGC”战略下在音乐领域的先锋之作,填补了传统AGI侧重于智力拓展而忽视情感维度的空白,标志着昆仑万维在情感AGI研究中取得的重大突破。

如今,「天工SkyMusic」不仅降低音乐创作门槛,让更多普通用户能够借助这款全民音乐创作工具的力量,更好地通过音乐这一媒介,表达自己的情感和创意。未来,随着昆仑万维在情感AGI技术上不断的突破,「天工SkyMusic」将具备更多令人惊叹的创作能力,亦有望成为辅助专业音乐创作者的利器。

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 大家在看
  • 知了zKnown:致力于信息降噪 / 阅读提效的个人知识助手

    知了 zKnown 是一款 AI-Native 构建的个人知识助手,专注于信息降噪和阅读提效。它通过多端同步、多渠道总结、长文本支持等功能,帮助用户高效地管理和整理信息。产品的主要优点包括:- 多端同步:用户可以在移动app、桌面客户端、网页版、小程序等多个平台同步使用。- 多渠道总结:支持微信公众号、知乎、简书、36Kr、少数派等多个渠道的文章总结。- 长文本支持:最长支持总结3万字的文章内容。- 摘要导出:用户可以将摘要保存到 Notion、Flomo 等平台。- 产品背景:知了 zKnown 致力于通过 AI 技术提升用户的阅读和信息管理效率,适合需要高效处理大量信息的用户。

  • MBox AI Meet:实时转录与会议总结的谷歌会议扩展

    MBox AI Meet是一款免费Chrome扩展,专为Google Meet设计,提供实时转录和自动生成会议总结的功能。它利用AI技术帮助用户在会议中专注于讨论,而无需担心记笔记。该工具通过实时转录捕捉会议的每一个细节,并在会议结束后自动生成总结,确保用户不会错过任何重要信息。MBox AI Meet的隐私优先策略确保会议安全,不存储任何音频或视频内容。此外,该扩展还计划在未来更新中增加更多AI功能,如发言人识别、实时AI助手等。

  • Klee:本地安全AI,保障数据隐私。

    Klee是一款macOS原生的AI助手应用程序,专注于本地处理数据,确保数据安全和隐私。它使用先进的AI技术,如RAG(检索增强生成)和开源大型语言模型,如Llama 3和Mistral,为用户提供高效、智能的笔记、搜索和知识管理功能。Klee的主要优点包括本地运行以保护隐私、支持团队协作、免费使用以及优化的macOS体验。

  • Kipps.AI:快速构建AI助手,提升业务效率

    Kipps.AI 是一个在线平台,允许用户在短短两分钟内构建自己的AI助手,并将其集成到业务中。该平台支持多种数据源,如PDF、Notion、网站链接和文本,用户只需提供这些数据,Kipps.AI 会处理其余部分。它还与常用的工具如GoDaddy、Wordpress、Drupal、Squarespace、Magento和Wix等进行集成,使得用户可以轻松地将AI助手集成到现有的业务流程中。

  • CrossPrism for MacOS:图像识别、标注和关键词生成工具

    CrossPrism for MacOS 是一款专为摄影师设计的图像识别、标注和关键词生成工具。它利用多核 CPU、GPU 和神经引擎,能够识别物种、生成标题和描述,并支持模型训练的可定制性。用户可以在本地自动标注无限量的原始照片,确保所有照片安全地存储在 Mac 上,无需担心云服务中断、数据锁定或文件传输问题。其20多个专家模型可以对从鸟类到地标的各种内容进行分类,并提供新的视角来整理目录和重新发现旧照片。此外,它还支持视频处理、Lightroom 插件、图像质量评估等功能,使其成为一个强大的筛选工具。

  • ZETIC.ai:构建零成本的设备端AI。

    ZETIC.ai提供了一种革命性的设备端AI解决方案,使用NPU技术帮助企业减少对GPU服务器和AI云服务的依赖,从而显著降低成本。它支持任何操作系统、任何处理器和任何目标设备,确保AI模型在转换过程中不损失任何核心功能,同时实现最优性能和最大能效。此外,它还增强了数据安全性,因为数据在设备内部处理,避免了外部泄露的风险。

  • Kerqu.Ai:一站式AI内容生成器,助力跨境电商提升效率。

    Kerqu.Ai是一个为跨境电商卖家提供一站式AI解决方案的平台,整合了先进的AI技术,帮助用户节约成本、提升品牌影响力和销售转化率。产品通过AI技术实现模特换场景、AI图片创作、批量抠图、图片变高清等功能,同时提供一键撰写文案、优化文案和多语言翻译服务,满足多站点经营需求。

  • ReviewHawk:通过分析用户评论,降低用户流失率。

    ReviewHawk是一个专注于分析应用商店评论的工具,旨在帮助企业降低用户流失率,获取用户反馈,从而改善产品。它通过数据驱动的决策和用户满意度分析,帮助企业了解用户真正想要的功能,从而提升用户留存率和产品满意度。

  • Airtable Cobuilder:快速创建与管理数据的应用程序

    Airtable Cobuilder 是一款强大的应用程序构建工具,旨在通过简单的拖放界面和AI辅助功能,帮助用户快速创建和管理数据。它允许用户连接和简化他们最关键的数据,通过可视化数据、自定义视图和集成其他业务工具,提高团队协作和数据管理的效率。该工具特别适合需要高度定制化和灵活性的业务应用场景。

  • Alertfor:追踪网络信息,及时获取答案变化

    Alertfor 是一个在线平台,通过其专有的AQTA (Ask Question Track Answer) 流程,允许用户提交复杂问题,并在网页上寻找最相关的答案。它通过持续追踪提供连续的更新,确保用户能够获得准确且及时的信息。

  • Unskool:家长支持工具,助力家庭教育

    Unskool是一个由家长为家长制作的辅助工具,旨在简化家庭教育过程。它通过去除繁琐的行政工作,让家长能够专注于创造一个丰富的学习环境,让家长和孩子都能茁壮成长。Unskool提供了跟踪、记录和灵感激发的功能,并通过人工智能生成定制的、按需的课程计划,帮助家长更高效地进行家庭教育。

  • AI Generated Diagram:智能生成图表工具

    AI Generated Diagram 是一款利用人工智能技术生成图表的工具。它通过用户输入的提示(prompts)来创建图表,支持多种布局类型,如水平布局(Horizontal)。用户可以通过编辑、配置等操作来调整图表的细节,并支持导出为SVG格式或导出数据。该工具不仅提高了设计图表的效率,还通过AI技术提升了图表的美观度和准确性。

  • Free AI Image Extender:使用人工智能扩展图像边界

    AI Image Extender 是一款利用人工智能技术扩展图像边界的工具,通过生成新内容与现有图像无缝融合,增强图像的视觉延展性。该产品通过先进的AI算法,能够智能识别图像内容并生成自然过渡的扩展区域,适用于需要图像扩展或背景生成的各种场景。

  • Capacities:一个为你的思维打造工作室的APP

    Capacities是一个旨在改善人们思考方式和工作流程的应用程序。它通过使用对象而非传统文件和文件夹来组织信息,帮助用户更直观地理解和连接复杂的信息结构。该应用支持网络化笔记,使用户能够自然地构建信息网络,激发新的创意。Capacities还提供AI助手,帮助用户与笔记中的对象动态互动,并提高写作质量。此外,该应用注重数据安全和隐私保护,符合GDPR标准,数据存储在欧盟的加密服务器上。

  • CLASI:高质量、类人同声传译系统

    CLASI是一个由字节跳动研究团队开发的高质量、类人同声传译系统。它通过新颖的数据驱动读写策略平衡翻译质量和延迟,采用多模态检索模块来增强特定领域术语的翻译,利用大型语言模型(LLMs)生成容错翻译,考虑输入音频、历史上下文和检索信息。在真实世界场景中,CLASI在中英和英中翻译方向上分别达到了81.3%和78.0%的有效信息比例(VIP),远超其他系统。

  • image-matting:AI抠图项目,使用开源模型实现图像抠图。

    image-matting 是一个基于开源模型 briaai/RMBG-1.4 的AI抠图项目。该项目旨在通过学习AI技术、GUI开发、前端学习以及i18n国际化等技术,实现本地模型算法的图像抠图功能。它支持单张和批量抠图,用户可以通过拖拽和粘贴的方式快速进行图像处理。项目还提供了打包后的运行文件下载链接,方便用户使用。

  • OnlyPans:AI定制周晚餐计划

    OnlyPans是一个利用人工智能技术为用户提供定制化晚餐计划的应用程序。它通过与用户的简短聊天来了解用户的预算、口味偏好、语言习惯、饮食限制以及日常生活的忙碌程度,然后快速生成符合用户需求的晚餐计划。随着用户使用时间的增长,OnlyPans会不断学习和优化,提供更加个性化的服务。此外,OnlyPans还提供智能购物清单功能,帮助用户避免食品浪费和不必要的紧急购物。OnlyPans注重用户隐私保护,承诺不会出售用户的任何信息。

  • Excel Dashboard AI:将Excel转换为仪表板和报告的AI工具。

    Excel Dashboard AI是一款利用人工智能技术,将Excel数据快速转换为交互式仪表板和分析报告的工具。它通过自然语言处理能力,允许用户以对话形式与数据进行交流,从而迅速获得洞察。产品的主要优点包括快速生成多样化的数据分析维度、自然语言编辑和锁定分析视角、一键生成交互式仪表板、AI解读图表含义以及将仪表板转换为详尽的分析报告等。

  • 清影 AI 视频生成服务:基于 AI 技术生成视频内容的智能服务。

    清影 AI 视频生成服务是一个创新的人工智能平台,旨在通过智能算法生成高质量的视频内容。该服务适合各种行业用户,能够快速便捷地生成富有创意的视觉内容。无论是商业广告、教育课程还是娱乐视频,清影 AI 都能提供优质的解决方案。该产品依托于先进的 GLM 大模型,确保生成内容的准确性与丰富性,同时满足用户个性化需求。提供免费试用,鼓励用户探索 AI 视频创作的无限可能。

  • Tempest AI:无需编码,10分钟构建游戏

    Tempest AI是一个无需编码即可快速构建游戏的平台。它利用强大的AI助手帮助用户从零开始创建游戏,支持动态角色、适应性任务和互动世界。用户可以通过拖放编辑器构建世界,设计游戏机制,并通过故事构建器控制游戏叙事。Tempest AI不仅适合游戏开发者,也适合那些希望探索创意和互动叙事的爱好者。

今日大家都在搜的词: