首页 > 传媒 > 关键词  > 正文

围绕算力+数据,矩阵起源建设开源 AI 原生软件平台

2024-05-21 18:11 · 稿源: 站长之家用户

一年多前,ChatGPT初露头角,其突破性的自然语言交互能力撼动了整个世界。之后十几个月,Transformer 架构和大语言模型 LLM 成为划时代的技术,激发了整个 AGI 领域的创业和创新。OpenAI 和 Google 相继推出了 GPT-4o、Project Astra 等「AI 全家桶」、字节跳动发布「豆包」大模型家族、腾讯发布混元大模型,AI 应用领域也百花齐放,进入了新的大发展阶段。此外,数字人、数字孪生、生命科学、具身智能、元宇宙等技术也正逐渐进入人们视野AI-Native 的时代正在向我们召唤,对于企业而言,研究和应用 AI 技术已然成为数字化乃至智能化转型的“必选题”。

而在繁荣的另一面,我们也清楚地看到 Transformer 架构高度依赖于“scaling law”,除了传统深度学习依赖的的算力、数据、算法要素,电力也加入进来,成为企业、数据科学家和应用开发者新的瓶颈。高电力消耗、高能源成本向云计算时代构建的基础设施发起了挑战;昂贵的算力成本和笨拙的海量数据处理放慢了应用创新的脚步;AI应用在场景发掘、开发、部署和运维方面的的理想实践,依然还在摸索中。

MatrixOS正式发布

为应对 AI 大模型时代的挑战,矩阵起源发布 MatrixOS 产品。MatrixOS 是一个开源开放的 AI-Native 操作系统,链接算力、数据、知识、模型与企业应用,提供一整套端到端的 AI Stack 服务框架。

MatrixOS 秉承开放理念,拥抱开源技术,整体以可快速插拔和扩展的容器化架构为基础,内置强大的异构数据存储及加工平台,同时涵盖各类开源大模型及精调、编排应用框架。MatrixOS 由三个核心子产品构成,既可以一站式组合服务,也可以由每个子产品独立提供服务。

MatrixDC:算力服务平台

MatrixDC 是一款异构算力管理及调度的软件产品,作为 MatrixOS 的算力底座,具备模块化、可扩展、高性能的云原生服务能力,为企业提供异构算力池化调度、超大规模算力集群、智能运维服务质量保障等一系列平台能力;通过灵活的计费模式,更高的性价比,满足客户多样化的需求场景;提供开箱即用的分布式算力池,为数据处理、训练、微调、推理提供快捷、稳定、有效、弹性的分布式支撑环境;面向开发者,提供完备的开发 API/SDK,助力企业快速接入 MatrixDC 平台,实现预期的业务目标。同时,MatrixDC 支持与 NVIDIA AI Enterprise 和 OminiVerse 软件平台的深度集成,配合全面的专家技术支持,为客户提供 AI 应用开发、模型训练、推理等全生命周期管理服务,助力企业实现 AI 赋能。同时 MatrixDC 也将逐步支持国产 GPU 芯片的集成,组网及算力服务。

MatrixDC:算力服务平台

MatrixOne:超融合数据管理平台

MatrixOne 是一款超融合数据管理平台。作为 MatrixOS 的数据处理层,它面向云原生和容器化设计,整体采用存算分离的架构,支持针对 OLTP,OLAP,时序,流计算,机器学习等多种异构负载,以及多种数据类型的处理。基于共享对象存储的存储层使得它得以极低的成本进行海量数据存储及分享协作,基于无状态容器化的计算层可以使得它快速弹性扩缩容以应对各类负载的波动。开发者可以基于 MatrixOne 快速的一站式的打造业务系统和数据分析应用,针对LLM大模型场景也可以基于其向量能力快速构建基于场景数据理解的知识库。MatrixOne 也是一个完全开源的项目,我们也非常欢迎社区开发者的加入和贡献。

MatrixOne:超融合数据管理平台

MatrixGenesis:AI 智能体开发平台

MatrixGenesis,作为 MatrixOS 的核心应用开发层,引领企业级 AI 应用进入一个全新的时代。这一创新平台不仅全链路覆盖了大模型的开发环节,还提供了从模型选择、部署、推理服务、精调,到与结构化系统数据实时打通的全生命周期开发支持。MatrixGenesis 致力于为企业提供端到端的开发流程体验,确保每一个环节都能无缝对接,从而加速 AI 应用的开发与部署。

MatrixGenesis 开发平台是专为 AI 开发者设计的,旨在提供一个有效、灵活的工具链和平台,支持从零到一的快速迭代大模型应用。无论是基于现有的基础模型还是自选模型,用户都能开发出符合自身应用场景的智能应用。MatrixGenesis 涵盖了从 Model Finetune(DPO,PPO)、Model Alignment 和 Model Evaluation,到知识库、知识图谱的建立,以及低代码构建 Multi-Agent Workflow 的全链路开发需求。此外,我们还提供针对特定场景的 RAG/Prompt 调优和评测,帮助开发者快速迭代,不断提升应用的实际AI能力。

同时 MatrixGenesis 也将联合合作伙伴打造开放式的模型,应用商店和智能体分享订阅能力,使得更多的开发者可以参与到智能应用的生态建设中,迅速为自己的智能体应用聚集用户,更好的服务所面对的用户。

MatrixGenesis:AI 智能体开发平台

展望未来:开放、合作、创新

基于 MatrixOS 和世纪互联 AIDC 万卡集群能力的 AI 原生云平台 neolink.AI 也即将发布,这是 MatrixOS 在行业内的初次大规模落地。

MatrixOS的发布,不仅是矩阵起源对AI未来的一次大胆预测和积极布局,更是对整个技术社区的一次诚挚邀请。欢迎更多的AIDC供应商,大模型厂商和数据智能应用厂商加入到这个开源开放的生态体系中来。我们坚信,通过开放合作、共享创新,我们可以共同推动AI技术的进步,为企业和社会创造更大的价值。

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 大家在看
  • JASCO:音乐生成模型,结合文本和音频条件进行控制。

    JASCO是一个结合了符号和基于音频的条件的文本到音乐生成模型,它能够根据全局文本描述和细粒度的局部控制生成高质量的音乐样本。JASCO基于流匹配建模范式和一种新颖的条件方法,允许音乐生成同时受到局部(例如和弦)和全局(文本描述)的控制。通过信息瓶颈层和时间模糊来提取与特定控制相关的信息,允许在同一个文本到音乐模型中结合符号和基于音频的条件。

  • prism-alignment:探索大型语言模型的偏好和价值观对齐。

    prism-alignment 是一个由 HannahRoseKirk 创建的数据集,专注于研究大型语言模型(LLMs)的偏好和价值观对齐问题。数据集通过调查问卷和与语言模型的多轮对话,收集了来自不同国家和文化背景的参与者对模型回答的评分和反馈。这些数据对于理解和改进人工智能的价值观对齐至关重要。

  • LoRA Studio:探索多样化的AI模型。

    LoRA Studio 是一个在线平台,提供多种AI模型供用户探索和使用。这些模型涵盖了从动漫风格到抽象艺术的不同领域,可以用于生成艺术作品、设计元素等。平台的主要优点包括模型多样性、用户友好的界面以及创意的无限可能性。

  • Unstract:无代码LLM平台,用于结构化非结构化文档。

    Unstract是一个无代码的LLM(大型语言模型)平台,它允许用户通过简单的无代码方法启动APIs和ETL管道来处理非结构化文档。它支持从多种云文件/对象存储系统中读取复杂文档,并将结构化数据写入流行的数据仓库和数据库。Unstract利用大型语言模型的能力,超越了传统的RPA(机器人流程自动化),实现了机器到机器的自动化。

  • Woy AI:2024年顶级AI工具目录

    Woy.ai是一个AI工具目录,提供2024年最新的AI工具列表。它为技术爱好者、开发者和企业提供了一个平台,以发现和利用人工智能的最新进展。

  • Sparkpage:AI驱动的新型网页,重构信息互动。

    Sparkpage 是由 Genspark 推出的革命性网页形式,致力于通过 AI 技术改善用户在线获取信息的方式。它通过内容蒸馏和整合,提供无商业影响和编辑偏见的丰富、可靠信息。内置的 AI 助手能够动态响应用户查询,提供个性化的见解和信息。

  • Helix Free User Persona Generator:生成用户画像,助力市场洞察

    Helix是一个专注于用户画像生成的在线工具,能够帮助企业或个人快速理解目标受众的特征和需求。它通过分析用户数据,生成详细的用户画像,帮助产品或服务更好地定位市场和用户。

  • Promoted:提升市场搜索、推荐和原生广告的排名

    Promoted是一个专注于市场搜索、推荐和原生广告排名的解决方案,通过先进的机器学习技术和大型语言模型搜索相关性AI技术,显著提升转化率和广告质量。它为市场平台提供了统一的搜索、推荐和广告服务,帮助企业实现更好的匹配和更高的收益。

  • Index-1.9B-Pure:轻量级大语言模型,专注于文本生成。

    Index-1.9B-Pure是Index系列模型中的轻量版本,专为文本生成而设计。它在2.8T的中英文语料上进行了预训练,与同等级模型相比,在多个评测基准上表现领先。该模型特别过滤了所有指令相关数据,以验证指令对benchmark的影响,适用于需要高质量文本生成的领域。

  • Index-1.9B-Character:19亿参数规模的角色扮演模型,支持few shots角色定制。

    Index-1.9B-Character是由Index团队自主研发的大型语言模型,专注于角色扮演领域,拥有19亿参数规模。该模型支持用户通过上传角色对话语料实现快速的角色定制,具备较高的角色一致性、对话能力和角色扮演吸引力。在CharacterEval权威benchmark评估中,整体均分排名第九,表现优于同量级模型。

  • Index-1.9B-Chat:基于19亿参数的对话生成模型

    Index-1.9B-Chat是一个基于19亿参数的对话生成模型,它通过SFT和DPO对齐技术,结合RAG实现fewshots角色扮演定制,具有较高的对话趣味性和定制性。该模型在2.8T中英文为主的语料上预训练,并且在多个评测基准上表现领先。

  • Llama3-70B-SteerLM-RM:70亿参数的多方面奖励模型

    Llama3-70B-SteerLM-RM是一个70亿参数的语言模型,用作属性预测模型,一个多方面的奖励模型,它在多个方面对模型响应进行评分,而不是传统奖励模型中的单一分数。该模型使用HelpSteer2数据集训练,并通过NVIDIA NeMo-Aligner进行训练,这是一个可扩展的工具包,用于高效和高效的模型对齐。

  • ComfyUI.org:开源AI工具,推动AI民主化。

    ComfyUI是一个开源AI模型,致力于推动AI工具的民主化和开源化。它由一个团队创建和维护,旨在为AI社区提供易于使用、安全和可靠的工具。ComfyUI支持通过各种工具,如节点管理器、节点注册表、命令行界面、自动化测试和公共文档来支持其生态系统。团队相信开源模型将在长期内胜过封闭模型,并致力于通过社区驱动的方式推动AI工具的发展。

  • Hedra:创造实验室,打造下一代人类叙事产品

    Hedra是一个创新的创造实验室,专注于将基础模型转化为产品,以驱动下一代的人类叙事技术。它提供了一个平台,让用户能够创造具有表达力和可控性的人物角色视频,并构建能够捕捉想象力的虚拟世界。Hedra的使命是通过提供完整的创意控制,让用户想象世界、角色和故事。

  • L4GM:4D重建模型,快速生成动画对象

    L4GM是一个4D大型重建模型,能够从单视图视频输入中快速生成动画对象。它采用了一种新颖的数据集,包含多视图视频,这些视频展示了Objaverse中渲染的动画对象。该数据集包含44K种不同的对象和110K个动画,从48个视角渲染,生成了12M个视频,总共包含300M帧。L4GM基于预训练的3D大型重建模型LGM构建,该模型能够从多视图图像输入中输出3D高斯椭球。L4GM输出每帧的3D高斯Splatting表示,然后将其上采样到更高的帧率以实现时间平滑。此外,L4GM还添加了时间自注意力层,以帮助学习时间上的一致性,并使用每个时间步的多视图渲染损失来训练模型。

  • Grazias:自动化收集和分享客户反馈。

    Grazias是一个免费的在线工具,用于自动化收集客户的推荐信,并集中管理这些推荐信,同时可以方便地在任何地方分享。它提供了一系列功能,包括简单的表单收集、自定义表单、自动跟进邮件以及详细的分析和图表,帮助企业更好地管理和利用客户反馈。

  • Olvy AI:客户反馈的智能管理助手

    Olvy AI是一个先进的客户反馈管理平台,它通过AI技术整合来自不同渠道的客户声音,包括调查、访谈、评论、支持票据和销售电话等,帮助企业快速获取洞察力。它通过自动化和智能化的方式,将客户反馈转化为可操作的见解,帮助企业做出更明智、更快速的决策。Olvy AI的主要优点包括提高团队生产力、节省时间、提供精准的数据驱动见解,以及保持与用户需求的紧密联系。

  • Aware:智能孕期社区应用

    Aware.ai Pregnancy App是一个为孕妇设计的智能社区应用,通过AI技术为孕妇提供个性化的社区推荐和资源。它通过匹配孕妇的背景和孕期目标,帮助她们找到合适的社区和资源,分享孕期故事和经验,并通过一对一连接获得其他孕妇的见解和建议。

  • VidAU:AI驱动的视频和音频生成平台,简化内容创作。

    VidAU AI Video & Audio Creator是一个AI驱动的视频和音频生成平台,它通过简化从构思到制作的整个内容创作过程,使得用户能够轻松创建引人入胜的视频。平台提供多种AI工具,包括视频更换、视频翻译、字幕翻译和去除、AI虚拟形象发言人以及文本转音频等功能,帮助用户提升视频内容的质量和吸引力。VidAU支持120多种语言的视频翻译,覆盖150多个国家,能够节省90%以上的视频制作时间。

  • The Prompt Report:系统性调研生成式AI的提示技术

    The Prompt Report 是一份系统性调研报告,专注于生成式人工智能(GenAI)的提示技术。它通过结合人类和机器的努力,从多个数据库中处理了4797条记录,提取出1565篇相关论文。报告提供了58种基于文本的技术,并补充了多模态和多语言技术的广泛集合。其目标是提供一个易于理解和实施的提示技术目录,并回顾了作为提示扩展的代理,包括评估输出和设计有助于安全性和安全性的提示的方法。此外,报告还应用提示技术在两个案例研究中进行了实践。

今日大家都在搜的词: