首页 > 传媒 > 关键词  > 正文

围绕算力+数据,矩阵起源建设开源 AI 原生软件平台

2024-05-21 18:11 · 稿源: 站长之家用户

一年多前,ChatGPT初露头角,其突破性的自然语言交互能力撼动了整个世界。之后十几个月,Transformer 架构和大语言模型 LLM 成为划时代的技术,激发了整个 AGI 领域的创业和创新。OpenAI 和 Google 相继推出了 GPT-4o、Project Astra 等「AI 全家桶」、字节跳动发布「豆包」大模型家族、腾讯发布混元大模型,AI 应用领域也百花齐放,进入了新的大发展阶段。此外,数字人、数字孪生、生命科学、具身智能、元宇宙等技术也正逐渐进入人们视野AI-Native 的时代正在向我们召唤,对于企业而言,研究和应用 AI 技术已然成为数字化乃至智能化转型的“必选题”。

而在繁荣的另一面,我们也清楚地看到 Transformer 架构高度依赖于“scaling law”,除了传统深度学习依赖的的算力、数据、算法要素,电力也加入进来,成为企业、数据科学家和应用开发者新的瓶颈。高电力消耗、高能源成本向云计算时代构建的基础设施发起了挑战;昂贵的算力成本和笨拙的海量数据处理放慢了应用创新的脚步;AI应用在场景发掘、开发、部署和运维方面的的理想实践,依然还在摸索中。

MatrixOS正式发布

为应对 AI 大模型时代的挑战,矩阵起源发布 MatrixOS 产品。MatrixOS 是一个开源开放的 AI-Native 操作系统,链接算力、数据、知识、模型与企业应用,提供一整套端到端的 AI Stack 服务框架。

MatrixOS 秉承开放理念,拥抱开源技术,整体以可快速插拔和扩展的容器化架构为基础,内置强大的异构数据存储及加工平台,同时涵盖各类开源大模型及精调、编排应用框架。MatrixOS 由三个核心子产品构成,既可以一站式组合服务,也可以由每个子产品独立提供服务。

MatrixDC:算力服务平台

MatrixDC 是一款异构算力管理及调度的软件产品,作为 MatrixOS 的算力底座,具备模块化、可扩展、高性能的云原生服务能力,为企业提供异构算力池化调度、超大规模算力集群、智能运维服务质量保障等一系列平台能力;通过灵活的计费模式,更高的性价比,满足客户多样化的需求场景;提供开箱即用的分布式算力池,为数据处理、训练、微调、推理提供快捷、稳定、有效、弹性的分布式支撑环境;面向开发者,提供完备的开发 API/SDK,助力企业快速接入 MatrixDC 平台,实现预期的业务目标。同时,MatrixDC 支持与 NVIDIA AI Enterprise 和 OminiVerse 软件平台的深度集成,配合全面的专家技术支持,为客户提供 AI 应用开发、模型训练、推理等全生命周期管理服务,助力企业实现 AI 赋能。同时 MatrixDC 也将逐步支持国产 GPU 芯片的集成,组网及算力服务。

MatrixDC:算力服务平台

MatrixOne:超融合数据管理平台

MatrixOne 是一款超融合数据管理平台。作为 MatrixOS 的数据处理层,它面向云原生和容器化设计,整体采用存算分离的架构,支持针对 OLTP,OLAP,时序,流计算,机器学习等多种异构负载,以及多种数据类型的处理。基于共享对象存储的存储层使得它得以极低的成本进行海量数据存储及分享协作,基于无状态容器化的计算层可以使得它快速弹性扩缩容以应对各类负载的波动。开发者可以基于 MatrixOne 快速的一站式的打造业务系统和数据分析应用,针对LLM大模型场景也可以基于其向量能力快速构建基于场景数据理解的知识库。MatrixOne 也是一个完全开源的项目,我们也非常欢迎社区开发者的加入和贡献。

MatrixOne:超融合数据管理平台

MatrixGenesis:AI 智能体开发平台

MatrixGenesis,作为 MatrixOS 的核心应用开发层,引领企业级 AI 应用进入一个全新的时代。这一创新平台不仅全链路覆盖了大模型的开发环节,还提供了从模型选择、部署、推理服务、精调,到与结构化系统数据实时打通的全生命周期开发支持。MatrixGenesis 致力于为企业提供端到端的开发流程体验,确保每一个环节都能无缝对接,从而加速 AI 应用的开发与部署。

MatrixGenesis 开发平台是专为 AI 开发者设计的,旨在提供一个有效、灵活的工具链和平台,支持从零到一的快速迭代大模型应用。无论是基于现有的基础模型还是自选模型,用户都能开发出符合自身应用场景的智能应用。MatrixGenesis 涵盖了从 Model Finetune(DPO,PPO)、Model Alignment 和 Model Evaluation,到知识库、知识图谱的建立,以及低代码构建 Multi-Agent Workflow 的全链路开发需求。此外,我们还提供针对特定场景的 RAG/Prompt 调优和评测,帮助开发者快速迭代,不断提升应用的实际AI能力。

同时 MatrixGenesis 也将联合合作伙伴打造开放式的模型,应用商店和智能体分享订阅能力,使得更多的开发者可以参与到智能应用的生态建设中,迅速为自己的智能体应用聚集用户,更好的服务所面对的用户。

MatrixGenesis:AI 智能体开发平台

展望未来:开放、合作、创新

基于 MatrixOS 和世纪互联 AIDC 万卡集群能力的 AI 原生云平台 neolink.AI 也即将发布,这是 MatrixOS 在行业内的初次大规模落地。

MatrixOS 的发布,不仅是矩阵起源对 AI 未来的一次大胆预测和积极布局,更是对整个技术社区的一次诚挚邀请。欢迎更多的 AIDC 供应商,大模型厂商和数据智能应用厂商加入到这个开源开放的生态体系中来。我们坚信,通过开放合作、共享创新,我们可以共同推动 AI 技术的进步,为企业和社会创造更大的价值。

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 大家在看
  • BNA:多功能AI超级应用,涵盖社交、电商、娱乐和教育。

    BNA AI Super App是一款集成了多种智能服务的超级应用,它不仅提供社交功能,如分享帖子、写博客、聊天和视频通话,还涵盖了AI电商和娱乐服务。此外,该应用还提供40种语言的AI教学服务,帮助用户学习不同的语言。BNA AI Super App以其强大的AI功能和多语言支持,满足了不同用户群体的需求。

  • Elisi:高效能自主层级式计划助手

    Elisi 是一款旨在帮助用户实现个人成长的终极组织者和指南。它通过直观的设计和用户友好的说明,帮助用户将梦想转化为清晰的结果,分解成可实现的里程碑,并通过AI技术理解并适应用户的个人需求,确保每一天都更有条理和高效。Elisi 致力于提供便捷服务,主要功能套件完全免费。

  • Omi AI:个性化AI助手,记录每一刻,与AI对话获取反馈。

    OMI APP是一个任务驱动的个性化AI助手,旨在通过语音和音频转录功能帮助用户提高记忆力和沟通效率。它是一个开源的AI记事本,提供提醒、建议等功能,同时注重用户隐私。

  • MeowMail:高送达率的AI电子邮件营销工具

    MeowMail是一款集成在Shopify后台的电子邮件营销应用,利用AI技术自动选择最佳发送时间,提高邮件的送达率至98%以上。它支持拖放编辑、从Klaviyo导入邮件列表、使用Beefree编辑器创建新邮件,并通过设定支出限制来管理邮件营销活动。MeowMail还提供企业级支持和自动翻译文本功能,帮助商家以低成本实现高效的邮件营销。

  • Maia 100:微软定制AI加速器,专为大规模AI工作负载设计。

    Maia 100是微软为Azure设计的首款定制AI加速器,专为大规模AI工作负载而打造,通过软硬件的协同优化,实现了性能、可扩展性和灵活性的最大化。它采用了TSMC N5工艺和COWOS-S互连技术,具备高达1.8TB/s的带宽和64GB的容量,支持高达700W的热设计功耗(TDP),但以500W运行,确保了高效的能效比。Maia 100集成了高速张量单元、向量处理器、DMA引擎和硬件信号量,支持多种数据类型和张量切分方案,并通过以太网互连支持大规模AI模型。此外,Maia SDK提供了丰富的组件,支持快速部署PyTorch和Triton模型,并通过双编程模型确保高效的数据处理和同步。

  • LTM:超长上下文模型,革新软件开发

    Magic团队开发的超长上下文模型(LTM)能够处理高达100M tokens的上下文信息,这在AI领域是一个重大突破。该技术主要针对软件开发领域,通过在推理过程中提供大量代码、文档和库的上下文,极大地提升了代码合成的质量和效率。与传统的循环神经网络和状态空间模型相比,LTM模型在存储和检索大量信息方面具有明显优势,能够构建更复杂的逻辑电路。此外,Magic团队还与Google Cloud合作,利用NVIDIA GB200 NVL72构建下一代AI超级计算机,进一步推动模型的推理和训练效率。

  • EZ-work AI文档翻译:智能AI翻译,高效文档语言转换助手。

    EZ-work AI文档翻译是一款专注于文档翻译的在线服务,支持多种语言的翻译,包括中文、英语、日语、俄语、阿拉伯语和西班牙语等。它使用先进的AI技术,如gpt-4o-mini和deepseek-chat模型,为用户提供快速、准确的翻译服务。该产品适用于需要文档翻译的个人和企业,尤其在国际交流和学术研究领域尤为重要。

  • Watson AI:会议助手,自动记录并总结会议要点。

    Watson AI是一款会议助手应用程序,它通过录制系统音频和麦克风来转录和总结会议内容,自动提取行动项和会议摘要,帮助用户更高效地进行会议记录和回顾。

  • PicTech AI: 免费在线AI图片翻译 助力跨境电商

    PicTech AI是由学以致用科技旗下的智能图像工具品牌,专注于为跨境电商提供AI驱动的图片翻译服务。该产品利用人工智能技术,实现高准确率和高清晰度的图片翻译,支持中文、英语到日语、韩语等多国语言的翻译。PicTech AI的智能抠图功能,能够准确检测图片主体边缘,一键去除背景,无需专业编辑。产品背景信息显示,其团队由来自百度、网易、阿里巴巴等行业巨头的顶尖高科技人才组成,具备强大的技术实力和产品能力。该产品定位于帮助跨境电商从业者简化工作流程,提高效率,无需懂外语或图像处理技能即可使用。

  • AnythingLLM:一站式AI应用,支持多种文档和模型。

    AnythingLLM是一个多功能的桌面客户端,支持多种语言模型(LLM)和文档类型,提供完全私密的使用体验。用户可以根据自己的需求选择企业级模型、自定义模型或开源模型,如GPT-4、Llama、Mistral等。产品支持一键安装,本地运行,无需互联网连接,保护用户隐私。

  • 林哥的大模型野榜:更适合中国宝宝体质的大模型产品排行榜

    林哥的大模型野榜是一个专注于中国用户需求的大模型产品排行榜,提供了多维度的评估和排名,帮助用户更好地了解和选择适合的大模型产品。

  • Fluximg.com:AI文本到图像生成器,支持多尺寸和自动翻译。

    Fluximg.com是一个基于Flux模型的AI图像生成网站,提供从文本到图像的转换服务。它支持多种语言,包括中文和英文,并且具有用户友好的界面。网站提供免费和专业版本,使用户能够根据自己的需求选择不同的服务级别。

  • 现代文转古文:将现代汉语转化为古汉语,提升文采。

    现代文转古文是一款能够将现代汉语自动转换为古汉语的模型,它通过先进的自然语言处理技术,使得用户可以轻松地将现代文本转换成具有古典韵味的古文。这种转换不仅能够增加文本的文学价值,还能在教育、文学创作、文化传承等方面发挥重要作用。

  • Zamba2-mini:先进的小型语言模型,专为设备端应用设计。

    Zamba2-mini是由Zyphra Technologies Inc.发布的小型语言模型,专为设备端应用设计。它在保持极小的内存占用(<700MB)的同时,实现了与更大模型相媲美的评估分数和性能。该模型采用了4bit量化技术,具有7倍参数下降的同时保持相同性能的特点。Zamba2-mini在推理效率上表现出色,与Phi3-3.8B等更大模型相比,具有更快的首令牌生成时间、更低的内存开销和更低的生成延迟。此外,该模型的权重已开源发布(Apache 2.0),允许研究人员、开发者和公司利用其能力,推动高效基础模型的边界。

  • InterTrack:无需对象模板的人体与物体交互跟踪技术

    InterTrack 是一种先进的跟踪技术,能够在单目RGB视频中跟踪人体与物体的交互,即使在遮挡和动态运动下也能保持跟踪的连贯性。该技术无需使用任何对象模板,仅通过合成数据训练即可在真实世界视频中实现良好的泛化。InterTrack 通过分解4D跟踪问题为每帧的姿态跟踪和规范形状优化,显著提高了跟踪的准确性和效率。

  • GenWarp:生成新视角的图像,保持语义信息。

    GenWarp是一个用于从单张图像生成新视角图像的模型,它通过语义保持的生成变形框架,使文本到图像的生成模型能够学习在哪里变形和在哪里生成。该模型通过增强交叉视角注意力与自注意力来解决现有方法的局限性,通过条件化生成模型在源视图图像上,并纳入几何变形信号,提高了在不同领域场景下的性能。

  • Qwen2-VL:新一代视觉语言模型,更清晰地看世界。

    Qwen2-VL是一款基于Qwen2打造的最新一代视觉语言模型,具备多语言支持和强大的视觉理解能力,能够处理不同分辨率和长宽比的图片,理解长视频,并可集成到手机、机器人等设备中进行自动操作。它在多个视觉理解基准测试中取得全球领先的表现,尤其在文档理解方面有明显优势。

  • Dressplay:个性化服装生成器,轻松变换你的装扮。

    Dressplay是一个创新的在线服装生成器,允许用户通过简单的步骤生成个性化的服装。它利用先进的图像处理技术,让用户能够选择服装区域、目标人物以及想要穿戴的服装,从而创造出逼真的服装效果。Dressplay背后的技术不仅提高了服装设计的效率,也为用户提供了一种全新的个性化体验。目前,Dressplay提供免费试用,用户可以通过网页访问并体验其功能。

  • GLM-4-Plus:国际领先的语言理解与长文本处理大模型。

    GLM-4-Plus是智谱推出的一款基座大模型,它在语言理解、指令遵循和长文本处理等方面性能得到全面提升,保持了国际领先水平。该模型的推出,不仅代表了中国在大模型领域的创新和突破,还为开发者和企业提供了强大的语言处理能力,进一步推动了人工智能技术的发展和应用。

  • Playground:专业的设计工具,让设计变得简单有趣。

    Playground是一个专业的在线设计平台,它提供了丰富的设计资源和工具,包括贴纸、壁纸、海报、T恤设计和社交帖子设计等。用户可以轻松地创建个性化的艺术作品,无论是个人使用还是商业用途。该平台以其易用性、丰富的设计元素和创新的设计理念,满足了不同用户的设计需求。

今日大家都在搜的词: