首页 > 业界 > 关键词  > arm最新资讯  > 正文

Marvell宣布OCTEON 10 DPU平台:采用ARM N2 CPU内核与5nm制程

2021-06-29 13:55 · 稿源: cnbeta

一年多前,我们就已经听说过美满电子(Marvell)的 OCTEON TX2 基础架构处理器。自那时起,相关生态就一直在公司内外以极快的方式在发展。今天我们要介绍的,就是 Marvell 最新推出的 OCTEON 10 系列 DPU 。作为一个全新的 SoC 系列,其采用了台积电 5nm 制程工艺,且首次用上了 ARM 的 Neoverse N2 CPU 内核。

上一代的 OCTEON TX 和 OCTEON TX2,仅被 Marvel 称作“基础架构处理器”。而最新的 OCTEON 10 平台,则被该公司称作 DPU 加速器。这种类型的多功能芯片,旨在帮助移动和处理那些通过网络传输的数据。

在 OCTEON 10 身上,我们不仅看到了与上一代相同的多功能构建块阵列,还看到了某些先进的 IP、以及一些新功能。比如集成机器学习推理的引擎、内联加密处理器、以及矢量数据包处理器,且它们都能够以虚拟化方式运行。

值得一提的是,OCTEON 10 也是 Marvell 首款采用台积电 N5P 工艺制造的 DPU 芯片。其不仅率先集成了 ARM 的 Neoverse N2 CPU 核心,还支持最新的 PCIe 5.0 I/O 与 DDR5 内存。

作为 DPU 的重要补充,Marvell 还为 OCTEON 10 引入了内部机器学习(ML)引擎。尽管去年完成的早期 IP,最初是为专用型的推理加速应用而打造的。

但在激烈的市场竞争面前,该公司还是决定暂时按下不表,直到将 ML 加速器集成到最新的 OCTEON DPU 芯片中。

Marvel 指出,将推理加速器放到同一芯片、并直接集成到数据管道中,对于此类数据流用例所需的高吞吐量 / 低延迟处理至关重要。

与此同时,Marvel 正在为英伟达下一代 BlueField-3 DPU 提供优于竞争对手的解决方案,尤其在 AI 处理性能和产能等方面。

据悉,首批 OCTEON 10 产品预计将于 2021 年底前出样,而英伟达 BF2 则要等到 2022 年。

此外 OCTEON 10 新系列引入了矢量数据包处理引擎,与当前一代的标量处理引擎相比,它能够将数据包的处理吞吐量,大幅提升至 5 倍。

如前所述,OCTEON 10 DPU 系列是首款公开宣布采用 ARM 最新的 Neoverse N2 基础架构的 CPU IP 设计。

AnandTech 在数月前介绍过 N2 与面向高性能计算的 HPC V1,可知与亚马逊 Graviton2 或 Ampere Altra 相比,其承诺带来 40% 的性能提升。

对于 Marvell 而言,在从 TX CPU 核心切换到 N2 之后,其单线程性能亦有望提升 3 倍。2020 年底的时候,该公司已宣布停用自家的 CPU IP,转而支持 ARM 的 Neoverse 内核。

从 DPU 用例来看,这款 Armv9 CPU 也支持 SVE2,其中包含了有利于数据处理和机器学习功能的重要指令,这点较英伟达 BlueField3 DPU 设计具有很大的优势(后者仍停留在 Armv8.2+ 的 Cortex-A78 内核)。

Marvel 还为 N2 配备了完整的缓存选项,包括 64KB L1I 和 L1D 缓存,以及完整的 1MB L2 缓存。不过在网状网络解决方案上,Marvell 还是选择了为该 SoC 集成自家的设计。

这部分的规格相当高,网状网络中提供了 256-bit 数据路径,辅以 2MB 的 L3 共享缓存,并且能够随着核心数量的增加而加大。

在交换集成和网络吞吐量方面,Marvell 结合了 1 Tbps 交换与多达 16 路 50G MAC 整合到了一起,尽管实际产品 SKU 还是会针对特定场景而有所区分。

AnandTech 指出,OCTEON 10 系列涵盖了广泛的应用,从 4G / 5G RAN 数字 / 中央单元、到前传网关vRAN 卸载处理器等。

在云和数据中心用例上,这些解决方案可在计算与网络吞吐量性能方面,提供广泛的多功能性。对于企业而言,OCTEON 10 系列亦可提供深度集成的数据包处理和安全加速特性。

首个 OCTEON 10 产品将基于 CN106XX 设计,在 PCIe 5.0 外形尺寸上提供了 24 个 N2 内核 + 双路 100GbE QSFP56 端口,

目前 CN106XX 已经完成流片,预计将于 2021 下半年出样,且有望在 4 季度上市。规格方面,Marvell 对 OCTEON 10 系列的各种设计进行了细分。

比如本文介绍的 DDR5 控制器特指 40-bit 通道(含 8-bit ECC),辅以 SPECint2006 基准测试的性能参考数据。

此外 Marvell 准备了另外三款 OCTEON 10 SKU,包括仅配备 8 个 N2 内核、TDP 低至 10-25W 的入门级 CN103XX,两款改进网络连接的高端款 CN106XXS,以及多达 32 个 N2 内核、运算能力和网络连接吞吐量都最高的旗舰级 DPU400 。

好消息是,即便是规格最强的产品,其热设计功耗也只有 60W,远低于当前一代 CN98XX Octeon TX2 旗舰 SKU 的 80-120W。不过这些产品尚未流片,预计出样时间为 2022 年。

Marvell 总结道,该公司在 DPU 出货量方面一直处于行业领先地位,且在所有大型数据中心都有广泛的部署。随着全新一代 OCTEON 10 系列产品的到来,其将在性能和效率方面拥有更显著的竞争优势。

举报

  • 相关推荐
  • 大家在看
  • SpeedLegal:个人AI合同谈判助手

    SpeedLegal是一个利用机器学习技术(特别是深度学习、大型语言模型和通用AI)来突出合同中的条款和关键风险的技术初创公司。我们分析您的文档并发送给您一个简化的报告,以便您在签名前做出更明智的决策。

  • FCK.School:AI写作工具

    FCK.School是一个为学生提供AI写作工具的在线平台。它可以帮助学生改善写作技巧,提升学术表现。通过FCK.School的AI驱动工具,学生可以进行文本改写、文摘、语法纠错等操作,还能生成各种写作素材,如标题、论点、大纲等。FCK.School提供免费工具以供试用,同时还有付费订阅计划。

  • CompliantChatGPT:AI医疗助手,HIPAA合规

    CompliantChatGPT是一款专为医疗保健行业设计的AI助手,它通过HIPAA合规的方式,帮助医疗工作者安全、高效地处理医疗相关任务。产品具备以下特点: - 保护患者数据安全,通过令牌化技术确保个人健康信息(PHI)的安全。 - 提供个性化的医疗模式,包括血液分析、PHI匿名化、诊断和治疗规划等。 - 用户友好的界面设计,支持语音到文本的笔记功能,便于记录和回顾。 - 定价策略灵活,提供免费试用,以及多种付费套餐选择。 - 适用于医疗提供者、专业人士、医疗机构、研究中心和健康科技初创企业。

  • Healax:AI驱动的心理健康解决方案

    Healax是一款创新的AI驱动的心理健康解决方案,专为学生设计,帮助他们主动应对日常生活中的压力和焦虑。该产品通过建立学生、行政人员和提供者之间的信任沟通渠道,提供定制化活动和内容,以促进更全面的教育体验。

  • Snowflake Arctic Embed:开源的先进文本嵌入模型

    Snowflake Arctic Embed是一系列基于Apache 2.0许可开源的文本嵌入模型,专为检索用例设计。这些模型在Massive Text Embedding Benchmark (MTEB)检索基准测试中提供了领先的检索性能,为组织在结合专有数据集与大型语言模型(LLMs)进行检索增强生成(RAG)或语义搜索服务时提供了新的优势。这些模型的尺寸从超小型(xs)到大型(l),具有不同的上下文窗口和参数数量,以满足不同企业的延迟、成本和检索性能需求。

  • DuerOS X:全球首个AI原生操作系统

    DuerOS X是小度基于百度文心大模型推出的全球首个AI原生操作系统。它彻底颠覆了传统的人适应系统的模式,实现了端到端连接用户的意图与任务,极大地拓展了操作系统的边界。DuerOS X全面应用了文心大模型,通过模型路由架构,能够灵活调度不同的文心模型去解决不同难度的问题,更高效、更精准、更经济。个性化长短记忆的存储、提取和理解能力,使得DuerOS X能够更清楚地记住历史内容与用户个性化偏好。此外,多模态感知技术的应用,让DuerOS X产生更丰富的感知力,无论是通过语音、文字还是表情与小度沟通,都能准确地理解用户的意图,并给出恰当的回应。

  • abab 6.5:万亿参数MoE文本大模型

    abab 6.5系列包含两个模型:abab 6.5和abab 6.5s,均支持200k tokens的上下文长度。abab 6.5包含万亿参数,而abab 6.5s则更高效,能在1秒内处理近3万字的文本。它们在知识、推理、数学、编程、指令遵从等核心能力测试中表现出色,接近行业领先水平。

  • mistral-common:Mistral模型工具集

    mistral-common是一套帮助您处理Mistral模型的工具。它不仅包含文本到token的转换,还增加了工具解析和结构化对话。目前发布了三个版本的tokenizer,分别适用于不同的模型集合。

  • AI Grammar Checker & Paraphraser – LanguageTool:提供语法检查和改写的工具

    AI语法检查与改写工具- LanguageTool是一款免费的语法检查工具,可以检测文本中的语法错误并提供改写建议。它能够检测出拼写错误、语法问题、常见词汇混淆和标点符号错误,并提供改写建议、同义词替换和简洁句子重写。该工具适用于多种语言,支持多个平台和应用场景,如社交媒体、电子邮件和网页。

  • Spline AI 3D Generation:快速生成三维模型的AI工具

    AI 3D Generation是Spline推出的一款3D设计工具,它支持文本到3D生成和图像到3D生成,允许用户通过简单的文本提示或2D图像自动创建出详细且精确的3D模型。该工具具有生成变体与混合、直观且适合初学者、创建独特的3D库、平台集成与实时协作、易于集成和发布等功能。

  • FocuSee:轻松录屏 软件会自动跟踪光标移动美化录屏效果

    FocuSee 自动跟踪光标移动,应用动态缩放效果,为您节省宝贵时间和额外的努力。适用于演示,教程,推广视频等多种场景。

  • Ai-to-pptx:使用AI技术来自动生成PPTX 支持在线修改

    Ai-to-pptx 是一个使用 AI 技术 (ChatGpt 和 Gemini) 制作 PPTX 的助手,支持在线修改和导出 PPTX。主要功能包括使用 ChatGPT 等大语言模型生成大纲、允许用户再次修改内容、选择不同模板、在线修改 PPTX 的文字、样式、图片等,支持导出 PPTX、PDF、PNG 等多种格式。价格为付费,商业授权价格为 22000 元人民币或 3000 美元。

  • CodeQwen1.5:开源代码助手,高效编程新选择

    CodeQwen1.5是一个基于Qwen语言模型的代码专家模型,拥有7B参数,支持92种编程语言,最长支持64K的上下文输入。它具备代码生成、长序列建模、代码修改和SQL能力等,旨在提高开发人员的工作效率,简化软件开发流程。

  • PixArt-Sigma:4K文本到图像生成的扩散变换器

    PixArt-Sigma是一个基于PyTorch的模型定义、预训练权重和推理/采样代码的集合,用于探索4K文本到图像生成的弱到强训练扩散变换器。它支持从低分辨率到高分辨率的图像生成,提供了多种功能和优势,如快速体验、用户友好的代码库和多种模型选择。

  • InstantMesh:高效3D网格生成框架

    InstantMesh是一个基于LRM架构的前馈框架,用于从单张图像高效生成3D网格。它支持低内存GPU环境,并能生成具有纹理映射的3D网格模型。

  • MagicClothing:基于LDM的服装驱动图像合成AI

    MagicClothing是一种基于潜在扩散模型(LDM)的新型网络架构,专门用于服装驱动的图像合成任务。它能够根据文本提示生成穿着特定服装的定制化角色图像,同时确保服装细节的保留和对文本提示的忠实呈现。该系统通过服装特征提取器和自注意力融合技术,实现了高度的图像可控性,并且可以与ControlNet和IP-Adapter等其他技术结合使用,以提升角色的多样性和可控性。此外,还开发了匹配点LPIPS(MP-LPIPS)评估指标,用于评价生成图像与原始服装的一致性。

  • FireCrawl:无需站点地图,一键抓取网站所有子页面

    FireCrawl 是一款由 Mendable.ai 开发的开源项目,它能够无需站点地图即可抓取任何网站的所有可访问子页面,并将这些内容转换为干净、格式化的Markdown文档。它特别适合数据科学家、机器学习工程师、内容创作者和市场分析师使用,以从网站内容中提取有价值的信息。FireCrawl 能够处理使用JavaScript动态渲染的内容,提供API服务,支持自托管,并与多种开发者工具和框架集成。

  • Atlas:下一代电动机器人

    Atlas是波士顿动力公司开发的一款先进的人形机器人,它结合了数十年的研究和实际经验,旨在解决当今工业领域中最艰巨的挑战。新一代的Atlas机器人是全电动的,比以往的液压版本更强大,动作范围更广,能够更高效地完成各种任务。Atlas机器人配备了新的AI和机器学习工具,如强化学习和计算机视觉,以确保它们能够适应复杂的现实世界情况。此外,Atlas将与波士顿动力公司的Orbit™软件集成,该软件提供了一个集中的平台来管理整个机器人车队、站点地图和数字化转型数据。

  • Stable Diffusion 3 API:先进的文本到图像生成系统

    Stable Diffusion 3是一款先进的文本到图像生成系统,它在排版和提示遵循方面与DALL-E 3和Midjourney v6等顶尖系统相匹敌或更优。该系统采用新的多模态扩散变换器(MMDiT)架构,使用不同的权重集来改善图像和语言的表示,从而提高文本理解和拼写能力。Stable Diffusion 3 API现已在Stability AI开发者平台上线,与Fireworks AI合作提供快速可靠的API服务,并承诺在不久的将来通过Stability AI会员资格开放模型权重以供自托管。

  • 奇布塔:AI一站式儿童有声绘本创作平台

    奇布塔是基于人工智能生成技术的绘本创作平台,提供各种风格的有声绘本创作功能,帮助用户创作优质的绘本内容。定价灵活多样,定位于绘本创作者和儿童阅读者市场。

今日大家都在搜的词: