首页 > 传媒 > 关键词  > 人工智能最新资讯  > 正文

打造 “CPU+” 异构计算平台,Arm 灵活应对各类 AI 工作负载

2024-12-19 11:52 · 稿源: 站长之家用户

对于人工智能 (AI) 而言,任何单一硬件或计算组件都无法成为适合各类工作负载的万 能解决方案。AI 贯穿从云端到边缘侧的整个现代计算领域,为了满足不同的 AI 用例和需求,一个可以灵活使用 CPU、GPU 和 NPU 等不同计算引擎的异构计算平台必不可少。

依托于 Arm CPU 的性能、能效、普及性、易于编程性和灵活性,从小型的嵌入式设备到大型的数据中心,Arm CPU 已经为各种平台上的 AI 加速奠定了基础。

就灵活性而言,这对生态系统大有裨益的三个主要原因是,首先,Arm CPU 可以处理广泛的 AI 推理用例,其中许多用例通常用于数十亿台设备,例如当今的智能手机、云和数据中心。不仅如此,除了推理之外,CPU 还经常用于技术栈中的数据预处理和编排等其他任务。其次,开发者能够在更多种类的数据格式中运行更广泛的软件,而无需构建多个版本的代码。最后,CPU 的灵活性使之成为加速 AI 工作负载的理想工具。

提供多样性和选择,助力行业灵活部署 AI 计算

除了 CPU 产品组合外,Arm 计算平台还包括 GPU 和 NPU 等 AI 加速器技术,许多市场都在将这些技术与 CPU 进行集成。

在移动端领域,Arm 终端计算子系统 (CSS) 包含 Armv9.2 CPU 集群,并与 Arm Immortalis-G925 GPU 集成,可为各种 AI 用例提供加速功能,包括图像分割、对象检测、自然语言处理和语音转文本等用例。在物联网 (IoT) 方面,Arm Ethos-U85 NPU 可与需要加速 AI 性能的基于 Arm Cortex-A 的系统一起设计,例如工厂自动化等场景。

此外,除了 Arm 自己的加速器技术外,合作伙伴借助 Arm 的 CPU 灵活定制具有差异化的芯片解决方案。例如,NVIDIA 用于 AI 基础设施的 Grace Blackwell 和 Grace Hopper 超 级芯片均采用了 Arm CPU 和 NVIDIA 的 AI 加速器技术,从而显著提升 AI 性能。

NVIDIA Grace Blackwell 超 级芯片将 NVIDIA 的 Blackwell GPU 架构与基于 Arm Neoverse 的 Grace CPU 相结合。Arm 独特的产品组合使 NVIDIA 能够进行系统级设计优化,与 NVIDIA H100 GPU 相比,其能耗降低了 25 倍,单个 GPU 性能提高了 30 倍。具体来说,得益于 Arm Neoverse 平台的灵活性,NVIDIA 能够实现自有的高带宽 NVLink 互连技术,并提升 CPU、GPU 和内存之间的数据带宽和延迟。

Arm 致力于通过 Arm 全面设计生态项目,为整个生态系统注入 AI 加速的机遇。通过该生态项目,开发者可以更快访问 Arm CSS 技术,赋能软硬件技术进步,以此驱动 AI 和芯片创新,并加快开发和部署 AI 优化的芯片解决方案。

Arm 架构满足 AI 所需的独特灵活性

Arm CPU 设计所具有灵活性关键在于 Arm 领先的架构。它提供了一个可以与 AI 加速器技术紧密集成的基础平台,并支持从 128 位到 2,048 位的各种向量长度,可以在许多不同的数据点上轻松执行多个神经网络。

Arm 架构的灵活性为整个芯片生态系统提供了多样化的定制机会,Arm 一直致力于帮助合作伙伴更快地构建自己的差异化芯片解决方案。这种独特的灵活性也使 Arm 能够不断进行架构创新,定期推出关键指令和功能来加速 AI 计算,进而惠及整个生态系统,其中包括领先的芯片合作伙伴,以及在 Arm 计算平台上构建应用的 2,000 多万软件开发者等。

这一切始于 Armv7 架构,该架构引入了高 级单指令多数据 (SIMD) 扩展,例如 Neon 技术,这是 Arm 首 次涉足机器学习 (ML) 工作负载。在过去几年中,该架构不断增强,Armv8 中增加了向量点积和矩阵乘法特性,之后在 Armv9 中又引入了 Arm SVE2 和新的 Arm SME 技术,为广泛的生成式 AI 工作负载和用例提高了计算性能并降低了功耗。

与 AI 加速器技术无缝集成

Arm 是 AI 时代的计算平台,推动了持续的架构创新,以满足速度更快、互动性更好和沉浸感更强的 AI 应用的发展。Arm CPU 作为灵活处理 AI 工作负载的异构计算方法中的一部分,可以无缝增强和集成 GPU 和 NPU 等 AI 加速器技术。

Arm CPU 是处理众多 AI 推理工作负载的实用之选,凭借出色的灵活性,它能够与加速器技术无缝集成,打造更强大、更高性能的 AI 功能,准确满足特定用例和计算需求。对于 Arm 的技术合作伙伴而言,出色的灵活性有助于实现丰富的定制选择,使他们能够为 AI 工作负载构建完整的芯片解决方案。


推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 智谱发布电脑智能体大模型GLM-PC:回车即用 协助完成各类电脑任务

    智谱科技近日宣布其最新研发的电脑智能体GLM-PC正式开放体验。这款基于智谱多模态大模型CogAgent的智能体,是全球首个面向公众开放的电脑智能体,能够模拟人类的观察”和操作”行为,协助用户高效完成各类电脑任务。智谱还开源了CogAgent-9B-20241220模型,以促进GUIAgent的预训练研究,推动人工智能在电脑操作自动化领域的进步。

  • Check Point:企业如何应对复杂网络挑战?

    在刚刚过去的2024年,AI应用不断扩展,各式新型智能设备、新能源汽车也在不断普及。远程办公、云服务及移动设备的广泛采用拓展了传统的网络边界,不仅加大了确保安全高效访问资源的难度还带来了基于Web的威胁。它集成了基本的安全和网络功能,可简化管理,提高可视性,并大幅增强企业的安全防护能力。

  • ChatGPT,取代工作or生产力神器?清华校友联手发文:AI时代怎么选工作

    清华校友团队最新成果发现:写作、咨询、编程等相关自由职业最终可能被AI取代更关键的是,AI能力一旦超过某个「拐点」,对就业市场的冲击将一发不可收拾。自2022年11月30日发布以来,ChatGPT的月活跃用户数量已经达到大约1亿人,创造了最快增长的消费类应用纪录。在快速发展的数字经济中,这些调整将有助于平台保持竞争优势。

  • Arm 发布芯粒系统架构首个公开规范,加速芯片技术演进

    Arm控股有限公司宣布其芯粒系统架构正式推出首个公开规范,进一步推动芯粒技术的标准化,并减少行业的碎片化。已有超过60家行业领先企业,如ADTechnology、AlphawaveSemi、AMI、楷登电子、云豹智能、Kalray、Rebellions、西门子和新思科技等,积极参与了CSA的相关工作,助力不同领域的芯片战略制定并遵循统一的标准。随着CSA生态系统的持续壮大,以及行业在标准化与协作方面的不断深化,Arm将携手合作伙伴显著减少碎片化现象,并加速定制芯片解决方案的开发与部署。

  • Arm 技术预测:2025 年及未来的技术趋势

    Arm不断思考着计算的未来。无论是最新架构的功能是用于芯片解决方案的新技术,Arm所创造和设计的一切都以未来技术的使用和体验为导向。Arm预计这一势头将在2025年继续保持下去,随着包括GoogleChrome在内对用户日常体验至关重要的Arm原生应用实现了大幅的性能提升,WoA将对开发者和消费者的吸引力不断增强。

  • AI视频屠榜各大平台!不找工作的三个年轻人,半年赚了几十万

    因为有AI,短视频变得越来越有趣了。你看,大熊猫坐在沙发上弹吉他唱起歌。世界名画中的少女贵妇们全都动了起来。中国大熊猫携各大洲美女逛街。用对了AI,就能够大批量地、快速地、创意永不枯竭地生成这些视频。刷视频的人看了也就图一乐,但没想到,真有年轻人靠制作AI视频挣到了人生第一桶金。其中的佼佼者是深圳的西羊石团队,去年他们凭下面这条AI广告,一夜

  • 技术支持需求激增,企业该如何应对

    随着春节假期结束,很多企业的业务将迎来一波爆发式的上升,同时长假期间堆积的售后技术支持需求也会集中在这段时间爆发,企业的售后技术能力将受到巨大的考验,如果企业这方面的体系和工具建设有所欠缺,极有可能出现影响用户口碑的不利事件。面对这种压力,企业应该如何建设远程技术支持体系呢?这里我们就结合贝锐向日葵技术支持解决方案,来简单看一下企�

  • 返老还童,OpenAI做到了?首个逆龄AI将登场,人寿命可延长10年

    【新智元导读】逆龄AI真的被OpenAI实现了!新模型GPT-4bmicro通过蛋白质重编程技术,有望将人类寿命延长十年。超级智能要来了?人类「长生不老」有希望了?外媒称,OpenAI开发出了首款用于「长寿」的AI模型——GPT-4bmicro,预计将人类寿命延长10年。至关重要的是,要平衡这些进步的巨大潜力与积极措施来降低风险,为未来做好准备。

  • AI霸屏的第二年,硅谷大佬们都Pick哪些AI产品?

    全球顶级VCa16z发布了一份相当有趣的AI产品榜单,本次榜单并不是按照网站流量或收入等硬性指标来收录产品的是邀请了24位AI行业的从业者,每人选择本年度自己最喜欢的3款AI产品,并给出了评价。这24位“大佬”中,投资人代表有a16z联合创始人MarcAndreessen、YCombinator现任CEO陈嘉瑞等;从业者代表有PerplexityCEOAravindSrinivas、Meta产品设计总监DannyTrinh、Adobe首席战略官ScottBelsky等,除�

  • 小红书引流规则又变了?客资商家该如何应对

    小红书商家们,你们这几天有没有收到这条信息?1月7日开始,【私信获客工具】是小红书引流、和用户私信沟通交换联系方式的唯一合规路径。除此之外所有引流方式都会违规,包括在对话框内以文字形式发送联系方式(联系电话、微信号),违规会被禁言,严重的还会导致封号,近期平台已经针对部分账号进行处罚。【私信获客工具】到底是什么?小红书商家又该如何应对这�