Arm 控股有限公司（纳斯达克股票代码：ARM，以下简称“Arm”）今日发布 Arm®v9 边缘人工智能 (AI) 计算平台，该平台以全新的 Arm Cortex®-A320 CPU 和领先的边缘 AI 加速器 Arm Ethos™-U85 NPU 为核心，可支持运行超 10 亿参数的端侧 AI 模型。
Arm 高档副总裁兼物联网事业部总经理 Paul Williamson 表示：“AI 的革新已不再局限于云端。随着世界的互联和智能化水平的日益提升，从智慧城市到工业自动化，在边缘侧处理 AI 工作负载不仅带来显著的优势，其必要性更是不可或缺。专为物联网打造的 Armv9 边缘 AI 计算平台的推出，标志着这一发展趋势迈入了重要的里程碑。”
Armv9 边缘 AI 计算平台——在边缘集成效率、安全和智能
OEM 厂商正面临着比较罕见的压力，迫切需要快速推出解决方案，以应对物联网应用不断攀升的计算需求，这些需求包括自动驾驶车辆在工厂环境中的准确导航、智能摄像头通过软件升级灵活调整功能，以及构建能够提供更自然AI 交互体验的人机界面。
为了快速创新和扩展，OEM 厂商需要在合适的位置灵活执行 AI 工作负载，以实现更强大的安全性和更高的软件灵活性，Armv9 技术正是能在大规模应用中满足这些需求的理想之选。Arm 此次发布的计算平台集成了全新的超高能效 Armv9 CPU——Cortex-A320 和支持 Transformer 算子网络的 Ethos-U85 NPU，打造出全球头个专为物联网优化的 Armv9 边缘 AI 计算平台。相较于去年推出的基于 Cortex-M85 的平台，新的边缘 AI 计算平台的机器学习 (ML) 性能提高了八倍。
Arm 技术的广泛应用，使得合作伙伴现在能够在从云端到边缘侧的各种计算场景中部署强大的 Armv9 技术。从授权该技术以构建 SoC 芯片的合作伙伴，到构建下一代设备的 ODM 和 OEM 厂商，该平台受到了包括亚马逊云科技(AWS)、西门子、瑞萨电子、研华科技和 Eurotech 在内的多家业界领先合作伙伴的支持。
全新 Cortex-A320 为下一代智能物联网设备奠定安全基础
新型边缘 AI 计算平台的推出标志着边缘计算发展的重要里程碑。Cortex-A320 为物联网带来了先进的 AI 功能和开发者优势，将 Armv9 架构的功能扩展到高能效设备，并提供全面的软件支持。
Cortex-A320 充分发挥了 Armv9 架构的优势，如针对 ML 性能的 SVE2。相较于前代产品 Cortex-A35，Cortex-A320 的 ML 性能提升了十倍，标量性能提升了 30%。
该平台所采用的 Armv9.2 架构还为最小的 Cortex-A 设备带来了高档的安全功能，例如指针验证 (PAC)、分支目标识别 (BTI) 和内存标记扩展 (MTE)。这些功能至关重要，因为边缘设备通常在暴露的环境中运行并处理敏感数据。
随着边缘 AI 在 Arm 平台上持续集成，这一全新产品的加入使 Arm 现已能为物联网提供最为先进的 Armv9 Cortex 处理器系列，覆盖从较好的性能到成本和能效受限的设备。
将 Arm Kleidi 扩展到物联网
边缘 AI 普及面临的最主要障碍之一是软件开发和部署的复杂性，这正是 Armv9 边缘 AI 计算平台软件生态系统发挥优势的关键所在。Arm 将 Arm Kleidi 扩展到物联网，这是一套面向 AI 框架开发者的计算库，旨在优化基于 Arm CPU 的 AI 和 ML 工作负载，无需开发者额外操作。KleidiAI 已集成到常见的物联网 AI 框架中，如 Llama.cpp 和 ExecuTorch 或 LiteRT（通过 XNNPACK），加速了 Meta Llama 3 和 Phi-3 等关键模型的性能。例如，在 Llama.cpp 上运行微软的 Tiny Stories 数据集时，KleidiAI 为新的 Cortex-A320 带来了高达 70% 的性能提升。
这些提升至关重要，因为在当今快节奏的技术环境中，产品的上市速度往往决定其成败。新的边缘 AI 计算平台确保了与更高性能 Cortex-A 处理器在软件层面的无缝兼容。这种可扩展性使开发者能够打造可随需求变化而灵活调整的解决方案。借助庞大的 Armv9 生态系统，以及与 Linux 等功能丰富的操作系统和 Zephyr 等实时操作系统的兼容性，开发者拥有了比较罕见的灵活性。他们可以充分利用现有的工具和知识，以及软件复用的优势，从而加快产品上市时间，并降低总体拥有成本。全球范围内有 2，000 多万活跃的 Arm 开发者，这为未来的技术创新提供了巨大潜力。
Arm凭借卓越的性能和灵活性深受开发者青睐，拥有全球最广大的软件开发者社区，超过 2，000 万名开发者在 Arm 平台上构建和测试基于 Arm 架构的应用。近几年，Arm 也在开发者生态方面做出了积极部署，对工具和软件库的集成、开源社区的构建等，在此次发布会上，Arm 更进一步，将 Armv9 与 KleidiAI 的功能拓展至物联网领域，有效兼容多种操作系统，为 IoT 开发者提供了比较罕见的性能与灵活性，极大地推动了开发者的创新。
展望未来
展望未来，显然 AI 的未来趋势将转向边缘，而全新 Arm 边缘 AI 计算平台将成为新一轮物联网创新的催化剂。Armv9 架构的特性、先进的 AI 功能和全面软件支持的结合，为 OEM 厂商和开发者创造了新的可能性。
该平台能够支持基于智能体的 AI 应用上运行经过调优的大语言模型 (LLM) 和小语言模型 (SLM)，从而开辟全新类别的边缘应用场景。在未来的场景中，智能决策将更接近数据采集源头，这不仅能显著减少延迟，还能有效提升隐私保护水平。
这不仅仅是一次渐进式的进步，它代表着行业对边缘计算和 AI 处理方式的根本性变革。这是行业初次迎来专为物联网应用优化的 Armv9 CPU，将超高能效与先进 AI 能力结合，实现了比较罕见的突破。
与此同时，转型为计算平台公司的 Arm，持续致力于为开发者提供高性能计算能力、工具和软件库，实现无缝硬件访问，简化创新开发。通过深度支持全球开源社区，Arm 确保基于 Arm 技术的硬件“开机即用”，并持续扩展开源合作伙伴关系，为开发者提供更多资源。此次将 Armv9 架构与 Kleidi 软件库引入物联网，将使广大物联网应用开发者能够利用以往限制高性能应用的先进特性，助力开发者简化未来边缘 AI 开发，充分获取 AI 性能。
（推广）