2023 年 8 月 23 日，由电子发烧友网和elexcon深圳国际电子展联合主办的 2023 第七届人工智能大会在深圳召开。以“智向远大，能者千面”为主题，本届大会汇聚行业的专家、学者、企业代表，共同寻找人工智能产业发展新机遇。
爱芯元智AI推理引擎总监唐琦受邀出席大会，发表《Transformer视觉大模型在边缘侧的部署》主题演讲，分享基于爱芯通元混合精度NPU部署Transformer视觉模型的落地实践，并正式发布开发者套件——爱芯派Pro。第四届人工智能卓越创新奖同期颁发，凭借在边缘AI赛道的强大自研实力和突出落地成果，爱芯元智AX650N获评“最 具创新价值产品奖”。
端侧智能快速普及 Transformer视觉模型应用走向新高度
自 2015 年，AI模型的物体识别准确率在ImageNet的图像分类比赛中首 次超过人类以来，人工智能行业便正式进入到新航海时代。而近年来，伴随着芯片行业制程的进步以及AI模型小型化、轻量化的趋势，AI模型在扫地机器人、家用摄像头、智能音箱等产品的本地化部署成为现实，端侧智能得到普及。
“到现在为止，基于传统CNN模型的云、边、端三角互补的算力主线已经完成”，唐琦在演讲中表示。而在AI模型从云端往端侧迁移的过程中，Transformer网络结构也在不断进步，并随着ChatGPT的火爆备受关注。回顾Transformer视觉模型的发展历史，从基于Transformer网络结构的语义分割模型应用于自动驾驶场景，到分割万物的SAM和基座视觉大模型DINOv2，Transformer视觉模型的应用正走向新的高度。
致力于打造领先的人工智能视觉芯片，爱芯元智专注于高性能、低功耗的边缘侧、端侧人工智能处理器芯片开发，布局智慧城市、智能驾驶和AIoT三大业务市场。基于智慧城市的升级改造，L2/L2+智能驾驶的应用大规模落地，以及终端设备智能化需求的扩大，爱芯元智将在边缘感知智能芯片上持续投入，持续打造感知和计算基础能力。
加快AI开发落地效率 用视觉连接数字世界和物理世界
从智慧城市到智能驾驶再到AIoT，爱芯元智之所以能做到三大应用场景全覆盖，依托于公司自研的爱芯智眸AI-ISP和爱芯通元混合精度NPU两大核心技术。
爱芯智眸AI-ISP是将深度学习算法与传统的ISP处理单元相结合，作为万物智能的“眼睛”感知更多信息，特别是暗光全彩的刚需。其拥有六大技术亮点:AI星光全彩、AI HDR成像、AI多光谱融合、AI防抖、AI场景增强、AI多传感器融合，在暗黑道路、隧道出口、颠簸路段等多个行车场景下可全面提高画质，实现更优质的视觉效果。
爱芯通元混合精度NPU作为爱芯元智另一大核心自研技术，支持INT4/INT8/INT16 三种计算精度，具有高性能、低成本、易使用的突出优势。值得一提的是，在汲取前两代产品的市场反馈并结合行业前沿技术的发展趋势之下，第三代爱芯通元混合精度NPU进一步增强了算子支持种类和不同精度的混合计算，优化了内部内存调度机制，同时可有效率支持CNN网络和Transformer网络模型。而针对爱芯通元3.0 NPU研发的工具链——Pulsar2 则进一步完善了工具链的功能和易用性，支持主流深度学习训练框架的模型部署，支持PTQ、QAT两种不同的量化操作，满足各种场景的量化调优功能。
Transformer模型在爱芯元智NPU上部署非常简单有效，以SwinT模型为例:从PyTorch的官方ModelZoo上直接下载SwinT的ONNX模型，不需要做任何模型或算子修改，就可以实现SwinT的量化压缩和编译，达到199 FPS/W的高能效比。而会上获评“最 具创新价值产品奖”的AX650N作为爱芯元智在今年推出的高性能芯片产品，基于第三代NPU，在边缘侧、端侧部署Transformer具有高性能、高精度、易部署、低功耗等特性，是业内排名靠前的Transformer落地平台。
打造芯片开发者生态 爱芯派Pro助力视觉大模型落地
大会上，爱芯元智正式推出开发者套件——“爱芯派Pro”，这款联合硬件生态伙伴共同打造的开发者套件，意在为社区开发者低成本地体验视觉大模型在边缘侧、端侧的便捷部署。爱芯派Pro搭载AX650N，拥有高算力和超强编解码能力，可满足行业对高性能边缘智能计算的需求，实现视频结构化、行为分析、状态检测等应用，有效率支持CNN模型和Transformer视觉大模型。
在爱芯派Pro发售的同时，爱芯元智还将释放集成模型量化、模型编译、模型部署三合一功能的新一代AI工具链Pulsar2 的社区版本以及丰富的开发文档，方便用户快速进行产品原型验证和二次开发，帮助用户在智慧城市、智慧交通、智慧教育、智能制造等领域发挥更大的价值。
目前，爱芯元智已经量产了四代多颗应用于不同行业领域的视觉感知芯片，并坚持基于算法、芯片、产品的垂直整合，为合作伙伴提供全栈式解决方案，帮助客户实现最 新技术的快速落地。面向人工智能产业的高速发展，爱芯元智也将通过持续的技术创新，提高芯片性能、降低成本，让边端智能更加普惠，最终实现“普惠AI 造就美好生活”的使命。
（推广）