首页 > 传媒 > 关键词 > 云端AI计算最新资讯 > 正文

a&s 功能实测 比特大陆算丰SC5+云端AI计算加速卡

2020-04-28 14:35 · 稿源:站长之家用户投稿

随着AI在各个领域的持续深入应用,AI技术与传统行业不断的融合,智能时代成为世界新起点。而城市大脑、安防视频结构化、人脸识别、智慧制造、金融建模、智能机器人、新材料发现、脑神经科学、医学影像分析等,人工智能时代的科学研究和工程实践都极度依赖计算力的支持。

在智能安防相关项目中,由于摄像头数量巨大、品牌庞杂、同一路图像需要多种结构化分析、结构化前端可执行的结构化内容有限、非结构化数据量大等问题,大多数用户仍然主要依靠后端进行数据结构化处理。

今天我们给大家带来的是一款全新的依托国产AI芯片设计的超强算力云端AI计算加速卡,比特大陆算丰SC5+,其在评测中体现出的高算力、高性能功耗比、强劲视频解码能力、全链路加速能力、友好的工具链等诸多让人眼前一亮的特性,都使得该设备成为一款云端AI计算基础设施的上佳选择。

标准规范设计 广泛兼容适配

此次测试编辑拿到手上的比特大陆算丰SC5+云端AI计算加速卡外观设计简约大气,采用标准半高半长尺寸设计,通过实物比较,该加速卡和英伟达的P4、T4 等是同一规格尺寸,据比特大陆技术人员介绍,该加速卡还可以和英伟达的P4、T4 等在同一台算力服务器中混合使用,充分地考虑了客户的利旧应用。

和华为Atlas300 AI加速卡的设计很相似,SC5+加速卡上搭载了 3 颗比特大陆自研的BM1684 高性能计算芯片,该芯片已经是比特大陆最近三年中推出的第三代云端AI芯片,其可靠性和稳定性都已经得到了充分的市场验证和认可。

另外,该加速卡还可适配各类x86 服务器,国产CPU系统如飞腾、申威、兆芯等;适配各类主流Linux操作系统(CentOS/Ubuntu /Debian),包括国产麒麟、Deepin;同时算丰SC系列加速卡产品也是国内首批支持百度PaddlePaddle深度学习开源框架的硬件产品之一。在 2020 年 3 月,百度的Paddle Lite推理开源框架宣布和比特大陆实现全面适配。

令人惊喜的澎湃算力

天下武功,唯快不破。对安防各类以视频、图片为核心AI分析要素的业务场景而言,每秒的图片吞吐量(image/second)指标至关重要,这意味着单张云端加速卡最大的峰值AI分析处理能力指标越高算力越强。

从标称算力来看,该加速卡可提供高达105.6T INT8 算力(Winograd 加速器打开的条件下),以及6.6T FP32 算力,支持高精度的浮点计算和大容量的整型数值计算。

a&s此次选择了评价AI芯片最常用的RESNET50 开源模型,采用业界通用的ImageNet标准的公开数据集( 5 万张图片),在SC5+加速卡标称最强的INT8 计算性能上进行了实跑测试。在INT8,RESNET 50,Batch= 4 条件下SC5+图片吞吐性能达到3000+ image/second,超过NVIDIA T4 约10%。其他各类模型下的吞吐性能也同样超过T4(如下图)。在Mobilenet v1 模型下,SC5+的吞吐性能则更是达到了惊人的 9000 张以上。

超高算力获得比

内外兼修,方成高手。通过计算得知,SC5+加速卡在VGG16 等模型下的实际算力输出可以达到70T以上,这意味着其所使用的BM1684 芯片的实际利用率达到了惊人的75%以上,相比之下,英伟达GPU的利用率则处于40%-50%的区间。

以VGG19 算力性能实测为例:

初始设置:输入人脸图片数量为50, 000 张(分辨率为224×224,RGB3 通道模式),线程数为3;计算精度:整数数据计算INT8;

VGG19 模型设置:

基于Caffe 1.0.0-rc3(Convolutional Architecture for Fast Feature Embedding,卷积神经网络框架),Batch Size为32,其余为配置文件默认参数,模型单次运行所消耗的算力为39.26Gops;

通过上述环境配置,可以精确计算出,在进行标准的VGG19 模型运算时,SC5+加速卡输出的实际算力为75.2T。

换句话说,虽然英伟达的GPU标称算力指标远远高于比特大陆提供的SC5+加速卡,而通过实测得出的结论来看,实际的算力获得比显然是比特大陆遥遥领先,由此也可以看出比特大陆的AI芯片架构设计确实有其独到之处。对最终客户来说,同样花一块钱,实际获得的算力远远超过同类产品,相信所有的客户都会愿意自己花费真金白银买到的是实际算力而非是纸面上标称很高的算力指标。

优势尽显的性能功耗比

同样的,在性能功耗比方面,单位功耗下的SC5+输出实际算力超出NVIDIA T4 的指标接近一倍,证明SOPHON AI芯片框架的能效比优势明显(如下图)。

性能功耗比:TESLA T4 vs SC5+

强大的视频解码能力

对安防应用场景而言,大量高清网络视频流的接入是最普遍应用的场景,摄像头的图像格式更是与日俱新,不断提升,从 200 万, 300 万, 500 万,到现在的 800 万乃至千万级像素的网络摄像机已经开始应用,AI解析首先需要对这些超高分辨率的视频或者图像进行解码还原,再进行各类AI算法的解析计算。

SC5+具备高达2880fps,约合 114 路1080P@25fps高清视频流的硬解码能力,堪称国产解码能力最强的AI加速卡。最大解码分辨率可支持到8K级别(半实时)。

在图片解码能力方面,SC5+单卡具备1440 img/s以上的图片解码能力。最大图片解码分辨率可以达到32768*32768 pixels。这使得SC5+ 在解析某些超大型的拼接图像时,如工业流水线的长画幅连续检测图像、高分辨率全景摄像机生成的多画面拼接图像等,具备充足的解码能力。

高度可扩展的视频转码能力

SC5+具备支持将接入的全部视频资源转换为不低于32Kbps低码流( 25 帧、CIF分辨率)和不低于1Mbps高码流( 25 帧)两种符合H. 264 标准的码流。并可随板卡的数量增加进行线性扩展,支持超大容量的视频接入转码。

视频转码功能在当前主流AI加速卡上并不多见,对于视频上云需求越来越普遍而带宽条件又不能满足需求的视频大联网系统,比如高速公路、电力、森林防火等跨地域分散广密度低的视频监控场景,SC5+ AI加速卡无疑是非常好的选择。

人脸识别算法实测性能强大

测试人员在PC服务器上安装 1 块SC5+加速卡。首先接入 16 路网络视频流,对视频进行全链路的视频解码、视频前后处理、人脸检测和识别比对等操作,在 16 路1080P视频流输入的情况下,每路视频画面实时呈现多个测试人脸图像,SC5+加速卡的单颗芯片可以完全实时的满帧处理人脸检测、跟踪、比对,并输出识别比对结果(如下图)。

实测中,将输入视频路数增加到 48 路1080P,每路视频画面同时呈现多个测试人脸图像,所有的AI计算任务被均匀分配到 3 颗计算芯片上,单张板卡可以完全实时的满帧处理 48 路人脸检测和跟踪(如下图)。

此次测试仅仅是满帧处理情况,并未做业务流程的部署优化,所使用的人脸算法也是基于开源算法修改的测试算法。如果采用AI用户的自有算法和适度优化后,可以实现更高路数的人脸识别和视频结构化分析能力,可以说该加速卡的端到端的全流程加速能力确实十分强大。

简单易上手的系统软件

本次测试中,测试人员也体验了比特大陆的AI开发工具包BMNNSDK2,比特大陆的算丰AI芯片的多种产品(板卡、模组、边缘盒子)均使用同一套统一的工具链和系统软件。

其中的工具链对开发人员非常友好,支持Caffe、TensorFlow、Pytorch、Mxnet、Darknet、PaddlePaddle等众多的深度学习框架,编译和校准工具自动化程度很高,非常易用;

伴随SC5+加速卡,比特大陆同步提供了底层驱动程序、编译器、推理部署工具、BM-SMI性能监视工具等一系列软件工具;

对应的开发SDK接口软件包中包括神经网络运行库、视频编解码库、图像编解码库、图像处理库等;为了方便部分初级开发者和应用集成开发者,比特大陆还提供专门用于上层应用系统对接的Python开发接口,开发代码量从几百上千行简化到几行几十行;而对于专业开发者,比特大陆提供了BMLANG面向TPU的高级编程模型,可以充分地支持自定义算子在AI芯片上实现加速运算。

产品特色

1、硬件采用标准化规范设计,同时还可与其他加速卡混合使用,利旧性强;

2、兼容各类服务器和操作系统,应用场景广泛。

3、具有超强算力、超高算力获得比和性能功耗比,性价比高。

4、强大的视频解码能力,每张卡支持约 114 路1080P@25fps硬解码,最大解码分辨率可达8K。

5、完备易用的工具链,AI用户二次开发方便快捷。

点评

武林至尊,宝刀屠龙,倚天不出,谁与争锋。在AI+安防这个江湖中,英伟达无疑是号令江湖已久,而本次我们测试的比特大陆SC5+计算加速卡就是初次亮相江湖的倚天剑,无论在各个方面的表现都达到并有所超越国际主流产品的水平,算力强劲,利用率高,全流程加速能力强大,易用易维护,确实是一款云端AI计算基础设施建设的首选产品。

即使有了天下最神奇的剑法,还需要一把神兵利剑来成就江湖中的高手剑客。预计比特大陆算丰SC5+会在众多的智慧城市、城市大脑、云端算力中心、雪亮工程、医疗影像、智慧制造等领域,加速各类型AI应用场景的普及。

重要规格参数

网友热搜:

免责声明:“站长之家”的传媒资讯页面文章、图片、音频、视频等稿件均为自媒体人、第三方机构发布或转载。如稿件涉及版权等问题,请与我们联系删除或处理。稿件内容仅为传递更多信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性,更不对您的投资构成建议。我们不鼓励任何形式的投资行为、购买使用行为。

  • 相关推荐
  • 大家在看
  • ​神经拟态计算的“一小步”, AI发展的“一大步”

    一个新技术从提出到成熟往往要经历多次热潮,当下热门的AI正是如此。纵观整个AI的发展历程,可以分为三个阶段。目前,AI正在从2. 0 阶段发展到3. 0 阶段,此时,重要的一环就是神经拟态计算取得的突破性进展,而这又需要在两个方面发力。

  • Rancher与趋动科技达成深度合作,推动AI计算普遍可用

    2020 年 6 月 15 日,业界应用最为广泛的Kubernetes管理平台创建者Rancher Labs(以下简称Rancher)宣布与初创科技公司趋动科技 达成深度合作,推动GPU资源池化在Kubernetes中落地。Rancher的旗舰产品Rancher 2.x 是一款核心镜像量下载量超 3 亿、拥有逾 40000 家企业用户的企业级Kubernetes管理平台。Kubernetes发展如日中天,越来越多的用户将AI计算平台搬到Kubernetes上,如何让工作负载更灵活地使用GPU资源成为了企业的核心诉?

  • 国产化边缘推理首选 高性价比AI盒子——比特大陆SE5 AI计算盒

    人工智能、机器深度学习技术的发展和应用使图像识别技术获得了关键性的突破,不同应用场景的图像识别率已经可以满足各方面的应用要求,并开始逐步应用于身份识别、商品识别、金融支付、安全防范、智能安检等诸多领域,呈现出高速发展势态,使视频监控系统的功能和效能出现质的飞跃,而这些智能功能的实现都离不开算力的支持。主流的智能运算如果全部依赖云端大规模GPU服务器集群,其高昂的运营成本就会让大多用户无法承担。边缘计?

  • 什么是边缘计算,与云计算有什么本质区别?

    首先我们先了解一下什么是云计算,云计算(cloud computing)是分布式计算的一种,指的是通过网络“云”将巨大的数据计算处理程序分解成无数个小程序,然后,通过多部服务器组成的系统进行处理和分析这些小程序得到结果并返回给用户。云计算的核心概念就是以互联网为中心,在网站上提供快速且安全的云计算服务与数据存储,让每一个使用互联网的人都可以使用网络上的庞大计算资源与数据中心。然后了解一下什么是边缘计算,边缘计算

  • 智能变革:英特尔HPC高性能计算与AI人工智能解决方案和实例

    在竞争日益激烈的环境中,数据中心作为传统信息化的基础,伴随着全面AI时代与5G、物联网的不断临近,企业希望获得出色的模拟和建模、人工智能(AI)和大数据分析功能,以便取得突破性的发现与创新,而高性能计算(HPC)基础设施能够为这些工作负载带来优势。 企业如果想在相同的 HPC 基础设施中运行 HPC、大数据分析和 AI 工作负载,优化的资源调度降低计算成本需要一个全面的融合HPC和AI集群的解决方案。 英特尔? 精选解决方案基于英

  • 0风险0事故,腾讯安全“全垒打”护航首届“云端”广交会

    6 月 24 日下午,第 127 届广交会正式落下帷幕。 50 个展区、近2. 6 万家参展商“云上”参展,数十万来自全球的采购商成功在“线上”做成了生意。腾讯安全作为本届广交会的安全重保团队,在这十天内交出了一份亮眼的安全“重保”成绩单:广交会重保期间,腾讯安全共拦截超百万次各类安全攻击、图片/文本/音频风险检测数近十亿条,最终确保 0 安全风险, 0 安全事故!出色的重保成绩,也获得了公安机关的认可。据悉,为保障广交会顺?

  • 微信聊天记录怎么备份到云端?免费教你最新备份方式

    微信聊天记录怎么备份到云端?现在,微信是大家在日常生活中不可或缺的一部分,因此里面重要的聊天记录也越来越多,有些小伙伴为了防止数据丢失,会定期将聊天记录备份下来,那微信聊天记录的备份方法有哪些呢?下面小编就给你分享一下。方法一:使用微信自带备份在电脑上下载并安装微信Windows/Mac版,打开后在电脑版微信的左下角选择“更多”-“备份与恢复”,接着,将手机和电脑连接至同一个网络,选择“备份聊天记录至电脑”后

  • 灾难恢复和云计算的3个误区

    灾难恢复(DR)是每次应用程序或数据集投入生产时都要讨论的主题之一,但通常它只是一个复选标记。将应用程序部署到公共云应该没有什么不同。然而,出现了一些混乱。我已经研究过这一点,发现了三个基于云的灾难恢复误区,这些误区似乎正在使企业在走向云时脱离正轨。误区1:不需要DR,因为它已经内置在公共云中。这里的困惑在于,一些基本的灾难恢复功能对于公共云提供商来说是系统性的。他们有备用系统,以防硬件?

  • 云计算上下游厂商介绍:国内外云计算PAAS服务商

    Paas是什么:平台即服务(PaaS)平台即服务是一种服务类别,为开发人员提供通过全球互联网构建应用程序和服务的平台。Paas为开发、测试和管理软件应用程序提供按需开发环境云计算(cloud computing)是分布式计算的一种,指的是通过网络“云”将巨大的数据计算处理程序分解成无数个小程序,然后,通过多部服务器组成的系统进行处理和分析这些小程序得到结果并返回给用户。云计算早期,简单地说,就是简单的分布式计算,解决任务分发

  • 西瓜视频直播收益计算

    西瓜视频的直播分成比例是多少,怎么提现?西瓜主播按照的是否加入公会,分为 「个人主播」和「公会主播」,两者的收益计算方法各有不同,其中西瓜视频直播除公会以外一般都是钻石数量除以 20 等于收入。

  • 在线教育走向“口碑竞争”时代 小狸AI课让“AI”更有教育温度

    近年来,在线教育行业迅速发展,在线学习逐渐获得学生和家长的认可。专家指出,“在线教育是教育服务的重要趋势,正成为中国经济新的增长点。”据预测, 2020 年中国在线教育市场规模将达 4330 亿元。而在国家进一步完善和加强政策法规的推动下,在线教育走向“重新洗牌的冷静调整期”,注重师资、课程和品牌的头部企业容易突出重围,赢得市场和资本的青睐。在此背景下,儿童智能启蒙教育领先品牌——小狸AI课凭借卓越的教学品质广

  • 为什么AIOps工具最终可以为云计算注入新的活力

    [TechWeb]AIOps工具在IT领域具有广阔的应用前景,但是云技术是AIOps有望提供最大收益的领域之一。在这一点上,云计算在IT行业中已经是成熟的领域,甚至有人说这很无聊。云中的创新已经放慢了脚步,很难想象我们在云中构建或管理应用程序方面将采取许多革命性的步骤。话虽这么说,如果我不得不选择一个准备在不久的将来在云中进行重大变革的概念,那么我会把钱花在AIOps和AIOps工具上。尽管AIOps的影响绝不仅限于云,但AIOps是目前

  • 云计算科普之SaaS简介:软件即服务

    SaaS,是Software-as-a-Service的缩写名称,意思为软件即服务,即通过网络提供软件服务,是在21世纪开始兴起的一种完全创新的软件应用模式。SaaS是一种通过网络提供软件的模式,厂商将应用软件统一部署在自己的服务器上,客户可以根据自己实际需求,通过互联网向厂商定购所需的应用软件服务,按定购的服务多少和时间长短向厂商支付费用,并通过互联网获得厂商提供的服务。用户不用再购买软件,而改用向提供商租用基于Web的软件,?

  • 云计算科普之PaaS简介:平台即服务

    云计算(cloud computing)是分布式计算的一种,指的是通过网络“云”将巨大的数据计算处理程序分解成无数个小程序,然后,通过多部服务器组成的系统进行处理和分析这些小程序得到结果并返回给用户。云计算早期,简单地说,就是简单的分布式计算,解决任务分发,并进行计算结果的合并。因而,云计算又称为网格计算。通过这项技术,可以在很短的时间内(几秒种)完成对数以万计的数据的处理,从而达到强大的网络服务。PaaS是(Plat

  • 华米科技AI创新大会今日开幕,共同见证AI解构健康未来

    2020年 6 月 15 日消息,今天下午,全球领先的智能可穿戴公司华米科技(NYSE:HMI)将于中国合肥举行首届AI创新大会,本届AI创新大会以「AI to Decode Future」为主题,将与全球 AI 领域专家一道,规划 AI 与健康结合的新蓝图,用 AI 解构未来,让科技连接健康。一直以来,华米科技在探索 AI 的路上从未止步,并在人工智能领域取得一定的技术积累。2017 年,华米科技成立人工智能实验室,启动人工智能可穿戴芯片研发,并将目标锁定?

  • 联发科独立AI处理器APU3.0,手机AI应用的原动力

    近年来,手机在语音助手、AI拍照、视频优化、VR/AR游戏等方面的AI应用快速发展,手机想要实现这些AI应用,需要芯片提供足够强大的AI算力和低功耗效能,因此手机芯片厂商纷纷在SoC中加入了独立的人工智能处理器,用于专门进行AI运算。例如联发科的天玑系列5G芯片,无论是主打高端市场的天玑 1000 系列,还是主打中高端市场的天玑 800 系列,都搭载了联发科自研的独立AI处理器 APU 3.0。早在 2018 年,联发科就开始将独立AI处理器内?

  • Gravitylink推出钛灵AI市场,深入解决行业痛点,加速AI落地应用

    随着科学技术的发展,人工智能已渗透在城市的各个角落和生活的方方面面。在算力和算法技术发展迅猛的同时,人工智能行业又面临应用场景不明确、算法碎片化、研发成本极高等诸多市场挑战,难以落地实际应用场景之中。 可见,要深入解决行业痛点,加速AI落地应用是所有AI行业都应思考的问题。深圳时空引力科技有限公司(简称Gravitylink)致力于为全球开发者搭建AI模型交易服务平台,打通AI产业上下游,帮助AI服务商提供展示和交易?

  • 小米ai通话介绍 小米MIUI12怎么设置ai接电话功能

    小米日前推出了全新的 MIUI 12 系统,小米宣布小米 AI 电话助理经过半年测试,已为内测发烧友们接听了 400 万个电话,广受好评。AI 电话助理将正式升级为 AI 通话!用户可以自定义开场语、自由切换自动应答或手动回复,还可以定向自动接听,再也不用在意骚扰电话以下是 MIUI12 AI通话功能使用教程,感兴趣的小伙伴一起来看看吧。

  • 华米科技AI创新大会圆满落幕,AI解构可穿戴未来

    2020 年 6 月 15 日,全球领先的华米科技(NYSE:HMI)首届AI创新大会于安徽合肥顺利举行,本场大会紧紧围绕着「AI to Decode Future」的主题,阐述了AI与健康产业未来的关系,并发布了新一代智能可穿戴芯片“黄山2号”、新一代PPG?物追踪光学传感器BioTracker? 2及一系列全新的?体数据AI算法?华米科技在本届AI创新大会之前,就已经通过“黄山1号”芯片,PPG?物追踪光学传感器BioTracker?以及RealBeats?生物数据引擎为用户在健康方?

  • 混合云成云市场的“新宠”,软通动力混合云平台助力企业迈步云端

    在“互联网+”国家战略的驱动下,越来越多的业务应用需要通过互联网来提供服务,公有云因此受到越来越多的用户亲睐,然而对于中小企业、创业型公司以及大型互联网公司等构建核心数据与业务的IT构架,受安全性、兼容性等多方面因素的影响,仅采用公有云已经难以承载,混合云逐步发展成为企业云架构的不二之选。企业转型痛点多,软通动力混合云管理平台来支招在数字化转型的大背景下,各行各业迎来巨大挑战的同时也更直观地感受到了?

  • 参与评论
文明上网理性发言,请遵守新闻评论服务协议