首页 > 动态 > 关键词 > 英伟达最新资讯 > 正文

NVIDIA再次打破MLPerf基准测试的性能记录

2020-10-22 15:51 · 稿源:TechWeb.com.cn

英伟达宣布其人工智能计算平台再次打破了最新一轮MLPerf的性能记录。这反过来又扩大了该公司在业界唯一一个衡量硬件、软件和服务人工智能性能的独立基准上的领先地位。

NVIDIA在第二版MLPerf Inference中赢得了针对数据中心和边缘计算系统的所有六个应用领域的所有测试。这些测试的范围从最初的两个计算机视觉扩展到了四个,涵盖了AI增长最快的领域:推荐系统、自然语言理解、语音识别和医学成像。

各行各业的企业已经在利用NVIDIA A100 Tensor Core GPU出色的推理性能,将AI从其研究团队带入日常运营中。金融机构正在使用对话式AI来更快地回答客户问题,零售商也在使用AI来保持货架库存。另一方面,医疗保健提供者正在使用AI分析数百万幅医学图像,以更准确地识别疾病并帮助挽救生命。

MLPerf的最新结果来自NVIDIA在AI推理方面的足迹急剧增长。五年前,只有少数领先的高科技公司使用GPU进行推理。现在,通过每个主要的云端和数据中心基础设施提供商均可使用NVIDIA的AI平台,代表各行各业的公司都在使用其AI推理平台来改善其业务运营并提供其他服务。

此外,与CPU相比,NVIDIA GPU现在在公共云中首次提供了更多的AI推理能力。NVIDIA GPU的云AI推理计算能力每两年大约增长10倍。

NVIDIA将AI推论推向新的高度

NVIDIA及其合作伙伴使用NVIDIA的加速平台提交了MLPerf 0.7结果,该平台包括NVIDIA数据中心GPU、Edge AI加速器和NVIDIA优化软件。

NVIDIA A100于今年早些时候推出,采用了第三代Tensor内核和多实例GPU技术,在ResNet-50测试中提高了领先优势,在上一轮中以30倍的优势击败了CPU,而现在其性能已提高了6倍。此外,根据MLPerf Inference 0.7基准测试,在针对数据中心推理的最新推荐测试中,A100的性能比最新CPU高出237倍。

这意味着单个NVIDIA DGX A100系统可以提供与大约1000个双插槽CPU服务器相同的性能,从而使客户在将AI推荐器模型从研究应用于生产时可以实现极高的成本效益。

基准测试还表明,NVIDIA T4 Tensor Core GPU仍然是主流企业,边缘服务器和具有成本效益的云实例的可靠推理平台。在相同的测试中,NVIDIA T4 GPU比CPU高出28倍。此外,NVIDIA Jetson AGX Xavier是基于SoC的边缘设备中的性能领导者。

要获得这些结果,需要高度优化的软件堆栈,包括NVIDIA TensorRT推理优化器和NVIDIA Triton推理服务软件,这两种软件都可以在NVIDIA的软件目录NGC上找到。

除了NVIDIA自己提交的文件外,还有11个NVIDIA合作伙伴使用NVIDIA GPU提交了总共1,029个结果,占数据中心和边缘类别提交的文件总数的85%以上。

  • 相关推荐
  • 大家在看
  • 英伟达收购ARM遇阻:英特尔、高通、特斯拉等齐反对

    前不久,NVIDIA宣布 400 亿美元收购ARM。一旦达成,不仅将创下史上金额最大的半导体收购案,考虑到两家企业各自的影响力,也会对行业产生深刻影响。然而,由于牵涉的业务面广泛,唱衰和不看好的声音也有不少。

  • 英伟达或收购ARM无望?英特尔和高通等多家巨头反对

    据外媒fudzilla消息,针对包括英特尔、高通和特斯拉在内的多家巨头反对英伟达收购ARM。目前,除了ARM和英伟达,大部分人都认为这对行业不利。除此以外,多个国家的监管机构可能也会对这一收购表示反对,但这还不是亟待考虑的问题,因为常规上该收购需要 18 到 24 个月才能完成。

  • 英伟达宣布与GSK AI实验室达成合作,研发药物和疫苗

    10月6日消息,在GTC 2020 秋季站上,NVIDIA宣布与全球医疗健康公司葛兰素史克(GSK)及其AI 团队达成合作,后者正在将计算技术应用于药物和疫苗研发。GSK最近在伦敦建立了一个新的AI中心。它将利用GSK重要的基因和基因组数据,改进转化药物和疫苗的设计和开发过程。GSK AI中心一旦全面运作,将汇聚该公司在英国的AI团队,包括GSK的AI研究员、一项新的专业培训项目,以及来自NVIDIA的科学家。据了解,NVIDIA将贡献其在G

  • 科技之美,直达未来|宁美携手英伟达直播品鉴GeForce RTX 30系列!

    9月25日,宁美携手NVIDIA为水友们带来了一场“科技之美,直达未来”主题直播。NVIDIA中国区产品经理吕壮、太平洋电脑网整机高级主编冯伟、数码达人朵哥、宁美资深主播乐因齐聚太平洋电脑网直播间,带领玩家云品鉴GeForce RTX 30系列显卡,云种草搭载了GeForce RTX 30系列显卡的宁美新款黑科技主机,为水友们带来了一场有趣的科技视听盛宴。高手云集,尽显科技之美!本次直播在太平洋电脑网、斗鱼、淘宝、一直播、抖音等多个平台同?

  • 英国考虑对英伟达400亿美元收购Arm交易进行评估

    10月13日消息,据国外媒体报道,英伟达9月13日就已在官网宣布,他们同软银达成了收购Arm的最终协议,交易规模高达400亿美元,将以现金加股票的方式进行。但这一收购交易,面临重重阻力,在收购传闻传出之后不久,ARM联合创始人赫尔曼·豪瑟在接受采访时就表示,若被英伟达收购将是一场灾难,将会损害ARM的中立性和满足多家不同公司和供应商需求的能力。上周外媒在报道中表示,英特尔、高通、特斯拉等厂商,反对这一收?

  • ARM高管:即使被收购 英伟达也不会接触到客户机密信息

    10月9日消息,据国外媒体报道,此前,半导体厂商英伟达同意以400亿美元价格收购软银旗下芯片设计公司ARM。本周二,ARM的一位高管表示,即使被英伟达收购,该公司也将继续使用“防火墙”,以确保英伟达不会接触到ARM客户的机密信息,而且不会提前接触到ARM的产品。今年9月13日,软银集团和英伟达宣布,双方已达成确定性协议。根据协议,软银将把ARM出售给英伟达,交易价值为400亿美元。此次收购将以股票加现金的方式实?

  • 报道称英伟达明年将用台积电7nm工艺来生产Ampere GPU

    虽然官方一直不愿承认,但GeForceRTX3000系列显卡在发售初期的严重供应短缺,还是从侧面反映了三星8nm制程在代工英伟达AmpereGPU时遇到的良率问题。有趣的是,Guru3D的一篇新报道称:在得到了这方面的教训之后,英伟达似乎想到了要转变代工厂商。而台积电(TSMC)成熟且高产的7nm工艺,显然就是最佳的选择。

  • Truist将英伟达目标价上调至623美元 并重申“买入”评级

    10月14日消息,据国外媒体报道,Truist将英伟达的目标价从550美元上调至623美元,并重申该公司股票“买入”评级。Truist分析师威廉·斯坦(William Stein)表示,英伟达在服务器加速和人工智能(AI)应用等计算领域的领导地位,将继续推动其营收和利润上升。据悉,有4位投资分析师给予该公司股票“卖出”评级,6位给予“持有”评级,30位给予“买入”评级,1位给予“强烈买入”评级。该公司股票的平均评级为“买入”,

  • 英伟达GeForce RTX3080用户报告游戏时出现崩溃和黑屏问题

    品玩 9 月 24 日讯,据wccftech消息,英伟达的GeForce RTX3080 发布后一直受到一系列问题的困扰,一些玩家报告称RTX3080 在游戏中面临严重的崩溃和黑屏问题。这个问题在大多数论坛上都有报道,包括Computerbase、LinusTechTips、OCUK,甚至是NVIDIA自己的论坛。

  • 外媒:台积电3nm工艺后三波产能将被高通英伟达等厂商预订

    9月29日消息,据国外媒体报道,台积电的3nm工艺正在按计划推进,计划在2021年风险试产,2022年大规模投产。虽然3nm工艺还未投产,但外媒已在关注台积电这一先进工艺的产能。外媒在报道中表示,台积电3nm工艺准备了4波产能,其中首波产能中的大部分,将留给他们多年的大客户苹果。而在最新的报道中,外媒也提到的了台积电3nm工艺的后三波产能,外媒表示,这三波产能将被高通、英特尔、赛灵思、英伟达、AMD等厂商预订。?

  • 英伟达发布CUDA 11.1工具包:支持RTX 30系显卡 改善版本兼容性

    英伟达刚刚发布了 CUDA Toolkit 的 11.1 版本,主要引入了对本月新发布的 GeForce RTX 30 系列显卡的支持。其实七月份发布的 11.0 版本,该工具包就已经带来了对 Ampere GPU 的初步支持。随着 11.1 版本的到来,CUDA Toolkit 为消费级的 Ampere GPU 提供了更好的支持。

  • 英伟达将为全球最快人工智能超级计算机提供Ampere架构GPU

    10月20日消息,据国外媒体报道,图形处理器厂商英伟达在今年5月份推出了他们首款基于安培(Ampere)的GPU A100,他们基于安培架构的GPU,将用于建设全球最快的人工智能超级计算机。从外媒的报道来看,已规划的全球最快人工智能超级计算机,将建在欧洲,由意大利多所大学组建的CINECA联盟建设,新的超级计算机名为Leonardo(莱昂纳多)。外媒在报道中表示,Leonardo将有非常强悍的人工智能性能,将成为全球最快的人工智

  • 外媒:高通英特尔等芯片供应商反对英伟达400亿美元收购ARM

    据国外媒体报道,英伟达9月13日就已在官网宣布,他们同软银达成了400亿美元收购Arm最终协议,收购将以现金加股票的方式进行。英伟达收购ARM的交易能否顺利进行,目前还不确定,9月13日在官网宣布达成最终协议时,英伟达方面就表示收购交易需要得到相关监管机构的批准,他们预计在18个月内完成。而外媒最新的报道显示,硅谷的多家科技巨头,反对英伟达收购Arm。外媒是援引多方的消息,报道硅谷多家科技巨

  • RTX3080显卡内存多大 英伟达RTX3080显存容量大小介绍

    RTX 3080 拥有 8704 CUDA 核心,公版加速频率 1.71 GHz,10 GB GDDR6X 显存,320 bit 位宽,公版显卡功率 320W。最新发布的RTX3080 内存只有10GB,从上一代开始内存就没怎么增加,NVIDIA方面如何确定10GB就够用?对此,在NVIDIA社区问答活动中,NVIDIA顶级相关主题专家进行了解答。

  • 开博尔HDMI2.1线英伟达RTX3090实测8K 60Hz分辨率

    日前,耕耘发烧影音界 13 年之久的国货发烧品牌开博尔正式发布旗下A系列HDMI2. 1 版。这是继开博尔Q系列HDMI2. 1 产品之后第二个8K HDMI2. 1 产品。作为开博尔8K HDMI2. 1 产品体系中极为重要的一环,开博尔A线HDMI2. 1 版本基于 13 年的发展沉淀,再次焕发全新活力,全方位实现技术升级。我们一起来看看这款备受发烧界和商用工程口碑赞誉的经典“老线”。作为开博尔旗下两大核心产品(4K UHD蓝光播放器和影音线缆),HDMI线扮演了重

  • RTX3080显卡什么时候有货能买到 英伟达rtx3080发售价格上市时间

    日前英伟达 GeForce RTX 3080 显卡首发库存的短缺,但却遭到各方哄抢,在上架后瞬间售罄。已经导致电商平台出现诸多乱象。一些平台卖家甚至在重新上架的同时,将价格直接抬高到了 5000 美元。 9 月 21 日,英伟达公开道歉,称 NVIDIA Ampere 架构 GPU 的欢迎程度超出预期,他们与合作伙伴都没有做到相应的准备,为此深表歉意。

  • 塞尔无双灾厄启示录最新实机演示视频 塞尔无双最新消息

    ​KOEI TECMO Games 在今日举办的TGS 直播节目中,公布了预定于11 月20 日推出的Nintendo Switch 动作游戏《塞尔达无双灾厄启示录(ゼルダ无双厄灾の黙示录)》的最新资讯,包括由制作人早矢仕洋介、总监松下龙太与开发制作人古泽正纪亲自介绍的内容特色、第2 波宣传影片与首度曝光的实机游玩画面。

  • 天猫超市:小时服务已覆盖全国483个城市

    今日,天猫超市宣布小时达服务已覆盖全国483个城市。

  • 天猫超市:小时服务覆盖全国483城

    天猫超市今日宣布,小时达服务已覆盖全国483个城市。天猫超市称,天猫超市与线下商家、品牌门店合作不断加深,供给品类呈现出爆发增长的态势,不仅覆盖传统快消品类,还覆盖美妆、服饰、数码、宠物等多个消费领域。去年10月,阿里将天猫超市升级为新零售超市,接入线下商超及品牌门店,提供小时达、半日达等配送服务。阿里将旗下各业务线打通,除了在手机淘宝上线专门天猫超市同城频道外,还在饿了么接

  • 天猫超市将接入饿了么 涉及一小时服务

    今天,天猫超市宣布正式接入饿了么,借助同城零售体系,让商品像“送外卖”一样抵达消费者手中。据了解,天猫超市和饿了么将进行深入合作,为消费者提供“一小时达”和“半日达”服务,覆盖超过 2 万件商品。

  • 参与评论
文明上网理性发言,请遵守新闻评论服务协议
  • 热门标签