11.11云上盛惠!海量产品 · 轻松上云!云服务器首年1.8折起,买1年送3个月!超值优惠,性能稳定,让您的云端之旅更加畅享。快来腾讯云选购吧!
英特尔发布了新一代人工智能芯片Gaudi3,引发了业界的广泛关注。Gaudi3的性能远超竞争对手英伟达的H100芯片,成为当前市场上最强大的AI芯片之一。这使得Gaudi3在AI领域的应用中具有出色的表现,特别适合处理大规模的深度学习模型。
日前,蔚来举办了150kWh首台量产电池包下线仪式,有网友晒出了下线仪式的现场照片。蔚来董事长李斌表示,目前,一代与二代平台的所有车型都已经完成了验证和公告,团队也进行了各种测试,续航里程等性能表现超过预期。对于蔚来车主来说,150kWh电池包上线之后,车辆的续航能力随之升级,有长途出行需求时,只需在换电站租赁150kWh电池包即可,可灵活选用。
【新智元导读】就在刚刚,老黄又来打破摩尔定律了:英伟达新核弹B200,一块能顶5个H100,30倍推理加速,能训万亿参数大模型!同时推出的AI推理微服务NIM,号称让全世界用上AI。就在刚刚结束的GTC人工智能大会上,英伟达的新一代性能巨兽Backwell诞生了!BlackwellB200GPU,是如今世界上最强大的AI芯片,旨在「普惠万亿参数的AI」。有了世界最强的处理器Blackwell,新一轮技术革命即将开启。
英伟达在GTC开发者大会上发布了最强AI加速卡BlackwellGB200,计划今年晚些时候发货。GB200采用新一代AI图形处理器架构Blackwell,其AI性能可达20petaflops,比之前的H100提升了5倍。英伟达的系统还可扩展至数万GB200超级芯片,具有11.5exaflops的FP4计算能力。
【新智元导读】LLM开源从Infra做起!Meta公布了自己训练Llama3的H100集群细节,看来Llama3快来了。每年3月份,照例各家大厂又要开始秀自己最新的产品和研究了。Meta的目标是创建灵活可靠的系统,以支持快速发展的新模式和研究。
最新发布的全球最强AI芯片WSE-3引起了行业的瞩目。该芯片采用了先进的4万亿晶体管5nm制程,拥有惊人的性能,单机可训练出24万亿参数的模型,远超英伟达H100GPU。这种技术进步将对整个AI产业产生深远的影响,加速了AI技术在各个领域的应用和发展。
3月13日,社交、科技巨头Meta在官网公布了两个全新的24KH100GPU集群,专门用于训练大模型Llama-3。Llama-3使用了RoCEv2网络,基于Tectonic/Hammerspace的NFS/FUSE网络存储,继续使用了PyTorch机器学习库。将Meta的Tectonic分布式存储解决方案和Hammerspace结合在一起,可以在不影响规模的情况下实现快速功能迭代。
为了通用人工智能的宏大目标,扎克伯格正在给Meta的AI研究部门进行大幅度的改组。Meta首席执行官马克・扎克伯格宣布,他的公司正在致力于为人工智能助手构建「通用智能」并「负责任地开源」,Meta正在将其两个主要研究小组合并在一起以实现这一目标。扎克伯格表示,Meta今年将推出一个新平台,让任何人都可以创建自己的人工智能角色,并将其分发到Meta的社交应用程序中,比如Facebook、Instagram和Threads。
NVIDIAAIGPU无疑是当下的硬通货,从科技巨头到小型企业都在抢。MetaCEO扎克伯格近日就透露,为了训练下一代大语言模型Llama3,Meta正在建造庞大的计算平台,包括将在今年底前购买多达35万块NVIDIAH100GPU。微软也是AMDInstinct的大客户。
小米汽车技术发布会于今日下午举办,会上,雷军正式发布了小米800V电池包。电池包是纯电车的基石,是核心部件,成本占到整车的40%-50%,并且影响着车辆的续航、安全、操控。小米还行业首创了电芯倒置技术”,可保证电芯在极端热失控情况下,快速向下释放热源,最大程度保证乘员舱安全。
【新智元导读】最近,两位哈佛辍学生共同创立的AI芯片公司,估值已达3400万美元,并计划明年交付一款名为「Sohu」的AI推理加速芯片——其LLM推理性能达到H100的10倍单价吞吐量更是高达140倍。像Pika一样的神级创业故事又要再次上演了?两位哈佛退学的年轻人,想要制造一款专用于大语言模型加速的AI加速器芯片,将于2024年第三季度交付,推理性能达H100的10倍。CerebrasSystems的CEO
【新智元导读】Inflection-2最新发布!性能碾压一众大厂模型,仅输一手GPT-4要集成到Pi?最近,InflectionAI发布了全新的一款AI模型。更炸裂的是InfectionAI对这款模型的评价——性能直超谷歌和Meta开发的两款模型,紧随OpenAI的GPT-4之后。真能充当心理咨询的角色呢。
H100再次在MLPerf中刷新了记录!英伟达超算NVIDIAEos在GPT-3模型的基准测试中,只用了3.9分钟就完成了训练。这比6月份的刷新记录的成绩——10.9分钟,提升了近3倍。为了遵守新规,HGXH20、L20PCle和L2PCleGPU不仅性能是残血的还只配备了残血版的NVLink连接。
【新智元导读】有分析公司算出来,才三个月英伟达就卖出了800多吨H100。然市值已超万亿的英伟达,竟是一个「无计划、无汇报、无层级」的公司。业内专家曾称,英伟达H100的利润率接近1000%。
市场研究公司Omdia披露,2023年第二季度,英伟达出货了900吨H100AIGPU。Omdia认为,一个带有散热器的H100GPU的平均重量超过3公斤,因此英伟达在第二季度出货了30多万块H100。Omida的最新报告显示,该公司有望达到这一里程碑。
MLPerf作为业界公认的AI系统性能基准测试,最近发布了3.1版本。英伟达最新发布的GH200GraceHopper超级芯片首次在公开基准中亮相。未来的软件优化将进一步释放这些模块中的英伟达OrinSoC的强大潜力。
【新智元导读】现在,34BCodeLlama模型已经能够在M2Ultra上的Mac运行了推理速度超过每秒20个token,背后杀器竟是「投机采样」。开源社区的一位开发者GeorgiGerganov发现,自己可以在M2Ultra上运行全F16精度的34BCodeLlama模型推理速度超过了20token/s。投机解码就是一个很好的例子,可以帮助我们从系统的角度进行思考。
NVIDIAAI加速卡无疑是当下最为火爆的产品,妥妥的一卡难求。有分析认为,H100的全球需求量多达43.2万块,但交付周期长达3-6个月。刨除各种成本,NVIDIA的净利率依然有30-40%左右,这就是本事!
据三名接近英伟达的人士透露,英伟达计划将其顶级H100人工智能处理器的产量至少提高两倍。按照英伟达人士的说法,H100的2024年预计出货量在150万至200万颗之间,相较于今年预计的50万出货量,这是一个巨大的增幅。百度、字节跳动、腾讯和阿里巴巴等互联网巨头在争相购买英伟达的高性能芯片,订单总和价值高达50亿美元沙特和阿联酋被曝正在疯狂下单”英伟达的AI芯片。
乘着人工智能热潮,今年NVIDIA的AI计算卡真的赚疯了。据Tomshardware报道,《巴伦周刊》资深撰稿人TaeKim最近在社交媒体上发布的帖子估计,NVIDIA每销售一台H100加速卡,就能获得1000%的利润。Tomshardware此前报道称,NVIDIA今年内计划出售超过55万块H100加速卡,其中大部分是出货给美国公司,不过这一说法还没有被得到NVIDIA证实。
GPT-5的训练,需要5万张H100加持。英伟达GPU已成为各大AI公司开发大模型的首选利器。但无论你怎么看,英伟达就是堡垒里的绿色国王。
据韩国经济日报消息,存储芯片制造商三星电子将为英伟达公司提供高性能半导体和封装服务,有望在其它大型科技公司中赢得订单。根据周二首尔的行业消息,三星和英伟达正在对 HBM3 芯片进行技术验证和封装服务。一旦完成工作,预计三星将负责封装 H100,英伟达最新的人工智能 GPU,同时为处理器供应 HBM3 芯片。
由于AI火爆,NVIDIA的AI显卡现在是供不应求,其中高端的A100、H100尤其抢手,H100售价达到了25万元,厂商都是大批量下单NVIDIA也在加急下单,最近更是找到了外援,产能大增30%。NVIDIA的高端GPU采用了台积电的7nm、5nm工艺代工,但是产能瓶颈不在先进工艺上是所用的Cowos先进封装上,此前也是依赖台积电,但后者的产能提升有限有AMD等公司的订单抢产能。FP64/FP3260TFlops,FP162000TFlops,TF321000TFlops,都三倍于A100,FP84000TFlops,六倍于A100。
NVIDIAA100计算卡无疑是AI行业最火爆的加速计算卡它的下一代H100也发布一年多了,只是产量一直有限,需求又太火爆,妥妥的一卡难求。不过一家名为InflectionAI”的AI创业公司,却宣布要用多达2.2万块H100计算卡,打造一台AI超级计算机。InflectionAI创业以来已经拿到了大约15亿美元投资,估值达40亿美元。
机器学习及人工智能领域开放产业联盟MLCommons公布了两项MLPerf基准测试的最新数据:在人工智能算力表现测试中,英伟达的H100芯片组刷新了所有组别的纪录,也是唯一一个能够执行完所有基准测试的硬件平台。在最新的MLPerf基准测试中,H100成功创下8项测试纪录。如果按照当前的命名方式,下一代GeForce产品应该会成为GeForceRTX50系列的一员。
【新智元导读】黄老板又赢麻了!在最新的MLPerf基准测试中,H100成功创下8项测试纪录。如果迫不得已,英伟达还可以从旧的Turing版本中拿出一个产品,更新AdaLovelace,给它封个「Super」待遇,进一步扩展Ada阵容。ZhiyeLiu表示,至少今年或明年,Lovelace架构不会真正更新。
AI火爆之后,NVIDIA的显卡成为香饽饽,尤其是高端的H100加速卡,售价超过25万元依然供不应求它的性能也非常夸张,最新的AI测试中全面刷新记录,基于GPT-3的大语言模型训练任务纪录已经被刷至11分钟。机器学习及人工智能领域开放产业联盟MLCommons公布了最新的MLPerf基准评测,其中包括8个负载测试,LLM大语言模型中就有基于GPT-3开源模型的,很考验平台的AI性能。FP64/FP3260TFlops,FP162000TFlops,TF321000TFlops,都三倍于A100,FP84000TFlops,六倍于A100。
MLPerf基准测试是评估系统在一系列人工智能工作负载下的性能表现的重要指标。人工智能正在快速发展,生成式人工智能工作负载日益突出MLPerf也在与行业一起不断进化。英伟达不再只是我们成长过程中的游戏图形公司是迅速成为我们集体未来的关键推动者。
据著名的苹果分析师郭明錤日前表示,苹果正专注于增强iPhone与其VisionPro平台之间的整合。郭明錤指出,升级硬件规格是构建围绕VisionPro的竞争生态系统的关键方面。苹果打算利用Wi-Fi7在同一局域网上运行的硬件产品之间创建一个更无缝的生态系统。
正在预研固态电池技术,该技术采用固态电解质替代传统电解液,能够提高电池的能量密度,改善低温放电性能和安全性。虽然金属锂负极的实际应用仍然存在困难,但实验室测试显示,采用固态电池技术可以让电池的能量密度突破1000Wh/L,在小米13的机身空间内装进6000mAh超大容量电池,大大改善了续航表现。小米的固态电池技术研究目前仍处于初级阶段,但小米表示将继续投入大量精力和资源进行研发,为消费者提供更优质的移动电源解决方案。