首页 > 业界 > 关键词  > 微软最新资讯  > 正文

微软 Azure ND H100 v5 VM 正式上线:Azure OpenAI 服务覆盖更多地区

2023-08-08 11:38 · 稿源:站长之家

站长之家(ChinaZ.com) 8月8日消息:今年三月,微软宣布与英伟达合作开发 Azure ND H100 v5 虚拟机系列。今天,微软宣布这些新的超级计算机已经可供使用,为企业提供了更快的生成式 AI 任务性能。

机房 数据中心 (2)服务器

这些新的虚拟机采用了 NVIDIA Tensor Core H100 GPU 和 NVIDIA Quantum-2 InfiniBand 网络。目前,它们已经在东部和西部美国 Azure 地区提供服务。当企业注册并使用这些新的基于 AI 的虚拟机时,可以期待以下几点:

  • 超级计算 GPU:这些虚拟机配备了八个 NVIDIA Tensor Core H100 GPU,承诺比以前的一代显著提高 AI 模型的性能,为企业提供无与伦比的计算能力。

  • 下一代计算处理单元(CPU):我们意识到 CPU 对于 AI 训练和推理的性能至关重要,所以选择了第四代英特尔至强可扩展处理器作为这些虚拟机的基础,确保了最佳的处理速度。

  • 低延迟网络:采用 NVIDIA Quantum-2 CX7 InfiniBand 技术,带有 400GB/s 的跨节点带宽,确保在 GPU 之间实现无缝性能,与全球最强大的超级计算机相当。

  • 优化的主机到 GPU 性能:通过 PCIe Gen5 为每个 GPU 提供 64GB/s 的带宽,Azure 在 CPU 和 GPU 之间实现了显著的性能优势。

  • 大规模内存和内存带宽:DDR5 内存是这些虚拟机的核心,具有更高的数据传输速度和效率,非常适合处理大型数据集的工作负载。

微软表示,在未来一年内,他们将增加数十万个这些新的 GPU 用于虚拟机。

除了新的生成式 AI Azure 虚拟机,微软还宣布扩展了 Azure OpenAI 服务。现在在加拿大东部、美国东部 2、日本东部和英国南部地区提供。该服务将帮助企业创建自己的 AI 应用程序。

微软表示,自三月份首次宣布以来,他们已经看到了企业的非常积极的反应:我们现在自豪地服务于超过 11,000 个客户,每个季度平均吸引 100 个新客户。这种显著增长证明了我们的服务为企业利用 AI 潜力解决其独特需求带来的价值和可扩展性。

微软还补充说,ChatGPT AI 平台的最强大版本 GPT-4 也将在新的 Azure OpenAI 服务地区提供

举报

  • 相关推荐
  • 微软推出用于 Azure AI Health Insights 的新 AI 模型

    微软通过AzureHealthInsights发布了一系列专为医疗保健行业定制的数据和人工智能产品。这些工具旨在帮助医疗机构利用其产生的大量数据,从改善患者护理并简化运营。该工具很快将提供多种语言版本,包括西班牙语、法语、意大利语、德语、葡萄牙语和希伯来语。

  • 深度学习模型部署与优化:策略与实践;L40S与A100H100的对比分析

    ★深度学习、机器学习、生成式AI、深度神经网络、抽象学习、Seq2Seq、VAE、GAN、GPT、BERT、预训练语言模型、Transformer、ChatGPT、GenAI、多模态大模型、视觉大模型、TensorFlow、PyTorch、Batchnorm、Scale、Crop算子、L40S、A100、H100、A800、H800随着生成式AI应用的迅猛发展,我们正处在前所未有的大爆发时代。四、性价比较根据SuperMicro的数据,L40S在性价比上相较于A100具有优势,为希望部署高效且具有竞争力的生成式人工智能解决方案的用户提供更多选择。在模型分发和运行过程中,提供全面的账号认证和日志审计功能,全方位保障模型和数据的安全性。

  • 英伟达3个月卖出800H100!老黄竟自曝万亿GPU霸主「三无」策略

    【新智元导读】有分析公司算出来,才三个月英伟达就卖出了800多吨H100。然市值已超万亿的英伟达,竟是一个「无计划、无汇报、无层级」的公司。业内专家曾称,英伟达H100的利润率接近1000%。

  • Omdia:英伟达二季度出货900H100 AI GPU 相当于约30万块

    市场研究公司Omdia披露,2023年第二季度,英伟达出货了900吨H100AIGPU。Omdia认为,一个带有散热器的H100GPU的平均重量超过3公斤,因此英伟达在第二季度出货了30多万块H100。Omida的最新报告显示,该公司有望达到这一里程碑。

  • OpenAI科学家最新演讲:GPT-4即将超越拐点,1000倍性能必定涌现!

    【新智元导读】GPT-4参数规模扩大1000倍,如何实现?OpenAI科学家最新演讲,从第一性原理出发,探讨了2023年大模型发展现状。「GPT-4即将超越拐点,并且性能实现显著跳跃」。「不管怎么说,从第一原理出发理解核心思想是唯一可扩展的方法」。

  • 华为发布首款隔空触控电视智慧屏V5 Pro:内置鸿鹄900芯片

    华为智慧屏V5Pro系列今日正式发布,有85英寸和98英寸两款。华为智慧屏V5Pro85英寸和98英寸均采用了SuperMiniLED面板,均支持4K/120Hz高刷,前者576个分区、1600尼特亮度,后者1008个分区、最高2000尼特亮度。华为智慧屏V5Pro搭载鸿蒙HarmonyOS4系统,该机支持照片墙、风景窗、智慧感知、儿童关怀、家庭畅联、超级投屏等。

  • 国产派对游戏《猛兽派对》正式上线!玩家挤爆服务器 官方紧急扩容

    今晚20:00,国产派对游戏《猛兽派对》正式上线,游戏同步加入XGP,游戏Steam标准版售价98元,豪华版147元,IGN为该作打出7分评价。游戏上线后,不少玩家反馈需要排队才能进入游戏。游戏官方此前原定2023年上半年发布但延期至9月20日进行道歉,官方称,错误预估了BUG修复的进度,同时一些必要的审批也超出了预估时间,认为这是工作室过于乐观且缺乏经验导致的。

  • 云从科技数字人云月正式上线

    云从科技宣布数字人云月正式上线,她具备高度的拟人化呈现,能够听懂、看懂、有记忆、自学习,与人进行自然交互。云从科技在数字人云月的研发过程中,利用了多年来在人工智能领域的积累和创新能力,自主打造了数字人服务平台。未来云月将不断优化,解锁更多的行业大模型技能,为人们的生活带来更多智能化。

  • OpenAI开发者大会正式开始接受申请

    OpenAI刚刚宣布,他们现在接受申请参加他们的第一个开发者大会。DevDay计划于2023年11月6日在旧金山举行,您可以点此申请。但如果您正在积极开发生成式AI应用程序,分组会议和与OpenAI工程师的交流可能非常有价值。

  • 新“Siri”之战开打,微软、亚马逊、OpenAI已入场

    图源备注:图片由AI生成,图片授权服务商Midjourney新一代个人AI助理之战,终于打响了。9月,三家公司发布了重要预告,标志着这个节点的到来。究竟会是谁赢下这场战争呢?亦或是像上一代语音助手之战一样,轰轰烈烈之后没有赢家。

今日大家都在搜的词: