首页 > 业界 > 关键词  > 正文

亚马逊Amazon EC2 P5 实例正式可用 可将训练时间缩减6倍

2023-07-31 21:39 · 稿源:站长之家

站长之家(ChinaZ.com)7月31日 消息:亚马逊云科技近日在纽约峰会上宣布 Amazon Elastic Compute Cloud(EC2)P5实例正式可用。这是一款下一代 GPU 实例,由最新的英伟达 H100Tensor Core GPU 提供支持,可以满足客户在运行人工智能、机器学习和高性能计算工作负载时对高性能和高扩展性的需求。

与上一代基于 GPU 的实例相比,Amazon EC2P5实例可以将训练时间缩减6倍(从几天缩短到几小时),从而帮助客户节省高达40%的训练成本。

亚马逊 (2)

Amazon EC2P5实例提供8个英伟达 H100Tensor Core GPU,具有640GB 高带宽 GPU 内存,同时提供第三代 AMD EPYC 处理器、2TB 系统内存和30TB 本地 NVMe 存储。Amazon EC2P5实例还提供3200Gbps 的聚合网络带宽并支持 GPUDirect RDMA,从而能够绕过 CPU 进行节点间通信,实现更低的延迟和高效的横向扩展性能。

Amazon EC2P5实例现已在以下区域正式可用:美国东部(北弗吉尼亚)和美国西部(俄勒冈)。

举报

  • 相关推荐
  • 大家在看

今日大家都在搜的词: