首页 > 业界 > 关键词  > 英伟达最新资讯  > 正文

英伟达 L40S GPU 将于今秋上市:AI 推理性能比 A100 高 1.2 倍

2023-08-10 17:11 · 稿源:站长之家

站长之家(ChinaZ.com) 8月10日消息:英伟达日前发布了全新的 NVIDIA L40S GPU,以及搭载该加速卡的 NVIDIA OVX 服务器系统。

显卡,英伟达,RTX40

据介绍,这款全新的 GPU 和 OVX 服务器适用于人工智能大模型训练和推理、三维设计和可视化、视频处理、工业数字化等多种用途。它们能够增强生成式 AI、图形和视频处理能力,满足不断增长的算力需求。

L40S GPU 是 L40 的升级版本,配备 48GB GDDR6 ECC 显存。它基于 Ada Lovelace 架构,包含第四代 Tensor Core 和 FP8 转换引擎,运算速度是上一代 GPU 的 5 倍。但是需要注意的是,L40S 与上一代一样不支持 NVLink。

据官方表示,对于具有数十亿个参数和多种数据模式(文本、视频)的复杂 AI 工作负载,L40S 的生成式 AI 推理性能比 A100 高 1.2 倍,训练性能高 1.7 倍。

每台英伟达 OVX 服务器系统最多可搭载 8 个 L40S 加速卡。其中,CoreWeave 是首批提供 L40S 计算平台的云服务商之一。此外,英伟达还提供了多种软件,用于辅助 AI 模型训练、数据分析和生成式人工智能等应用。

据官方介绍,英伟达 L40S GPU 将在今年秋季上市。厂商包括华硕、戴尔、技嘉、HPE、联想、QCT 和美超微等,将很快推出搭载 L40S GPU 的 OVX 系统。这些服务器将有助于推动人工智能的发展和应用。

举报

  • 相关推荐
  • 大家在看

今日大家都在搜的词:

热文

  • 3 天
  • 7天