NVIDIA展示了其Blackwell平台在数据中心中的运行情况,有力驳斥了此前关于上市延期的猜测。
同时,NVIDIA NVLINK技术也迎来重大升级,带宽提升一倍,达到1.4TB/s。
Blackwell平台整合了Blackwell GPU、Grace CPU、NVLINK Switch Chip、Bluefield-3、ConnectX-7、ConnectX-8、Spectrum-4和Quantum-3等多款芯片,提供全面的数据中心解决方案。
Blackwell平台旨在满足现代人工智能需求,特别是超大型语言模型的计算要求。随着AI模型参数的不断增长,数据中心对计算能力和低延迟的需求愈发迫切。
Blackwell平台的多GPU推理架构将计算任务分配至多个GPU,实现低延迟和高吞吐量的处理能力。
NVIDIA推出Blackwell的高速NVLINK交换机,基于台积电4NP节点,提供1.8TB/s双向NVLINK带宽,可连接多达72个GPU,大幅提升数据中心通信效率。
此外,NVIDIA展示了全球首张使用FP4计算生成的人工智能图像,展现了FP4量化模型在速度上的显著优势,同时保持与FP16模型相近的图像质量。
(举报)