NVIDIA 宣布推出其新一代 GH200 Grace Hopper 平台，搭载 HBM3e 内存，是业内首款将 CPU 和 GPU 整合到单块主板上的产品，旨在满足最复杂的生成式 AI 要求。
最近，一款搭载 GH200 Grace Hopper 的计算机在一家德国商店现身，尺寸约为 19 英寸。这款计算机显然并非针对游戏或传统工作站而设计，而是专注于在本地运行大型语言模型的 AI 工作站。
该主机配备 480GB LPDDR5X 内存，加上 GH200 中的 96GB HBM3 内存（或高达 144GB HBMe），总内存容量高达 576GB-624GB。
96GB HBM3 内存版本售价为 47500 欧元（约合人民币 37 万元），现已开售。144GB HBMe 版本预计于 2024 年第二季度推出，售价为 59500 欧元（约合人民币 46 万元）。
这款 AI 工作站搭载 NVIDIA GH200 Grace Hopper 处理器，拥有 72 个 ARM 内核（还有 144 个内核版本），并配有专用的 NVIDIA H100 加速器。因此，它配备了双 2000W 电源和超大容量存储，并支持各种连接扩展选项（包括 NVIDIA Bluefield/Connect-X）。
该计算机采用猫头鹰风扇散热系统，并可选择附加 Nvidia Bluefield-3 和 ConnectX-7 网卡、8TB SSD、30TB HDD、鼠标和键盘，甚至还有 RTX 4060。
在性能方面，这家德国公司声称这款 AI 工作站可提供 67 teraFLOPS FP64、989 teraFLOPS TF32、1979 teraFLOPS FP16、3958 teraFLOPS FP8、3958 TOPS INT8 的计算性能。
在 Emerald Rapids、Bergamo 等软件的 23 项测试中，GH200 Grace CPU 的性能与 Intel 至强铂金 8592 Emerald Rapids 处理器相当。
（举报）