11.11云上盛惠!海量产品 · 轻松上云!云服务器首年1.8折起,买1年送3个月!超值优惠,性能稳定,让您的云端之旅更加畅享。快来腾讯云选购吧!
作为目前最受欢迎的AI显卡供应商,NVIDIA今年赢麻了,旗下的AI显卡供不应求,其中H100售价25万元以上,利润极为丰厚。此前有人算了H100的赚钱能力,生产制造成本只有3320美元,实际的售价在2.5万到3万美元之间,赚的利润最高接近10倍。H100这样的大型芯片,具体需要多少工程师不确定,但数千工程师三五年时间还是需要的,当代高性能芯片,包括CPU及GPU,研发投入都是10亿美元起步的,光是先进工艺设计到流片的费用就价值不菲。
尽管OpenAICEO之前否认,但业界还是相信他们已经在训练GPT-5大模型,规模将是GPT-4的10倍以上,但这也意味着更烧钱,尤其是用于训练AI的显卡极为稀缺。全球这么多搞AI大模型的,到底用了多少AI显卡是各家的秘密,很少公开准确数据,GPT-4猜测是在10000-25000张A100显卡上训练的,GPT-5所需的显卡还是迷,马斯克估计的是30000-50000张H100显卡,性能强得多。这波又是NVIDIA赚麻了,AI显卡的需求将持续到2024年底,这一年半中都是供不应求的情况,H100显卡售价25万元起步,加价的话就难说了,涨幅波动很大。
最近几个月来以ChatGPT为代表的AI大火,也导致了训练AI用的NVIDIA加速显卡备受追捧,黄仁勋也多次推荐大家购买A100显卡,不过这并不是NVIDIA最新最强的AI卡,去年发布的H100才是性能猛兽。至于黄仁勋为何不重点推H100加速卡,主要是这款显卡之前产量不多,但在日前的GTC2023大会上,黄仁勋宣布H100已经全面投产,并部署在多家客户的云计算服务中,包括微软的Azure、谷歌、甲骨文等客户数据中心。H100的官方建议价一直没公布,但日本市场之前预售的价格是475万日元,约合人民币24.2万元,比A100的价格至少翻倍了。
至于为何缺货、涨价,NVIDIA官方目前还没有回应,有消息称NVIDIA是把产能转向了更高端的H100加速卡了,这显卡价格要比RTX 4090显卡贵得多,之前日本泄露的信息显示PCIe版本的都要475多万日元,人民币要24万元以上了,SXM版价格应该会更贵...H100计算卡有SXM、PCIe 5.0两种样式,其中SXM版本15872个CUDA核心、528个Tensor核心,PCIe 5.0版本14952个CUDA核心、456个Tensor核心,功耗最高达700W......