首页 > 业界 > 关键词  > 英伟达最新资讯  > 正文

英伟达中国区首席技术官:将任务负载从 CPU 移至 GPU 能支撑更多的用户 并节省更多能耗

2023-07-07 15:14 · 稿源:站长之家

站长之家(ChinaZ.com) 7月7日消息:在今天的 2023 世界人工智能大会上,英伟达中国区首席技术官赖俊杰指出,全球数据中心计算问题存在两个重要趋势。

nvidia-culitho,英伟达,芯片

首先,人们对人机交互的期望提高,引发了全球第二波关于大模型的投入浪潮。其次,许多互联网公司面临用户需求增长和功耗增加的问题,尤其是人工智能的大模型访问比例增加,需要更多的能耗投入。因此,英伟达提出将任务负载从CPU移至GPU,以支撑更多的用户请求,并节省更多的能耗。

据了解,目前,AI GPU 市场主要由英伟达和 AMD 主导,但在用于推动像 ChatGPT 这样的大型语言模型(LLM)的 AI GPU 方面,英伟达占据了 90% 以上的市场份额。

举报

  • 相关推荐
  • 大家在看

今日大家都在搜的词:

热文

  • 3 天
  • 7天