首页 > 业界 > 关键词  > 光电共封装最新资讯  > 正文

IBM发布全新光电共封装工艺:AI模型训练速度将提升5倍

2024-12-12 12:17 · 稿源: 快科技

IBM 取得光学技术突破,有望革新数据中心 AI 训练和运行效率。

IBM 推出先进的光电共封装 (CPO) 工艺,利用光学互连实现数据中心内部的高速数据传输,补充现有的短距离光缆系统。

研究人员展示了 CPO 技术如何重塑计算行业中芯片、电路板和服务器之间的高带宽数据传输,大幅减少 GPU 停机时间,显著提升 AI 工作速度。

该技术带来三大优势:

显著降低生成式 AI 应用的成本:与电气互连设备相比,CPO 技术能耗降低五倍以上,数据中心互连电缆长度从传统 1 米扩展至数百米,提高数据中心的灵活性。

大幅提升 AI 模型训练速度:使用 CPO 技术训练大型语言模型的速度几乎提升五倍,将原本需要三个月训练的标准模型缩短至三周,更大模型和更多 GPU 的性能提升更显着。

显著提高数据中心能效:估算表明,训练每个 AI 模型节省的电量相当于 5000 个美国家庭一年的总耗电量,彰显了 CPO 技术在节能减排方面的潜力。

举报

  • 相关推荐

今日大家都在搜的词: