首页 > 业界 > 关键词  > ChinaZcom最新资讯  > 正文

OpenXLA 现在可用来加速 AI 的开发和交付

2023-03-13 11:36 · 稿源:站长之家

站长之家(ChinaZ.com) 3月13日消息:根据Google博客文章,ML(机器学习)开发和部署受到碎片化和孤立性的基础设施的影响,这些基础设施可能因框架、硬件和用例而不同,限制了开发者的速度并对模型的可移植性、效率和生产造成了障碍。

OpenXLA-Logo-RGB-HORIZ-LIGHT-BG.png

图片来自googleblog

随着模型参数数量的指数式增长,深度学习模型的计算量每六个月翻一番,开发人员寻求最大的性能和基础设施的利用率。现在,开放了OpenXLA项目,包括XLA、StableHLO和REE库,以供使用和贡献,这是消除这些障碍的重要一步。

OpenXLA项目提供了一个最先进的ML编译器,可以在复杂的ML基础设施中扩展。这个通用的编译器可以将不同的硬件设备桥接到当今使用的多个框架(例如 TensorFlow、PyTorch),通过OpenXLA来帮助加速AI的开发和交付,实现AI的实际潜力。

OpenXLA是一个开源的ML编译器生态系统,由AI/ML行业领导者共同开发,包括阿里巴巴、亚马逊AWS、AMD、苹果、Arm、Cerebras、谷歌、Graphcore、Hugging Face、英特尔、Meta和英伟达。它使开发人员能够编译和优化所有领先的ML框架的模型,以便在各种硬件上进行有效的训练和服务。使用OpenXLA的开发者将看到训练时间、吞吐量、服务延迟以及最终上市时间和计算成本的显著改善。

OpenXLA项目GitHub地址:https://github.com/openxla

举报

  • 相关推荐
  • 大家在看

今日大家都在搜的词:

热文

  • 3 天
  • 7天