首页 > 热点 > 关键词  > 正文

阿里云宣布支持Llama2全系列训练部署

2023-07-25 13:42 · 稿源:站长之家

站长之家(ChinaZ.com)7月25日 消息:7月25日,阿里云推出了针对Llama2全系列版本的训练和部署方案。为了方便开发者,阿里云机器学习平台PAI对Llama2系列模型进行了深度适配,并提供轻量级微调、全参数微调、推理服务等场景的最佳实践方案。

此外,阿里云还牵头发起了AI模型社区魔搭Modelscope,在该社区上提供了Llama2系列模型,开发者可以在该社区上进行模型开发。

开发者可以在魔搭社区的Llama2模型页面点击“Notebook快速开发”,从而一键拉起阿里云机器学习平台PAI,对模型进行云上开发和部署。此外,在其他平台下载的Llama2模型,也可以使用阿里云PAI进行开发。

阿里云率先支持Llama2 大模型: 700 亿参数轻松部署

在阿里云上,开发者可以通过轻量级Lora微调或全参数微调来完成Llama2模型的微调。完成微调后,PAI支持开发者通过Web UI及API的方式部署Llama2,使模型可以通过网页或嵌入应用与使用者交互。

与本地单机训练Llama2相比,在阿里云上完成对超大尺寸模型的深度开发更加简单便捷,而且预置环境免运维,操作简单,同时开发者可以获得丰富的AI计算资源和极致弹性。

相比之下,本地单卡GPU只能完成Llama270亿参数版本的轻量级Lora微调和推理,更大尺寸版本及更深度训练均很难支撑。

最近,Llama2大语言模型宣布开源,覆盖70亿、130亿及700亿参数版本。Llama2可以免费用于研究场景和月活7亿用户以下的商业场景,为企业和开发者提供了大模型研究的新工具。

举报

  • 相关推荐
  • 大家在看

今日大家都在搜的词:

热文

  • 3 天
  • 7天