11.11云上盛惠!海量产品 · 轻松上云!云服务器首年1.8折起,买1年送3个月!超值优惠,性能稳定,让您的云端之旅更加畅享。快来腾讯云选购吧!
7月26日,数澈软件Seal宣布正式发布并开源最新产品GPUStack,GPUStack是一个用于运行LLM的开源GPU集群管理器。尽管如今大语言模型作为公共的云上服务已经被广泛推广并在公有云上变得更加易于使用,但对企业来说,部署托管自己私有的LLM供企业和组织在私有环境使用仍然非常复杂。我们十分欢迎您一起参与开源项目的贡献,也欢迎在我们的GitHub仓库gpustack/gpustack上点亮Star关注我们的最新动态。