首页 > 传媒 > 关键词  > 云服务最新资讯  > 正文

DigitalOcean 发布 NVIDIA H100 GPU Droplets 云服务器

2024-10-21 13:46 · 稿源: 站长之家用户

海外知名云服务供应商 DigitalOcean 现已推出了搭载 NVIDIA H100 GPU 的 GPU Droplets 云服务器 。借助 GPU Droplets,AI 创业公司、开发者可以以更低的前期开发成本轻松地进行大语言模型训练、开发 AIGC 项目,以及开展人工智能相关的业务,并且无需面对复杂服务端开发与维护问题。目前,该 GPU 服务器按需实例正在限时优惠促销中,2024 年 12 月 31 日之前较低仅需 2.5 美元/GPU/小时。

为什么说性价比高

现在 GPU Droplet 云服务器已对所有 DigitalOcean 用户开放使用,GPU Droplets 内置了 NVIDIA H100 GPU,这是目前市场上已量产的最前沿的 GPU 之一,它拥有 640 个 Tensor 核心和 128 个光线追踪核心,支持高速数据处理。GPU Droplets 提供了按需实例,支持开发者、初创公司和大型企业轻松地训练人工智能模型、处理大型数据集,以及处理复杂的机器学习神经网络。

灵活配置,自由扩展

某些大型云厂商只提供8 卡的 GPU 机型,这导致很多用户在不需要那么资源的时候无法缩减配置,浪费成本,也让一些需要训练小模型的用户不得不选择过高的配置。而 DigitalOcean GPU Droplet 提供了单卡 GPU 和 8 卡 GPU 两种配置的服务器(具体如下图),用户可以根据项目需求来调整算力配置。虚拟化的硬件堆栈支持无缝扩展,因此你可以按需开启一个或多个 8 卡 GPU 实例,并在不再需要时缩减配置——从而优化性能、节省成本。

每个 GPU Droplet 包含两块高性能本地磁盘:一块启动磁盘用于存储操作系统、应用程序和 AI/ML 框架,以及一块暂存磁盘用于在训练期间暂存数据。这些资源预先集成于 GPU Droplet 中。

计费实惠且透明

在计费方面,DigitalOcean 支持按需计费,在最终关闭实例的时候可按秒结算。在后台开启一台 GPU Droplet 实例之前,用户就可以看到实际最后要支付的费用。而且就算用户使用的出站流量超出套餐额度,DIgitalOcean 也提供了比大多数大型云厂商更便宜出站流量计费。与此同时,GPU Droplet 提供了比较高 10Gbps 的公共网络带宽,可以满足大多数 AI 开发场景的数据传输要求。

简单易用

简单易用性一直都是 DigitalOcean 的一大特点。DigitalOcean 提供了简洁明了的管理配置界面,用户不仅可以在几分钟内就启动一台 GPU Droplet 服务器,还能快速简便地管理存储和网络,能把更多精力专注于自身业务的开发。

支持利用 Kubernetes 管理和调度资源

DigitalOcean 作为行业领先的云服务提供商,能够深刻理解AI、大语言模型开发的复杂性和资源需求问题,特别是在容器化环境中面对的挑战。DigitalOcean Kubernetes 托管服务(DOKS)现已支持 GPU Droplet 作为工作节点,并提供了一系列业界领先的服务来支持 AI、大语言模型训练和推理:

  • Kubernetes 集成:无缝地将支持 GPU 的工作节点添加到您的现有 DOKS 集群中,使您能够充分利用 Kubernetes的全部功能来推进您的 AI、大语言模型项目。

  • 灵活配置:您可以从单卡或八卡 GPU 配置中进行选择,以满足特定工作负载的需求,确保给每项任务都配备合适的计算资源和能力。

  • 可扩展性:随着 AI、大语言模型工作负载的增长,您可以在您的 Kubernetes 环境中轻松扩展 GPU 资源,使您能够跟上数据和业务需求的步伐。

  • 迁移服务:支持从 AWS EKS 或其他 Kubernetes 解决方案迁移到 DigitalOcean Kubernetes。

DigitalOcean 客户的许多客户已经已经在利用 GPU Droplets 来运行密集型工作负载,例如 Story.com 。

“Story.com 的 GenAI 流程需要大量的计算能力,而 DigitalOcean 的 H100 节点对我们来说是一个改变游戏规则的存在。作为一个初创企业,我们需要一个能够处理我们密集型工作负载的可靠解决方案,而 DO 以卓越的稳定性和性能满足了我们的需求。从简单易用的配置,到稳定可靠的的基础架构,整个部署过程都非常顺畅。技术支持团队也反应迅速,能够快速满足我们的要求,这成为了我们成长中不可或缺的一部分。” ——Deep Mehta,Story.com联合创始人&CTO

立即享受限时优惠

目前,该 GPU 服务器按需实例正在限时优惠促销中,2024 年 12 月 31 日之前较低仅需 2.5 美元/GPU/小时。

无论您是希望增强 AI/ML 能力还是为现有项目扩展 GPU 资源,DigitalOcean 的 GPU 服务都将助您一臂之力。同时,为了更好地服务中国区的企业,DigitalOcean 中国区全力战略合作伙伴卓普云 AI Droplet 将为中国区的企业提供商务咨询、技术支持等服务。

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 裸金属 GPU 上线!DigitalOcean 提供单用户独享H100资源

    对于需要直接控制硬件,需要更强性能的AI开发者来讲,DigitalOcean已经为你们准备好了更适合的GPU服务器——DigitalOcean基于NVIDIAGPU的裸金属服务器。这些服务器特别设计用来应对最复杂的AI和机器学习任务,无论是大规模的模型训练还是高度定制的基础设施设置,都能轻松胜任。如需预约测试裸金属GPU服务器,咨询更多相关信息,可联系DigitalOcean中国区独家战略合作伙伴卓普云。

  • 日本将迎来最强大AI超算!NVIDIA+软银联手打造

    在今天NVIDIA于日本举行的AI峰会上,NVIDIA与软银还公布了一系列合作计划,旨在加速日本主权AI项目的发展,并强化NVIDIA在全球的领先地位。软银正利用Blackwell平台构建日本最强大的AI超级计算机,并计划在未来升级至GraceBlackwell。考虑到运营成本和资本支出成本,每一台AI-RAN服务器都能带来高达219%的回报。

  • 黄仁勋、孙正义抱头“痛哭”:后悔没有买下NVIDIA全部股票

    快科技11月13日消息,在NVIDIA于日本举办的2024年AI峰会上,公司创始人兼CEO黄仁勋与软银集团董事长兼CEO孙正义进行了炉边对话。在谈话之初,黄仁勋就开始对孙正义大加赞赏,称孙正义不仅是全球独一无二的企业巨擘,更是无可替代的创新先锋,总能精准地挑选出时代的胜出者,并与他们携手共进。黄仁勋还透露,孙正义曾经差点成为NVIDIA的最大股东,他当时掌握着NVIDIA近5%的股权,但是在5年前孙正义以不到40亿美元的价格出售了所有NVIDIA股份。如果孙正义能坚守至今,这些股份的价值已飙升至约1600亿美元,甚至有望超越他在阿里巴巴的投资?

  • NVIDIA股价飙升:黄仁勋慈善基金会必须捐赠金额翻倍!

    快科技11月24日消息,据媒体报道,随着NVIDIA股价的飙升,公司CEO黄仁勋的慈善基金会必须捐赠的金额也随之大幅增加。根据最新公布的税务申报文件,黄仁勋与其妻子洛丽共同创办的黄仁勋与洛丽基金会的资产在2023年底增长了两倍以上,达到34亿美元。该基金会的资产主要由NVIDIA股票组成,截至2023年底拥有6850万股NVIDIA股票。根据美国国税局的要求,私人基金会每年至少要捐出5%的资产,因此,为了匹配资产的增长,黄仁勋的基金会必须在今年至少捐赠1.2亿美元,是去年捐赠金额的两倍。黄仁勋基金会的捐赠预计在2025年会再次大幅增加,因为NV

  • NVIDIA App正式上线!影驰GeForce RTX 40系列显卡的强劲助手

    11月12日,NVIDIA为玩家和创作者带来了全新的一代产品——NVIDIAapp。除了游戏滤镜,NVIDIAapp还整合了RTXVideoSuperResolution功能,通过AI提升流媒体和本地视频的画质,去除压缩伪影并锐化图像边缘。测试采用影驰GeForceRTX4070TiSUPER金属大师PlusOC进行,为玩家带来直观地数据对比。

  • NVIDIA 英伟达联合 Panduit 泛达发布人工智能结构化布线应用指南

    NVIDIA® 人工智能应用指南在这个人工智能突破性发展的时代,为了保持领先地位,需要稳健的高性能连接解决方案,其设计需要支持 NVIDIA 的人工智能数据中心部署,从而实现无缝扩展,使您的人工智能基础设施释放出全部潜力。我们的 NVIDIA® 人工智能应用指南为使用 NVIDIA GPU 服务器和交换机的设备安装提供了结构化布线方面的宝贵见解,涵盖了先进的收发机技术以及优化数�

  • NVIDIA新一代旗舰卡RTX 5090大曝光:接口、功耗巨变 售价猛涨

    明年年初的CES大展上,NVIDIA将正式发布新一代旗舰卡RTX50系列,包括桌面版的RTX5090、5080,以及全系列移动版。根据wccftech的最新爆料,该系列的旗舰型号RTX5090将采用PG144/145-SKU30PCB设计,搭载BlackwellGB202-300-A1GPU核心,在总共192个SM中启用了170个SM,共计21760个核心。鉴于RTX4090的建议零售价为1,599美元,RTX5090的最终定价可能在1800至2000美元左右。

  • 耕升带你揭开NVIDIA App正式版神秘新面纱!为GeForce RTX 40系列带来全新体验

    2024年11月12日,NVIDIAapp迎来正式版发布!相较于GeForceExperience,NVIDIAapp正式版让管理耕升显卡更容易,例如程序设置、游戏设置、驱动设置、超频、自动调节、RTX视频增强等等强悍功能的集成,玩家与创作者可通过该应用轻松实现硬件性能的全面提升。结合耕升GeForceRTX4070SUPER踏雪OC,为玩家带来3DMARK自动超频前后的数据对比。耕升GeForceRTX4070SUPER踏雪OC如起名字一般,以“雪花”作为设计灵感,纯白色的主体点缀银色雪花给玩家带来一种雪中傲骨的意境。

  • NVIDIA、Intel、AMD三巨头罕见联手!共同投了AI芯片独角兽Ayar Labs

    硅谷光互连芯片设计公司AyarLabs宣布,完成由AdventGlobalOpportunities和LightStreetCapital领投的1.55亿美元融资。目前公司累计融资额达到3.7亿美元,估值超过10亿美元,成为新晋芯片独角兽。此次融资的领投方AdventGlobalOpportunities和LightStreetCapital对AyarLabs的光互连技术充满信心,认为其将彻底改变AI基础设施的未来。

  • NVIDIA史上最强核弹来了!RTX 5090大曝光:核心面积暴增22%、功耗狂飙600W

    经历Ampere、Ada两代GPU规模精简之后,RTX5090再一次膨胀”不仅核心面积暴增了22%,功耗也一路飙升到600W。据MEGAsizeGPU最新爆料,RTX5090的BlackwellGB202寸到了24x31毫米,即744平方毫米。RTX5070:GB205-300,6400个,12GB,250W。

热文

  • 3 天
  • 7天