首页 > 传媒 > 关键词  > DigitalOcean最新资讯  > 正文

裸金属 GPU 上线!DigitalOcean 提供单用户独享H100资源

2024-12-03 10:20 · 稿源: 站长之家用户

对于需要直接控制硬件,需要更强性能的 AI 开发者来讲,DigitalOcean 已经为你们准备好了更适合的 GPU 服务器——DigitalOcean 基于 NVIDIA GPU 的裸金属服务器

这些服务器特别设计用来应对最复杂的 AI机器学习任务,无论是大规模的模型训练还是高度定制的基础设施设置,都能轻松胜任。DigitalOcean 的裸金属 GPU 服务器配有 8 个 NVIDIA Hopper GPU 和强大的硬件,这类服务器提供强大的计算能力和专门为高性能需求设计的定制选项。

DigitalOcean H100x8 GPU 服务器的按需定价为5. 95 美元/小时。对于有长期使用需求的企业,H100 GPU 服务器 3 年期合约价格仅需 2.24 美元/小时。逻辑金属机型按合同定价

裸金属 GPU 与 GPU Droplet 有什么不同?

DigitalOcean 在数月前推出了基于 NVIDIA H100 的 GPU Droplet 云服务器。现在又再次推出了基于 NVIDIA H100 的裸金属服务器。那么这两者有什么不同呢?

DigitalOcean 的裸金属 GPU 服务器,配备 NVIDIA 加速计算技术,提供了专属于单一用户的基础设施资源,没有共享用户会产生干扰,因此您可以完全访问服务器上所有的 GPU 资源。这些服务器适用于那些需要直接控制硬件以实现理想性能,并需要更进一步保护数据隐私性的项目,非常适合大规模的模型训练、实时推理和复杂编排等应用场景。这些硬件资源将专属于你和你的团队,更有利于项目的研发与落地。

以下是裸金属 GPU 与 GPU Droplet 在参数上的不同:

我们的裸金属 GPU 和 GPU Droplets 是为满足不同工作负载需求而设计的。GPU Droplets 提供了易于扩展和快速配置的能力,非常适合专注于训练、微调或在大语言模型上运行推理任务的团队。相比之下,裸金属 GPU 提供了比较高性能和对硬件的完全控制权,非常适合需要直接访问硬件资源和需要定制化、长期的、高吞吐量的工作负载。

同时,裸金属 GPU 服务器与 GPU Droplet 在定位、资源配置、定价方面也存在不同:

GPU Droplets最适合用于中小规模任务,包括:

  • 微调:使用特定数据集调整模型

  • 推理:为运行中的应用进行推理预测任务,需要高速响应

  • 中等数据处理:轻量级分析或视频处理,这些任务需要GPU加速,但不需要完全专用的硬件

裸金属GPU最适合用于高档和定制的工作负载,它在不同 AI 业务场景下可以提供更突出的优势,包括:

  • 大规模模型训练:轻松处理大型数据集。裸金属 GPU 让您能够全面优化模型训练,提供隐私保护、性能和对整个过程的控制。

  • 模型微调:从预训练模型开始,通过特定数据集进行微调,使其适应您的具体应用场景。裸金属提供的高性能 GPU 和隔离环境使得获取特殊应用所需的准确性和性能成为可能。

  • 高速推理:借助 Hopper GPU 处理推理,您的应用可以实现实时性能,用于实时预测和决策制定——非常适合需要响应速度的面向用户的产品。

  • Web3 与 AI 结合的场景:裸金属 GPU 服务器的高可用性、高性能以及低延迟网络,可以确保区块链网络的节点间通信快速可靠,支持Web3 与 AI 技术结合的落地场景。

  • 自定义应用场景:裸金属 GPU 非常适合需要高度可配置性和可靠的专用基础设施的自定义工作负载。无论是部署 Kubernetes 集群还是自定义编排设置,这些服务器都提供了构建和扩展复杂架构所需的灵活性。

自DigitalOcean 的 GPU Droplet 推出以来,在全球范围内已经有海量的企业用户开始使用该服务。得益于 NVIDIA 系列 GPU 的计算能力,以及 DigitalOcean 在基础设施方面的长期技术积累,GPU 服务器系列产品得到了用户的广泛好评。

“对我们公司最重要的是持续提供卓越的用户体验,并不断改进。这涉及到模型的研究和开发,这就要求使用 DigitalOcean 提供的强大 GPU 计算能力。”Jacob Jackson,Supermaven 的 CEO 和创始人表示。

裸金属 GPU 服务器将率先于美国纽约和荷兰阿姆斯特丹两个数据中心上线,其它分布于全球的 14 个数据中心也将陆续上线。该产品将会为需要专属 GPU 服务器以及高性能资源的 AI 企业提供强劲助力。

如需预约测试裸金属 GPU 服务器,咨询更多相关信息,可联系 DigitalOcean 中国区全力战略合作伙伴卓普云。

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 极光GPTBots与REDtone Digital Berhad强强联手 共谱AI新篇章

    2025年1月9日,深圳。极光旗下全球知名AI智能体构建平台GPTBots与马来西亚领先的综合性电信和数字基础设施服务提供商REDtoneDigitalBerhad签署了战略合作伙伴协议。自1996年成立以来,已从语音服务提供商发展成为全面的解决方案合作伙伴,主要提供电信服务、托管电信网络服务、云与物联网三大类服务。

  • 片仔癀对甲型H1N1流感的治疗具有积极作用

    甲型H1N1流感,通常表现为流感样症状,包括发热、咽痛、流涕、鼻塞、咳嗽、咯痰、头痛、全身酸痛、乏力,体征主要包括咽部充血和扁桃体肿大,可发生肺炎等并发症。少数病例病情进展迅速,出现呼吸衰竭、多脏器功能不全或衰竭,病情严重者可以导致死亡。实验还证明,片仔癀能够通过改善宿主炎症反应,缓解病毒引起的肺炎,并对急性上呼吸道感染,或感染引起的长期反复发作具有较好的治疗作用,且可与奥司他韦等抗病毒药物产生协同作用。

  • Instagram宣布推出CapCut 克隆版创意视频编辑应用Edits

    Instagram负责人AdamMosseri近日宣布了一款名为Edits的全新创意应用。这款预计于2025年3月13日上线的应用不仅对标字节跳动旗下的CapCut,更致力于为创作者提供更全面的创意工具集。通过Edits的推出,Instagram进一步完善了其创作者生态系统,为内容创作者提供更专业和全面的创作环境。

  • 拿捏老外的100个中国APP

    海外用户也离不开游戏、社交、视频。几乎所有人的目光都集中在TikTok和小红书这两家公司身上,抛开国际政策因素不谈,一个值得思考的问题是:除了这两款产品,海外用户还爱用哪些中国APP?为此,「定焦One」在移动应用数据平台SensorTower上,根据2024年一整年的日活和月活用户数据,拉出了一份排名TOP100的中国APP产品名单,结果既令人意外,似乎也在情理之中。但是多位出海

  • AITOP100小说工具,“刺杀”小说家,成为小说家……

    在刘慈欣笔下的科幻杰作《诗云》中,一个代表超级文明的存在体“李白”,企图凌驾于人类诗歌艺术之巅,计划书写所有可能的诗篇。“李白”耗尽了整个太阳系的能量,塑造了一个直径达一百亿公里、蕴含所有潜在诗句的星云——“诗云”。目前想要体验AI小说工具的创作者们,可以登录AITOP100小说平台进行创作,新用户还可获得3天会员和2w字数包福利,邀请新用户可持续�

  • MOMA猛玛直播相机获好品牌100,技术自研与用户投入是关键

    随着2024年逐步进入尾声,直播电商行业的竞争愈加激烈,“卷”字成了行业的关键词。曾经高速增长的直播电商市场,如今面临着增速放缓和用户需求多元化的挑战。在此过程中,猛玛将继续引领行业,为每一位商家的直播梦想提供强大的技术支持与保障,只有解决个体最具体的难点,让更多人快速上手参与直播,直播电商行业才能更高效、更专业地发展下去。

  • 抖音完成100部老港片4K高清修复:已上线抖音、西瓜视频

    快科技12月25日消息,去年,中国电影资料馆、抖音、火山引擎共同发起了经典香港电影修复计划”,宣布将4K修复100部经典港片。今天抖音集团发布公告,称已经完成了100部港片的4K修复工作,并将其上线抖音、抖音精选、西瓜视频,搜索片名即可观看。修复团队精选10部影片由人工 AI”逐帧修复,其余90部以AI技术修复为主,秉承修旧如旧,尊重原创”的原则,项目组邀请多位

  • 一款“长在Instagram上”的App上线3年赚了4000万美金

    一款长青的青少年匿名社交App。「NGL」是一款依托于Instagram进行匿名Q&A的App,白鲸编辑部在2022年6月首次观察到其登顶美国?iOS下载总榜。在商业化和风控的天平里,即使头部如「NGL」也依旧显得被动、难以平衡。

  • 六十载声学匠心,Technics “黑胶豆” EAH-AZ100 耳机奏响极致乐章

    在音响领域深耕超过60载,Technics始终站在音质追求的前沿,2025年Technics推出真无线蓝牙耳机新品——“黑胶豆”,为音乐爱好者们带来前所未有的听觉盛宴。凭借Technics品牌在黑胶唱盘机和Hi-Fi领域的传统优势和融合创新,新品“黑胶豆”蕴含着Technics对经典黑胶文化的致敬,也体现出品牌的最新音频技术。“黑胶豆”提供优雅的银色和黑色版本,延续Technics标志性的时尚人体工学设计,市场建议零售价2,099,新品首发惊喜价敬请期待各平台官方旗舰店铺。

  • 小米、vivo、OPPO向西藏捐款100万 驰援抗震救灾

    01月07日09时05分在西藏日喀则市定日县发生6.8级地震,造成重大人员伤亡,大量房屋倒塌。目前搜救工作还在进行中,各企业也在不断捐款捐物,驰援灾区。祈愿日喀则早日恢复往日平静。