首页 > 业界 > 关键词  > ​AWS最新资讯  > 正文

​AWS与NVIDIA扩大合作,提供先进的生成式AI基础设施

2023-11-29 14:30 · 稿源:站长之家

**划重点:**

1. 🌐 AWS将成为首家在云上引入NVIDIA GH200Grace Hopper Superchips的云服务提供商,为联合客户提供规模化的AI计算能力。

2. 🤖 合作包括在AWS上托管NVIDIA DGX Cloud,这是首个搭载GH200NVL32的云端AI培训服务,加速先进生成式AI和大型语言模型的训练。

3. 🛠️ 合作还涉及新的Amazon EC2实例、软件开发以及Project Ceiba,旨在设计全球最快的GPU驱动AI超级计算机,为NVIDIA自身的生成式AI研发提供支持。

站长之家(ChinaZ.com) 11月29日 消息:Amazon Web Services(AWS)和NVIDIA(英伟达)宣布扩大合作,致力于为生成式人工智能(AI)创新提供先进的基础设施、软件和服务。该合作旨在为客户提供训练基础模型和构建生成式AI应用所需的关键技术。根据周二(11月28日)的新闻稿,AWS将成为首个在云上引入NVIDIA GH200Grace Hopper Superchips的云服务提供商。

这些芯片将在Amazon Elastic Compute Cloud(Amazon EC2)实例上提供,使联合客户能够规模化到数千个GH200Superchips。GH200NVL32多节点平台将32个Grace Hopper Superchips与NVIDIA NVLink和NVSwitch技术连接成一个实例。

人机合作

图源备注:图片由AI生成,图片授权服务商Midjourney

此外,NVIDIA和AWS将合作在AWS上托管NVIDIA DGX Cloud,这是首个搭载GH200NVL32的AI培训即服务,为开发人员提供单一实例中的最大共享内存。AWS上的DGX Cloud将加速先进生成式AI和大型语言模型的培训。合作还包括Project Ceiba,NVIDIA和AWS正在设计世界上最快的GPU驱动AI超级计算机。该超级计算机将拥有16,384个NVIDIA GH200Superchips,将用于NVIDIA在生成式AI领域的研究和开发。

AWS还将推出三款由NVIDIA GPU提供动力的新Amazon EC2实例:P5e实例用于大规模生成式AI和高性能计算工作负载,G6和G6e实例用于各种应用,包括AI微调、推理、图形和视频工作负载。其中,G6e实例特别适用于使用NVIDIA Omniverse开发3D工作流程和数字孪生应用程序。

此次合作还涉及软件开发。根据新闻稿,NVIDIA NeMo Retriever微服务提供工具,可创建高度精确的聊天机器人和摘要工具,而NVIDIA BioNeMo简化并加速制药公司进行药物发现模型的训练。

今年9月的报道显示,NVIDIA已成为用于AI处理的计算机芯片的首选公司。由于对用于训练生成式AI模型的芯片的高需求,该公司的市值在今年早些时候达到了1万亿美元。

举报

  • 相关推荐
  • NVIDIA PhysX物理加速不死!内核源代码终于开源

    PhysX物理加速技术已经不再有NVIDIA官方的支持,但并不意味着这项优秀技术会消失在历史的长河中,因为它完全开源了!其实早在2018年底,NVIDIA就公开了PhysXSDK4.0开发包,根据BSD-3许可协议公开了源代码,但不包括最核心的GPU模拟内核。理论上完全可以将PhysX代码从CUDA平台上,移植到Vulcan、OpenCL,从支持AMD、Intel显卡。

  • NVIDIA修复AMD Linux驱动Bug!自家驱动还在被吐槽

    最近,一位NVIDIA的Linux内核工程师成功修复了一个影响AMD集成和独立显卡驱动性能的问题。问题的根源在于Linux6.15内核代码中引入的一个变更,NVIDIA工程师BalbirSingh在为Linux6.15内核更新时,对x86_64系统的内核地址空间布局随机化进行了调整,以支持PCIBAR空间扩展到10TB以上。受影响的显卡型号包括RTX50系列和RTX40系列,甚至一些RTX30系列显卡也受到了影响,在安装该驱动程序后,电脑可能会在安装过程中或重启时出现黑屏,少数用户还报告了蓝屏死机的问题。

  • 从大模型到AI基础设施,商汤的反向求解

    大模型落地如火如荼,从上一代AI浪潮中杀出来的商汤,嗅到了这里面新的机会。在最火的具身智能赛道,这两年诞生了许多明星创业公司。这些创业公司的创始人往往拥有技术明星的光环,不少都是在学术界中某个技术领域中响当当的领头人。这些初创公司虽然在某一个单点技术上遥遥领先(大脑、小脑或者本体),但在机器人落地过程中,要突破从单一技术到整体复杂产品

  • 黄仁勋最爱吃!NVIDIA“天才早餐”开售:价格不到5美元 不缺货

    这是2025年唯一一款价格亲民、容易买到且售价符合预期的NVIDIA品牌产品,价格在5美元以下。NVIDIA与丹尼餐厅合作推出了一款限时早餐菜品NvidiaBreakfastBytes,以此向NVIDIACEO黄仁勋致敬,让顾客有机会体验同款天才早餐”。位于加州圣何塞的部分丹尼餐厅还为堂食顾客提供该菜品。

  • RTX 50/40系用户崩溃!NVIDIA新驱动易致Win10/11设备黑屏

    NVIDIA在上个月发布了572.83新版显卡驱动程序,不过根据最新消息,该驱动程序容易导致Windows10和Windows11系统设备出现黑屏问题。在更新日志中,官方称其修复了RTX5080/5090在超频时无法发挥最大性能的漏洞,并声称解决了部分黑屏问题。对于已经安装该驱动程序并遇到黑屏问题的用户,可以尝试回退到旧版本驱动程序,如566.36版本,或者尝试关闭G-Sync、降低刷新率等方法来缓解问题。

  • 深度系统deepin 23.1发布:NVIDIA显卡、Intel/AMD处理器集体升级

    快科技4月16日消息,deepin深度操作系统团队发布了deepin 23.1版本,主要解决基础组件更新后的安装效率问题,大幅提升新用户安装体验,同时集成多项功能优化与问题修复,进一步优化系统使用。本次版本重点改进:硬件兼容性与内核优化:集成Linux 6.6/6.12内核更新、NVIDIA显卡驱动升级、Intel/AMD CPU处理器微码更新,全面提升硬件支持与底层性能;核心功能增强:DDE新增智能镜像源管理、紧凑模式入口,全局搜索支持离线自然语言与AI处理能力;开发工具与跨平台支持:应用商店适配Debian/Ubuntu/Arch等子系统环境,支持快速启动;如意玲珑

  • 黄仁勋自曝NVIDIA新一代GPU!GAA晶体管技术将带来20%性能提升

    近日,黄仁勋在GTC2025大会访谈中表示,依靠环绕栅极晶体管的下一代制程技术,将为新一代GPU带来20%的性能提升。黄仁勋所说新一代GPU,应该是指预计在2028年推出的Feynman。理论上台积电N2制程技术是三星的类似技术,甚至是Intel18A都有可能。

  • Check Point: 领先安全防护技术确保新一代 NVIDIA AI 云数据中心安全

    随着AI技术的爆炸式增长,企业和云提供商对安全、高性能AI基础设施的需求也达到了前所未有的高度。在刚刚结束的2025年NVIDIAGTC大会上,CheckPoint分享如何将其全新安全解决方案与NVIDIACybersecurityAI平台集成,以实现对新一代AI云基础设施的大规模保护。2025年NVIDIAGTC大会CheckPoint公司在本次GTC大会上演示了如何帮助企业从容部署和扩展其AI计划,以及云提供商和企业如何利用该解决方案在加速创新和增长的同时保护其AI基础设施安全。

  • 首个支持NVIDIA DLSS的Switch 2游戏确认:《赛博朋克2077》

    文章主要讨论了Digital Foundry发布的一份关于Nintendo Switch新版本的报告,特别提到了《赛博朋克2077》在Nintendo Switch 2版本上运行时的性能表现。CD Projekt Red对此进行了优化,使得在高分辨率模式下游戏可以稳定在30fps,而在720p模式下则能以40fps运行。此外,文章指出,理论上在高分辨率模式下游戏可以达到1080p,而720p模式下则能以30fps运行。文章还提到,VGC对用户反馈的分析表明,《赛博朋克2077》在Switch 2版本上运行时达到了30FPS的性能目标,但是由于性能限制,仍然存在一些问题。

  • 任天堂Switch 2芯片首次曝光!搭载NVIDIA Tegra239支持DLSS

    任天堂Switch 2核心芯片Tegra 239参数曝光:采用8核Arm Cortex-A78C架构,集成1536个CUDA核心的GPU融合了Ada Lovelace和Ampere架构,支持128位LPDDR5内存。原生支持DLSS技术,可实现4K/60FPS输出,性能较前代显著提升。芯片主频1.1-1.5GHz,功耗表现优化。延续任天堂与NVIDIA合作传统,但官方尚未公布完整参数。此前Switch采用Tegra X1芯片,新款性能提升明显,有望带来更好的游戏体验。