首页 > 业界 > 关键词  > 亚马逊云科技最新资讯  > 正文

亚马逊云科技与英伟达扩展合作 加速超万亿参数级大模型训练

2024-03-20 13:58 · 稿源:站长之家

站长之家(ChinaZ.com) 3月20日 消息:亚马逊云科技英伟达扩展合作,加速生成式 AI 创新。双方将在亚马逊云科技上提供 NVIDIA Blackwell 架构 GPU,包括 GB200Grace Blackwell 超级芯片和 B100Tensor Core GPU,以帮助客户解锁新的生成式 AI 能力。合作重点如下:

亚马逊

1. 加速超万亿参数级大语言模型训练:亚马逊云科技提供 GB200NVL72配置的 NVIDIA Blackwell 架构,配备72颗 Blackwell GPU 和36颗 Grace CPU,通过第五代 NVIDIA NVLink™ 互连。结合亚马逊云科技的 EFA 网络、Amazon Nitro 系统和 Amazon EC2UltraClusters 超大规模集群,客户能够扩展至数千个 GB200超级芯片,加速大语言模型训练和推理。

2. 提升安全性:整合 Amazon Nitro 系统、Amazon KMS 和 EFA 加密技术,保护模型权重的安全,防止未授权访问模型权重。通过 Amazon Nitro Enclaves 和 Amazon KMS 创建可信执行环境,实现数据加密和保护客户数据安全。

3. 推进未来生成式 AI 创新:Ceiba 项目是 NVIDIA 在亚马逊云科技上搭建的世界上最快的 AI 超级计算机,采用 GB200GPU 和 Grace CPU 构建,性能提升6倍。Ceiba 项目将推动生成式 AI 领域的创新,包括大语言模型、图形、数字生物学等。

4. 推动生成式 AI 应用开发及医疗健康与生命科学领域:整合 Amazon SageMaker 和 NVIDIA NIM 推理微服务,提供高性能、低成本的生成式 AI 推理解决方案。在药物发现领域,推出 NVIDIABioNeMo™ 基础模型,加速化学、蛋白质结构预测等应用。推出生成式 AI 微服务,推进药物发现和医疗领域的发展。

举报

  • 相关推荐
  • 大家在看
  • 戴尔与英伟达合作,利用 AI 解决方案推动 AI 工厂发展

    戴尔正在与英伟达合作,扩展其AI工厂基础设施服务,增加对新软件和服务器解决方案的支持。与其他基础设施服务不同,戴尔的AI工厂专门设计用于支持高强度的AI工作负载。”他还表示:“英伟达和戴尔一起为全球各行业提供全套解决方案,包括计算、网络和软件,推动数字企业的副驾驶员、编码助手、虚拟客户服务代理和工业数字孪生兄弟等应用的发展。

  • 英伟达开源大模型对齐框架—NeMo-Aligner

    随着ChatGPT、Midjourney等大模型产品的影响力、应用场景越来越多,为了确保输出的内容安全、可靠,对齐成为开发人员的关注重点和难点。但现在的模型参数少则几百亿多则上千亿,想通过传统的监督式微调方法来完成对齐效果往往不理想。在多轮AI对话中,可以指导模型生成符合用户期望的回答;在文本摘要任务中,可以指导模型生成更加准确和有信息量的摘要内容;在机器翻�

  • 英伟达与奇瑞深化合作,共筑高端智驾平台新标杆

    北京车展期间,奇瑞汽车与NVIDIA签订合作协议,双方将在自动驾驶领域开展更深层次合作,发挥双方在各自领域的技术优势,在已经合作的NVIDIADRIVEOrin™平台基础上进一步升级,围绕NVIDIADRIVEThor™联合打造新一代高端智驾平台,树立行业新标杆。基于NVIDIADRIVEOrin™平台打造,在激光雷达和两颗Orin芯片的加持下,具备NEP全场景智驾辅助功能,在城市和高速路段,都可以实现自动驾驶辅助。目前已经组建了由全球行业顶尖工程师和科学家组成一支1000多人的技术团队,其中硕博比例>70%,由谷俊丽博士牵头成立了“大卓智能”来主导自研智驾系统开发,打造奇瑞智能化“灵魂”。

  • 腾讯混元将发布大模型C端App腾讯元宝:万亿参数规模

    在腾讯云生成式AI产业应用峰会上,腾讯表示,将于5月30日正式发布面向C端的全新App——“腾讯元宝”。这款应用的背后,是腾讯全链路自研的通用大语言模型——混元大模型,它以其超过万亿的参数规模,展现了卓越的中文理解与创作能力、逻辑推理能力以及可靠的任务执行能力。升级后的模型采用了与Sora、StableDiffusion3一致的DiT架构,不仅支持文生图可作为视频等多模态视

  • 英伟达在印度招聘 AI 工程师

    NVIDIA正在印度招聘经验丰富的AI工程师,加入其合作伙伴公司。被选中的候选人将作为员工加入NVIDIA合作伙伴网络,负责推动NVIDIA技术的采用,并在数据中心、边缘和云部署领域获取创新设计。具有与NVIDIA软件平台和GPU开发经验、熟悉Docker/容器、Kubernetes和数据中心部署等MLOps技术的知识的候选人尤为出色。

  • 联发科英伟达力推新品,高通慌了

    首次亮相的3nm天玑汽车座舱平台CT-X1在业内激起不小的波澜,被认为是友商8295的头号天敌。同时亮相的还有天玑汽车座舱平台CT-Y1和CT-Y0,采用4nm制程,汽车制造商可借助天玑汽车座舱平台实现从旗舰到高端车型的智能化体验升级,满足不同定位车型对高算力和强AI的需求。面向AI定义汽车的大势所趋,科技巨头们的深度合作展现出强大的市场影响力,这对联发科的对手们构成了不小的挑战正是激烈的产品和技术竞争,才是推动汽车产业持续创新与发展的原动力。

  • 英伟达10% 市值超越德国上市公司市值总和

    美国芯片巨头NVIDIA在美股市场上迎来了令人瞩目的暴涨。股价开盘即强势上扬8%,随后更是一路高歌猛进,涨幅达到惊人的10.04%。这一观点不仅展现了NVIDIA对未来市场的深刻洞察,也进一步坚定了投资者对NVIDIA的信心。

  • 小米小爱同学与阿里通义大模型合作 成果已在小米汽车等落地

    小米旗下备受欢迎的人工智能助手“小爱同学”与阿里云通义大模型携手合作,共同探索并强化在图片生成、图片理解等多模态AI生成能力的新领域。这一创新技术已经在小米汽车、手机等多类设备上成功落地,为用户带来前所未有的智能体验。用户还可以向“小爱同学”发出语音指令,让它创作山水画、梗图或创意设计文案,满足用户个性化需求。

  • 云科技七周年:专注iPaaS领域成为行业领头羊!

    步履不停5月18日,谷云科技RestCloud迎来了七周年生日。可能在大家看来,这似乎是一个常规的企业周年庆,然,简约却不简单,在公司快速发展的背后,却蕴藏着涌动的力量,如果用一句话来概括,那一定是:坚持的力量。外部环境风高浪急,世界之变、时代之变、历史之变,犹如滔天巨浪扑面来,加速推进着百年之大变局。

  • 英伟达 ChatRTX 增加了语音图像等多种新功能 支持新的模型

    英伟达的ChatRTX在其最新更新中引入了多种新功能,这些功能在3月的GTC上首次展示,显著增强了这款基于RTX加速的聊天机器人应用的能力。ChatRTX现在支持更多的大型语言模型,包括Google的Gemma和中英双语的ChatGLM3,这不仅扩展了其语言处理能力,也使得用户可以更快速地查询笔记和文档,并生成相关回应。NVIDIA的这些更新体现了其在AI和RTX加速技术领域的持续创新,预示着更加�

  • AI Clone Voice Free:免费的人声克隆工具 支持多种语言和口音。

    AI 克隆声音是一项利用机器学习技术生成与特定人声相似的语音的技术。无需特殊设备,可在浏览器中快速生成高质量的克隆声音。价格分为免费基础服务和付费高级服务,提供更多的声音定制选项。

  • Hacker Search:利用Hacker News历史数据回答关于任何话题的问题

    Hacker Search是一个基于Hacker News历史数据的问答工具,它特别适用于理解HN读者对某个话题的情感,或寻找HN读者感兴趣的话题的专家见解。

  • Voxpad:AI笔记助手,快速生成讲座笔记。

    Voxpad是一款利用人工智能技术帮助用户快速生成讲座笔记的网站。它通过自动化笔记过程,节省了用户手动记录笔记的时间,同时提供了精确和详细的笔记内容,包括关键点和总结,并附有时间戳,方便用户快速定位到特定部分。此外,Voxpad支持多文件格式,具有易于使用的界面和文本编辑器,允许用户编辑和格式化笔记,以满足个性化需求。

  • Pitch Deck Generator:快速创建有说服力的演示文稿

    Pitch Deck Generator 是一个在线工具,旨在帮助用户通过其7步模板工作流程,快速创建出具有说服力的演示文稿。它从识别问题或机会到自信地提出请求,通过引导性的提示帮助用户创建清晰、简洁的演示,展示其独特的解决方案和团队。

  • AutoChat:先进的WhatsApp自动化平台,助力商业升级。

    AutoChat是一个基于云的WhatsApp自动化平台,提供强大的自动化功能,帮助企业简化运营并实现商业目标。它通过无代码聊天机器人构建器、批量消息发送、团队收件箱、GPT-4 AI聊天机器人、原生WhatsApp购物体验等功能,帮助企业提升客户服务水平,增强客户信任,并提高销售效率。

  • LegalLint:法律文件格式化和格式问题识别工具

    LegalLint 是一款专为法律领域设计的文档准备工具,旨在提高文档准备的效率和准确性。它具备以下功能:自动替换引用、插入注释块、检测和突出显示文档中的各种格式问题,如多余的空格、错位的标点或未闭合的括号。这些功能帮助法律专业人士高效地创建无误的文档,节省宝贵的时间并确保文档格式的精确性。

  • TailorLinx:个性化外联信息工具,提升回复率

    TailorLinx是一款结合AI和高级销售心理学的工具,旨在改善冷外联工作,确保与潜在客户的个性化和有效联系。它通过分析电子邮件和LinkedIn数据,包括潜在客户的行业、角色、兴趣和近期活动,来定制信息。TailorLinx利用AI驱动的技术和销售心理学来解释目标潜在客户的详细资料,使信息能够以高度个性化和相关性进行制作。TailorLinx已证明能够将回复率提高至38%。

  • Chirpley:全球首个专注于微纳米影响者的自动化市场平台

    Chirpley是一个创新的自动化、点对点、一站式影响者市场平台,专注于微纳米影响者。它通过人工智能和机器学习技术,为营销人员提供了快速有效的营销手段,并通过一键营销炸弹(1-click marketing bomb)功能,使得营销活动更加迅速和高效。Chirpley旨在解放微影响者营销的巨大盈利潜力,并通过端到端自动化、自适应、数据驱动的微影响者活动,提升营销的覆盖范围和影响力,将结果和效果提升到令人瞩目的高度。

  • helpmee.ai:AI辅助的电脑帮助,让老年人轻松掌握技术。

    helpmee.ai是一个利用AI技术为老年人提供电脑使用指导的网站。通过耐心的语音对话和屏幕共享,AI伴侣逐步引导老年人完成任何计算机任务,确保他们能够自信且独立地在数字世界中导航,支持50多种语言,全天候服务。该服务使用OpenAI的最新GPT-4o模型,提供无与伦比的准确性和理解力。

  • video-subtitle-master:批量生成视频字幕并支持多语言翻译的客户端工具

    video-subtitle-master 是一个基于之前开源项目 VideoSubtitleGenerator 开发的客户端工具,它允许用户批量为视频生成字幕,并支持将字幕翻译成不同的语言。这个工具特别适合需要对视频内容进行本地化处理的个人或团队,无论是为了教育、娱乐还是商业目的。它集成了多种翻译服务,如百度翻译、火山引擎翻译等,并优化了对 Apple Silicon 的支持,提供了快速的生成速度。

  • EngineerDraft:实时字幕生成工具

    BeMyEars 是一款实时字幕生成工具,利用本地设备完成语音识别,为听障人士和需要字幕的用户提供极致体验。其主要优点包括多语言支持、多源输入、隐私保护等。

  • 大设:AI 智能绘画平台,让文本和图片成为艺术作品。

    大设是基于 Stable Diffusion 的免费 AI 绘画网站,提供一键生成高清精绘大图、SDXL 模型教程、AI 提示词工具。背景包括清华大学研发,定位为 AI 智能绘画平台。

  • Supaclip:将视频快速转化为知识库。

    Supaclip是一个旨在帮助用户将视频内容转化为知识库的在线工具。它通过提供视频摘要、AI助手、字幕和时间戳等功能,帮助用户快速理解和导航视频内容。产品适用于内容创作者、学生、播客主持人和研究人员等,通过这些功能,用户可以增加视频的有机覆盖率、从讲座中获取最大价值、提供节目笔记、通过聊天机器人进行互动以及从访谈视频和纪录片中提取关键见解和引用。

  • Context Data:一站式企业级数据平台,专为生成式AI应用设计

    Context Data是一个为生成式AI应用设计的数据处理和转换平台,旨在帮助AI团队构建数据基础设施,以便他们专注于构建AI逻辑。它提供了无需设置基础设施、跨多个源转换数据、连接多个模型、加载数据到主要向量数据库、查询私有向量数据、定时管道以及构建数据和ETL管道等功能。Context Data强调数据隐私控制,避免了将数据上传到OpenAI等外部模型,简化了构建AI就绪数据平台的压力和复杂性。

  • World of Gami:AI驱动的Trello替代品,让团队任务保持最新。

    World of Gami是一个利用AI技术简化任务管理的网站,它将日常任务转化为令人兴奋的挑战,使项目管理不仅是必需的,而且是团队工作流程中令人愉悦和有益的一部分。通过将传统任务列表或看板转变为生动和竞争性的游戏,每个用户可以创建自己的'船',使用Scrum方法进行冲刺,并竞争'冲刺皇冠',这不仅使项目管理更加有趣,而且培养了团队精神和成就感。

  • Dola AI:您的个人 AI 日历助手,简化日程安排,释放时间。

    Dola 是一款通过消息应用进行日程安排的 AI 助手,它与 Google 日历、Apple 日历和 Caldav 兼容,能够通过自然语言快速安排日程,提高效率,同时支持语音、图片和文本输入。Dola 旨在帮助用户节省时间,专注于他们喜欢的事情。

  • Remind AI:使用先进的AI技术,轻松捕捉您的数字活动并作为记忆使用。

    reMind是一款利用AI技术帮助用户捕捉和利用数字活动作为记忆的产品。它通过先进的人工智能技术,让用户能够轻松地记录和回顾自己的工作和活动,从而提高生产力。

  • BrowseBuddy:AI购物助手,提升电商购物体验

    BrowseBuddy是一款AI驱动的聊天机器人,旨在通过提供个性化的帮助来增强在线购物体验。它利用自然语言处理技术来理解客户查询,提供量身定制的产品推荐和支持。BrowseBuddy通过智能产品匹配、实时解决方案、多语言支持等技术,为电商企业提供了一种提升客户满意度和销售效率的解决方案。

  • Depthforge:AI驱动的3D图像生成应用

    Depthforge是一款利用Apple Vision Pro技术,通过文本提示生成沉浸式3D图像的应用。它易于使用,能够让用户通过简单的文本输入来创造独特的高质量3D图像,体验全新的3D图像生成世界。

  • AudiowaveAI:将任何文本转换为有声读物质量的声音。

    AudiowaveAI是一款利用人工智能技术将文本转换成高质量音频的应用程序。它与传统的文本到语音技术不同,提供了更加自然、富有情感的语音输出,让听众在学习和享受内容时获得更好的听觉体验。产品背景信息包括它是由全球创新公司和自由职业者信赖的产品,其主要优点在于其引人入胜的声音、自然的声音效果以及令人愉悦的听觉享受。产品定位为教育工具,旨在帮助用户在移动中学习,享受夏日阳光。

今日大家都在搜的词: