首页 > 业界 > 关键词  > 英伟达最新资讯  > 正文

英伟达发布AI Enterprise5.0,助力企业生成式AI开发

2024-03-27 08:49 · 稿源:站长之家

划重点:

🚀 英伟达发布AIEnterprise5.0,包括微服务和软件容器,用于生成式AI应用部署和加速计算。

🔍 NVIDIA AI Enterprise5.0涵盖广泛的微服务,包括NVIDIA NIM和NVIDIA CUOpt,优化AI模型推理并支持GPU加速。

💼 AI Enterprise5.0可帮助用户从安全、可投入生产且性能优化的软件中受益,可在数据中心、云端、工作站或网络边缘部署。

站长之家(ChinaZ.com)3月27日 消息:英伟达正式发布了AI Enterprise5.0,这是一项旨在帮助企业加速生成式人工智能(AI)开发的重要产品。AI Enterprise5.0包含了英伟达微服务和可下载的软件容器,这些组件可用于部署生成式AI应用程序和加速计算。值得一提的是,这一产品已经被Uber等知名客户所采用。

image.png

随着开发人员转向微服务作为构建现代企业应用程序的有效方式,NVIDIA AI Enterprise5.0提供了广泛的微服务。其中包括NVIDIA NIM和NVIDIA CUOpt,这些微服务针对生产中部署AI模型进行了优化,并且支持GPU加速,为用户提供了更高效的推理过程。NVIDIA推理软件,包括Triton Inference Server、TensorRT和TensorRT-LLM,为NIM提供了支持,从而将部署时间从几周缩短到几分钟。这些微服务不仅提供了行业标准的安全性和可管理性,还与企业级管理工具兼容,为企业带来了更便捷的部署体验。

此外,NVIDIA CUOpt作为一种GPU加速的AI微服务,不仅创造了路线优化的世界记录,还能够支持动态决策,从而降低成本、时间和碳足迹。作为CUDA-X微服务之一,CUOpt在帮助各行业将人工智能投入生产方面发挥着重要作用。

未来,AI Enterprise5.0还将引入更多功能。例如,NVIDIA RAG LLM操作员(目前处于早期访问阶段)将有助于将副驾驶和其他使用检索增强生成的生成式AI应用程序从试点转移到实际应用落地,而无需重写任何代码。这一功能的引入将进一步推动企业在AI应用领域的发展。

无论用户通过何种方式访问,AI Enterprise5.0都能为他们带来诸多好处。该产品不仅可以从安全、可投入生产且性能优化的软件中受益,还能够实现灵活部署,可以部署在数据中心、云端、工作站或网络边缘,满足不同场景下的需求。

举报

  • 相关推荐
  • 大家在看
  • 红帽发布 RHEL AI助力企业开发、运行开源生成式AI模型

    红帽在最近举办的峰会上宣布推出了RedHatEnterpriseLinuxAI开发者预览版。该产品被定位为基础模型平台,用于无缝开发、测试和运行同类最佳的开源Granite生成式人工智能模型,为企业应用提供动力。该产品将对企业开发、测试和运行开源生成式AI模型提供有力支持,为企业应用提供了全新的动力和便利。

  • 腾讯云发布生成式AI安全解决方案,助力企业守好“数据”和“内容”安全关

    5月17日,腾讯云在北京举办的生成式AI产业应用峰会上公布大模型研发、应用产品的系列进展。腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生表示,腾讯始终以“产业实用”作为发展大模型的核心战略,通过打造高性能的模型、高效率的工具平台、高敏捷的场景应用、高可用的算力基础设施,以及强安全的模型环境,构建离产业最近的AI。腾讯云将基于领先技术让千行百业无惧安全威胁,安心拥抱AI,激发应用价值。

  • 生成式AI时代的“信任危机” 企业该如何应对?

    人们常说“眼见为实”,在生成式AI爆发的时代,这句话恐怕要打上一个大大的问号。2023年12月,一名留学生在境外被“绑架”,父母遭“绑匪”索要500万元赎金,2024年1月,香港的一家跨国公司员工遭遇钓鱼诈骗,导致2亿港元损失,娱乐明星的“不雅照片”在网络上被肆意散播……这还只是冰山一角,深度伪造正是背后的始作俑者。Jumio的创新实验室不断改进AI驱动解决方案�

  • 手机的生成式AI,可能是传统软件企业的最后机会

    如今在智能手机行业中,“生成式AI”已然成为了最为知名的卖点之一。不管是什么价位段的智能手机,现在通常都会宣传自己集成了“生成式AI”功能。届时的软件、算法提供商很可能会再一次失去他们的潜在客户,重新变回前几年的“透明”状态。

  • ChatGPT生成式AI,在旅游行非常受欢迎

    5月25日,知名国际管理咨询公司OliverWyman在官网发布了一份,关于ChatGPT、Gemini等生成式AI在旅游行业的应用调查报告。Oliver主要对美国和加拿大的2100名消费者进行了调查,查看他们是如何在旅行过程中使用生成式AI以及满意度。OliverWyman在全球多个国家/地区设有办事处,主要提供战略咨询、企业运营、风险管理、金融投资等服务。

  • 开发工具初创公司Replit在推动生成式AI的同时裁员20%

    云开发工具初创公司ReplitInc.,作为推动生成式人工能编码的先锋,宣布裁减30名员工,约占其总员工数的20%。Replit首席执行AmjadMasad在公司员工间发送的一封电子邮件中宣布了这一消息,该邮件今日发布在X上。谷歌、MetaPlatformsInc.亚马逊以及Replit的竞争对手GitHub去年都裁减了10%的员工。

  • 联发科发布天玑AI开发套件:终端生成式AI应用开发一站式解决方案

    今天,联发科举办天玑开发者大会2024。在这次大会上,联发科正式发布天玑AI开发套件,旨在为合作伙伴打造终端生成式AI应用开发一站式解决方案。联发科陈冠州表示,MediaTek将融合产业生态伙伴的力量,高效地赋能开发者,加速建构从云端到终端的AI新生态,推动生成式AI技术在智能终端上的应用普及,让更多用户享受到全新的高端生成式AI体验,加速万物AI时代的到来。

  • ChatGPT成知名度最高生成式AI产品,使用频率却不高

    5月29日,牛津大学、路透社新闻研究所联合发布了一份生成式AI调查报告。在今年3月28日—4月30日对美国、英国、法国、日本、丹麦和阿根廷的大约12,217人进行了调查,深度调研他们对生成式AI产品的应用情况。不管怎么说,皆认为在未来5年内,生成式AI的影响力将会越来越大。

  • 德勤:中国、印度等对ChatGPT生成式AI应用,处领先地位

    全球四大会计事务所之一的德勤在官网发布了一份,名为《GenerativeAIinAsiaPacific:Youngemployeesleadasemployersplaycatch-up》的深度调查报告。主要查看中国、澳大利亚、印度、日本、新加坡、韩国、中国台湾等亚太地区对ChatGPT、Gemini、Midjourney、Claude和GitHubCopilot等生成式AI的应用情况。通过提供专业见解和服务帮助企业成长,同时也是多项社会和环境倡议的重要参与者。

  • 月狐数据发布:2024生成式AI使用趋势报告

    生成式AI技术及产品发展概况人工智能技术奇点降临,搜索成为大模型技术落地的“首站”●过去几十年,人工智能长期鲜有突破性的发展,直至2022年AI大模型技术奇点的出现,使得AI能力发生了颠覆性的变化,人工智能受到了前所未有的关注,用户对大模型技术的兴趣度不断提升。如今AI大模型已进入了企业全面竞争和应用规模化推广的关键时期,各大互联网巨头抢先布局AI产品与生成式AI天然契合的搜索成为了大模型技术最先落地的应用场景●如海外搜索巨头谷歌和微软必应就在今年年初推出基于大模型的AI对话产品,与自身搜索生态融合;国内百度率先通过大模型,对搜索进行重构生成式AI产品普及情况用户渴望拥抱AI但无处可及,需市场推出更多「接地气」的生成式AI产品●用户普遍对于基于大模型技术的AI产品表现出较高的使用兴趣度,但实际生活中有使用AI产品的用户比例仍相对较低,难找到入口、入门流程繁琐、学习成本高是主要的阻碍,反映用户迫切需要企业推出更多使用门槛低、便捷易用的AI产品用户对生成式AI的使用场景需求用户眼中的生成式AI产品:不止是提升效率的工具,更是BUFF叠满的「全能搭子」●见证了AI大模型技术的“神奇魔力”,用户对生成式AI产品的功能和使用场景需求也有了较大的升级,更多用户把生成式AI产品定位为生活管家助手和能聊天交互的亲密伙伴;此外,随着移动互联网的应用场景不断丰富化,用户对于能在泛生活、泛娱乐场景上提供帮助的AI产品表现出了较高的需求度,其中大多数用户最希望AI产品能在日常生活中充当他们的“最强大脑”,能根据用户的问题快速、精准地提供所需的答案和信息用户对生成式AI的使用场景需求用户期望在高频刚需的应用中使用生成式AI功能,AI×搜索存在最广泛的需求综合来看,用户对于搜索应用软件接入生成式AI功能的需求度最高,其次是生活服务、输入法等应用,高频刚需的平台是用户使用生成式AI功能的最重要、最直接的入口;此外,用户对办公商务、教育学习、自媒体等应用接入生成式AI功能的需求度也较高,涉及专业问题解决能力的平台也与生成式AI具备较高的契合度用户对生成式AI的使用场景需求无处不在、全场景覆盖、高度拟人、强创造力等「多边能力」是驱动用户使用生成式AI产品的重要因素调研发现,超85%用户希望能在日常使用较多的应用以及通过多终端设备调用生成式AI功能,80%的用户希望AI产品能够解决生活专业领域问题,75%的用户希望AI产品具备较高的内容创造力,包括生成多种形态、强实时性、创新性、贴合用户个性的内容能力等,70%的用户希望AI产品具备高度拟人化特征,包括支持多形态、多语种对话、提供情感陪伴等互联网巨头生成式AI产品/能力对比各大互联网企业积极搭建AI产品和能力矩阵,百度系AI「使用便捷度」「场景满足度」「拟人化程度」「内容创造力」各项能力相对突出典型企业案例分析百度借移动生态大模型技术落地的完备实力在生成式AI赛道中跑出,引领用户「获取-交互-生产」全场景体验变革典型企业案例分析百度AI产品构建「一站式」「搜创一体」「随身智能」的AI产品矩阵百度系AI产品历经多次迭代,逐渐成为从日常生活到专业领域的全能助手,在生活场景上是能够满足“聊天”“亲子”等娱乐家庭场景需要、提供实时陪伴的亲密伙伴,以更加简短的体验链路为用户提供AI能力;在办公场景上提供“AI办公”“AI兼职赚钱”的一系列能力;在创作场景上,用户可实现绘本、漫画、祝福语等高频刚需的AI生成能力,百度系的AI产品应用矩阵逐渐在场景上实现有效落地典型企业案例分析百度以AI能力赋能搜索,在搜索领域形成智能创作领先优势,为AI搜索概念渗透提供加速度综合国内互联网搜索行业市场占有率在5%以上的主要参与者,我们将各家搜索厂商提供的产品功能进行横向对比,发现百度搜索在智能化方向上形成领跑优势,结合百度搜索的国内市场占有率优势,未来AI能力优势×市占优势或将产生共振,推动AI搜索开启高速增长期典型企业案例分析百度搜索XAI,搜创一体、数字分身大幅度降低AI使用门槛,覆盖用户创作学习场景,极大提升AI技术的传播速度典型企业案例分析百度文库:打通办公学习、家庭教育、兼职赚钱三大场景上的全链路环节,成为一站式AI内容获取与创作平台百度文库正在基于文库本身海量的垂直知识优势,向内容创作全价值链的上下游抢占用户心智,以专业内容获取、跨模态内容生成、自由创作三大优势能力,逐步形成内容创作的“一站式”AI平台典型企业案例分析文心一言APP:从简单问答工具升级为随身全能助手,全面覆盖用户生活和工作场景,兼顾“有用”“有趣”完整体验文心一言APP当前已向智能贴身助手方向持续迭代升级,主打兼具“有求必应”和“专业精深”的助手能力,从用户最为贴近的生活、工作场景出发构建AI能力;当前,文心一言APP月活超过千万,聚集了一批年轻、高线的活跃用户典型企业案例分析百度输入法:AI大模型重构产品体验,打造全场景AI创作助手「超会写」,由“输入工具”转型为“AI创作工具”百度输入法借助文心大模型完成重构,推出的「超会写]功能可以辅助用户在全场景、全平台进行内容创作,拓宽了输入法的能力边界,帮助用户提升沟通、创作的质量和效率,真正实现了“人机共创”。任何未经授权使用本报告的相关商业行为都将违反《中华人民共和国著作权法》和其他法律法规的规定。

  • Tonic Textual:安全数据湖,为生成式AI开发提供数据

    Tonic Textual 是全球首个为大型语言模型(LLMs)设计的Secure Data Lakehouse。它通过自动化流程,帮助企业从云存储中提取、治理、丰富和部署非结构化数据,以支持生成式AI的发展。该产品强调数据隐私保护,利用其专有的命名实体识别(NER)模型自动检测和去标识化敏感信息,同时通过数据合成保持数据的语义真实性。它支持多种数据格式,并通过AWS Marketplace、Google Cloud Marketplace和Snowflake Marketplace提供服务。

  • Outtloud:AI语音助手,将文档转换为自然语音

    Outtloud是一款AI语音助手,可以将用户文档或文本转换成自然流畅的高保真AI语音。它支持超过10种语言和口音,提供100多种AI高级人声。用户可以以高达4倍的速度听书,节省阅读时间,同时在驾驶、通勤、锻炼等任何时间任何地点进行学习。它还具备添加笔记和书签的功能,支持在焦点模式下高亮显示正在播放的段落,以便用户跟随阅读。

  • llama3v:基于llama3 8B的SOTA视觉模型

    llama3v是一个基于Llama3 8B和siglip-so400m的SOTA(State of the Art,即最先进技术)视觉模型。它是一个开源的VLLM(视觉语言多模态学习模型),在Huggingface上提供模型权重,支持快速本地推理,并发布了推理代码。该模型结合了图像识别和文本生成,通过添加投影层将图像特征映射到LLaMA嵌入空间,以提高模型对图像的理解能力。

  • Open LLM Leaderboard:开放的大型语言模型排行榜

    Open LLM Leaderboard是一个由Hugging Face提供的空间,旨在展示和比较各种大型语言模型的性能。它为开发者、研究人员和企业提供了一个平台,可以查看不同模型在特定任务上的表现,从而帮助用户选择最适合自己需求的模型。

  • OpenCompass Multi-modal Leaderboard:实时更新的多模态模型性能排行榜

    OpenCompass多模态排行榜是一个实时更新的平台,用于评估和排名不同的多模态模型(VLMs)。它通过8个多模态基准测试来计算模型的平均得分,并提供详细的性能数据。该平台仅包含开源的VLMs或公开可用的APIs,旨在帮助研究人员和开发者了解当前多模态模型的最新进展和性能表现。

  • I2VEdit:一种基于图像到视频扩散模型的视频编辑技术

    I2VEdit是一种创新的视频编辑技术,通过预训练的图像到视频模型,将单一帧的编辑扩展到整个视频。这项技术能够适应性地保持源视频的视觉和运动完整性,并有效处理全局编辑、局部编辑以及适度的形状变化,这是现有方法所不能实现的。I2VEdit的核心包括两个主要过程:粗略运动提取和外观细化,通过粗粒度注意力匹配进行精确调整。此外,还引入了跳过间隔策略,以减轻多个视频片段自动回归生成过程中的质量下降。实验结果表明,I2VEdit在细粒度视频编辑方面的优越性能,证明了其能够产生高质量、时间一致的输出。

  • Samba-1 Turbo:高效能的AI模型选择与应用平台

    Samba-1 Turbo是一个提供AI模型选择和应用的平台,它允许开发者通过免费的开发者推理服务来试用、比较和评估Samba-1中各种专家模型。此外,平台还提供一些构建在Samba-1之上的演示业务应用程序,以及开源语言专家SambaLingo。Samba-1 Turbo旨在为开发者提供强大的工具,以简化AI模型的集成和应用过程。

  • StreamV2V:实时视频到视频翻译的扩散模型

    StreamV2V是一个扩散模型,它通过用户提示实现了实时的视频到视频(V2V)翻译。与传统的批处理方法不同,StreamV2V采用流式处理方式,能够处理无限帧的视频。它的核心是维护一个特征库,该库存储了过去帧的信息。对于新进来的帧,StreamV2V通过扩展自注意力和直接特征融合技术,将相似的过去特征直接融合到输出中。特征库通过合并存储的和新的特征不断更新,保持紧凑且信息丰富。StreamV2V以其适应性和效率脱颖而出,无需微调即可与图像扩散模型无缝集成。

  • OpenCompass 2.0 Large Language Model Leaderboard:大型语言模型排行榜,实时评估模型性能。

    OpenCompass 2.0是一个专注于大型语言模型性能评估的平台。它使用多个闭源数据集进行多维度评估,为模型提供整体平均分和专业技能分数。该平台通过实时更新排行榜,帮助开发者和研究人员了解不同模型在语言、知识、推理、数学和编程等方面的性能表现。

  • 甲骨文AI协同平台:数字化甲骨文研究与共享平台

    甲骨文AI协同平台是一个专注于甲骨文研究的数字化平台,集成了甲骨文全信息著录库、甲骨文总字表、数字工具箱等资源,通过AI技术辅助甲骨文的释读、研究和教育传播。平台汇聚了众多博物馆、专家学者以及社会各界人士的共同努力,旨在推动甲骨文研究的深入发展和甲骨文化的传承。

  • Cantor:创新的多模态链式思维框架,提升视觉推理能力

    Cantor是一个多模态链式思维(CoT)框架,它通过感知决策架构,将视觉上下文获取与逻辑推理相结合,解决复杂的视觉推理任务。Cantor首先作为一个决策生成器,整合视觉输入来分析图像和问题,确保与实际情境更紧密的对齐。此外,Cantor利用大型语言模型(MLLMs)的高级认知功能,作为多面专家,推导出更高层次的信息,增强CoT生成过程。Cantor在两个复杂的视觉推理数据集上进行了广泛的实验,证明了所提出框架的有效性,无需微调或真实理由,就显著提高了多模态CoT性能。

  • SuperCLUE:领先的AI评测基准,衡量和比较AI模型性能。

    SuperCLUE是一个用于评估和比较大型语言模型性能的在线平台。它提供了多种任务和排行榜,旨在为AI研究者和开发者提供一个标准化的测试环境。SuperCLUE支持各种AI应用场景,包括数学推理、代码生成、超长文本处理等,能够帮助用户准确评估模型在不同任务上的表现和能力。

  • Berkeley Function-Calling Leaderboard:评估大型语言模型调用函数能力的排行榜

    Berkeley Function-Calling Leaderboard(伯克利函数调用排行榜)是一个专门用来评估大型语言模型(LLMs)准确调用函数(或工具)能力的在线平台。该排行榜基于真实世界数据,定期更新,提供了一个衡量和比较不同模型在特定编程任务上表现的基准。它对于开发者、研究人员以及对AI编程能力有兴趣的用户来说是一个宝贵的资源。

  • OpenAI & other LLM API Pricing Calculator:AI项目成本计算器,比较不同AI模型的成本。

    OpenAI和其他大型语言模型(LLM)API的成本计算器,帮助企业和开发者评估和比较不同AI模型在项目中的成本。该工具提供了包括OpenAI、Azure、Anthropic、Llama 3、Google Gemini、Mistral和Cohere等在内的多个模型的价格计算。它基于输入的token数、输出的token数和API调用次数来计算成本。

  • Clay Filter AI:将您的角色照片转换成粘土动画风格的图像

    粘土 AI 是一款 AI 工具,可以将照片转换成粘土动画风格的图像。通过分析面部特征,生成逼真的效果,提供灵活的编辑功能。价格定位为免费使用。使用比较简单,上传你的照片并提交,稍等10-20 秒可以获得粘土动画风格的图像。

  • TopMixLabs:在线AI视频动画生成工具

    TopMixLabs 是一个 AI 动画制作工具,通过上传图片,用户可以轻松地将图像转换为专业级动画,适用于各种规模的企业,提升品牌形象。使用简单,只需要4张照片,上传稍等10 -20分钟左右,即可以生成高质量的动画,生成的动画支持下载mp4格式,而且在平台上创建的动画用于个人和商业目的。

  • StartKit.AI:快速搭建AI创业项目

    StartKit.AI是一个旨在帮助开发者快速构建AI项目的在线平台。它提供了一个包含所有所需功能来发布SaaS产品的AI样板,无需AI经验即可使用。该平台由James和Danielle开发,他们拥有超过10年的SaaS产品开发经验,并成功运营着AI产品Ellie。StartKit.AI集成了30多个模块和超过8000行代码,提供了先进的AI特性,如聊天、图像、文本、语音、翻译和内容审核等。此外,它还包括了OpenAI的所有功能,并支持创建自己的ChatGPT克隆体。产品定位于帮助开发者快速启动AI项目,保持技术领先,并支持通过Stripe进行产品变现。

  • Cressi:AI驱动的个性化购物助手

    Cressi是一个由AI驱动的个性化购物助手,旨在通过分析用户的搜索历史、兴趣、联系人和日历等信息,提供定制化的购物建议。Cressi不仅能够理解用户的偏好,而且能够随着用户生活方式的变化而不断进化,提供真正人性化的购物体验。Cressi致力于使购物更加个性化、高客户满意度,并减少浪费,以实现更有意义和可持续的购物方式。

  • Decks:一款专业的笔记应用,助你快速掌握任何学科

    Decks是一款专为学习设计的应用,它通过创新的笔记方式帮助用户更快地掌握知识。用户可以免费开始使用,并在14天后选择月度或年度订阅。Decks提供每月8美元或每年79美元的订阅选项。

  • AutoPilotI18n:AI驱动的国际化工具 简化i18n流程。

    AutoPilotI18n 是一款利用 AI 技术提供精确翻译的国际化工具,可自动化翻译任务,简化 i18n 流程。其主要优点在于精确翻译、多框架支持、高效工作流程,适用于 React、Vue、Angular 等。AutoPilotI18n 定价透明,提供免费和付费版本。

今日大家都在搜的词: