首页 > 业界 > 关键词  > 英伟达最新资讯  > 正文

英伟达和 Mistral 的新模型「Mistral-NeMo」为台式电脑带来企业级人工智能

2024-07-21 09:59 · 稿源:站长之家

站长之家(ChinaZ.com) 7 月 21 日消息:英伟达(Nvidia)和法国初创公司 Mistral AI 日前联合宣布推出一款新语言模型,旨在将强大的 AI 功能直接带到企业桌面。这款名为 Mistral-NeMo的模型拥有 120 亿个参数和 128,000 个 Token 上下文窗口,是寻求在不依赖大量云资源的情况下实施 AI 解决方案的企业的强大工具

英伟达

Nvidia 应用深度学习研究副总裁 Bryan Catanzaro 在接受媒体采访时强调了该模型的可访问性和高效性。他说:「我们与 Mistral 共同训练了一款 120 亿参数的模型,并将其以 Apache 2.0 许可发布。我们对该模型在许多任务中的准确性非常满意。」

Nvidia 作为 GPU 制造和 AI 硬件领域的巨头,与欧洲 AI 新星 Mistral AI 的合作,标志着 AI 行业在企业解决方案方面的重大转变。通过专注于更小但功能强大的模型,这一合作旨在让更多企业能够接触到先进的 AI 技术。

在巨人之间的小人物:小型模型如何改变游戏规则

Catanzaro 进一步解释了小型模型的优势:「小型模型显然更易于获取和运行,商业模式也可以不同,因为人们可以在自己的系统上运行这些模型。实际上,这个模型可以在许多人已经拥有的 RTX GPU 上运行。」

这一发展正值 AI 行业的关键时刻。虽然目前大量关注集中在像 OpenAI 的 GPT-4 这样拥有数百亿参数的巨大模型上,但越来越多的人对能够在企业硬件上本地运行的高效模型产生兴趣。这一转变主要是因为数据隐私、低延迟需求以及更具成本效益的 AI 解决方案等因素。

Mistral-NeMo 的 128,000 个 Token 上下文窗口是其一大亮点,使该模型能够处理和理解比许多竞争对手更大的文本块。Catanzaro 表示:「我们认为长上下文能力对许多应用非常重要。如果它们可以避免微调,那就使得部署更加简单。」

长短之分:上下文在 AI 中的重要性

这一扩展的上下文窗口对处理长文档、复杂分析或复杂编码任务的企业非常有用。它可能消除频繁的上下文刷新需求,从而带来更连贯和一致的输出。

该模型的高效性和本地部署能力可能会吸引那些互联网连接有限或有严格数据隐私要求的企业。然而,Catanzaro 澄清了该模型的预期使用情况:「我认为更多是针对笔记本电脑和台式机,而不是智能手机。」

这种定位表明,虽然 Mistral-NeMo 将 AI 带到个人企业用户的身边,但它还没有达到移动设备部署的阶段。

行业分析师认为,这一发布可能会显著扰乱 AI 软件市场。Mistral-NeMo 的推出可能会改变企业 AI 部署的方式。通过提供一个可以在本地硬件上高效运行的模型,Nvidia 和 Mistral AI 正在解决企业在广泛采用 AI 时面临的许多问题,如数据隐私、延迟和高昂的云解决方案成本。

这一举措可能使资源有限的小企业也能利用以前只有大型企业才能使用的 AI 能力。然而,这一发展的真正影响将取决于模型在实际应用中的表现以及围绕它的工具和支持生态系统的发展。

该模型目前以 NVIDIA NIM 推理微服务的形式提供,并且很快将推出可下载版本。其 Apache 2.0 许可允许商业使用,这可能会加速其在企业中的采用。

民主化 AI:将智能带到每一个桌面的竞赛

随着各行业企业继续努力将 AI 整合到运营中,像 Mistral-NeMo 这样的模型代表了更高效、可部署的 AI 解决方案的趋势。是否会挑战大型云模型的主导地位还有待观察,但它无疑为企业中的 AI 集成开辟了新的可能性。

Catanzaro 在采访中以展望未来的声明总结道:「我们相信,这个模型代表了让 AI 对各类企业更可访问和实用的方向的重要一步。这不仅是关于模型的强大能力,还在于将这种能力直接交到可以用它来推动日常运营中创新和效率的人们手中。」

随着 AI 领域的不断发展,Mistral-NeMo 的发布标志着为企业提供更可访问、高效和强大的 AI 工具方面的重要里程碑。这将如何影响更广泛的 AI 生态系统还有待观察,但可以肯定的是:将 AI 能力更接近最终用户的竞赛正在升温,Nvidia 和 Mistral AI 已经在这一方向上迈出了大胆的一步。

举报

  • 相关推荐
  • 车载芯片干翻4万元英伟达超算!理想发布全球首款数据流AI芯片马赫M100

    理想汽车今日举办Livis Day理想汽车软件与具身智能发布会。 会上,理想汽车正式发布全球首款数据流AI芯片马赫M100,该芯片采用5nm车规级工艺,单芯算力1280 TOPS,实际运行效率超82%,是目前全世界量产最强大的智驾级算力芯片。 据理想官方介绍,冯诺依曼架构统治计算行业整整70年,但其指令队列掩盖了计算本有的并行度,需要海量晶体管承担真实计算以外的管理开销。 而

  • 段永平重估英伟达

    段永平一直以“不懂不投”著称。 他管理的H&H International Investment在2025年二季度已持有英伟达96.48万股,三季度降至59.78万股,减持约38%。 但随后,H&H开始快速放大英伟达仓位:2025年四季度持股增至723.71万股,环比增加1110.62%;最新披露的2026年一季度13F显示,英伟达持仓进一步升至1384.38万股,环比再增91.29%。 短短两个季度,持仓从59.78万股扩大到1384.38万股,约23倍。 截至2026�

  • 重磅收购!OpenAI拿下Ona全力升级AI编码助手Codex

    OpenAI宣布收购初创公司Ona,Ona提供安全、预配置的云环境,使人工智能代理能够访问所需的工具、系统和上下文。 OpenAI表示,Ona的技术将增强其编码助手Codex承担更长时间运行任务的能力,同时也将帮助更多用户把智能体顺利部署到生产环境中。 OpenAI未披露此次收购的具体条款,交易仍需满足惯例成交条件。完成后,Ona的员工将加入OpenAI的Codex团队。 近几个月来,随着软件�

  • OpenAI拟大幅降价 与Anthropic展开用户争夺

    知情人士透露,OpenAI正考虑大幅下调其人工智能产品的价格,以从竞争对手Anthropic手中争取更多客户。 相关讨论仍在进行中,可能的调整方向是降低token(衡量AI使用成本的核心计价单位)的价格。 与此同时,有消息称OpenAI已于近日向美国证券交易委员会(SEC)秘密提交了IPO申请。这一动作紧随Anthropic提交IPO申请一周之后,两家公司相继步入上市轨道。

  • AI日报:MiniMax发布M3 大模型;英伟达物理大模型Cosmos3发布;小红书已治理超120万个AI托管账号

    今日AI领域动态丰富:MiniMax发布M3+大模型,首创MSA架构并支持1M上下文,全面开源对标海外旗舰;英伟达联合行业巨头发布全球首款全开源全模态物理AI大模型Cosmos3,成立宇宙联盟;千问APP六一期间礼品选购咨询量增长260%,展现AI购物潜力;小红书治理超120万AI托管账号,处置18万篇AI造假笔记;抖音4月新增AI短剧超4.4万部,但爆款率仅0.6%;胡彦斌上线粉丝社区应用“彦火”,展示Vibe Coding潜力;LobsterAI推出图片视频大模型矩阵,整合四大主流模型;OpenAI重启机器人业务,奥特曼公开招募工程师,拓展具身智能布局。

  • 5K双模遇上高端MiniLED:海信GX Ultra对比三星G75/85NB,谁才是你的终极梦想屏?

    文章对比了海信GX Ultra与三星G75/85NB两款旗舰MiniLED显示器。海信GX Ultra凭借2304个超高分区、0OD微距控光技术、5K黑曜屏及行业首创的双模切换(5K 180Hz/2K 330Hz),在画质细腻度、抗反射和全能性上更胜一筹;三星则通过1000R曲面屏和原生高刷(最高4K 240Hz)强化游戏沉浸感。此外,文章还推荐了高性价比的海信G7 Pro和G7 Ultra,满足不同预算需求。

  • AI日报:阿里上线首个官方大模型NBA Chat; Ideogram4.0开源发布;OpenAI升级ChatGPT记忆系统

    今日AI领域动态:Ideogram 4.0开源发布,93亿参数打造最强文字生成AI,提升海报与品牌营销创作;OpenAI升级ChatGPT记忆系统,算力降至1/5,解决过时与准确性痛点;腾讯文档推出行业首创“人机双写”原生编辑器;xAI发布Grok Imagine Video 1.5,支持图片转视频;豆包回应AI识别野生蘑菇误判,强调仅供参考;知乎Q1扭亏为盈,AI短剧成增长点;腾讯云ADP 4.0新增Claw模式,提升企业Agent构建效率;NBA中国与阿里推出首个官方大模型“NBA Chat”。

  • 【投影仪白天效果比较好的怎么选】坚果N5S Ultra凭实测亮度认证硬刚强光

    市面上投影仪白天效果多因对比度不足而发灰发白。坚果N5S+Ultra凭借9000:1原生对比度、实测亮度认证和智能动态光圈,光有对比度和亮度俱佳,无惧强光,画面深邃通透。独立画质芯片配合四芯架构,色彩还原与细节处理领先同级。AI三合一空间定位和灵活光学变焦,小客厅也能投百寸。万元级价格,白天观影体验最能打,适合对画质有明确要求的用户。

  • 苹果MacBook Ultra首发全新OLED:Mini-LED落幕

    苹果即将推出品牌史上定位最高端的笔记本新品MacBook Ultra,这款全新设备将首发搭载定制的双层OLED屏幕。 现在市面上在售的MacBook Pro采用的还是Mini-LED屏幕,这类屏幕依然需要配套独立的背光模组,对比度、黑色纯净度始终存在物理层面的上限。 这次应用的双层串联OLED拥有完全自发光的核心特性,它在传统单层OLED面板基础上额外添加了一层独立的有机发光层,原本单层OLED�

  • 3999元起!影石Luna Ultra发布 全球首款8K徕卡双摄云台相机 首创可拆遥控屏

    今日,影石Insta360正式发布Luna Ultra,这是全球首款8K徕卡双摄云台相机,售价3999元起。 Luna Ultra搭载双徕卡Summicron光学镜头系统,主摄采用1英寸8K传感器,支持8K 30fps杜比视界视频和4K 120fps慢动作视频拍摄。 另一颗为1/1.3英寸长焦镜头,可带来微单级自然虚化效果,最高支持12倍变焦、6倍无损变焦,覆盖五大常用焦段,满足日常记录、人像、旅行等多场景拍摄需求。 性能方面

今日大家都在搜的词: