首页 > 业界 > 关键词  > 英伟达最新资讯  > 正文

英伟达和 Mistral 的新模型「Mistral-NeMo」为台式电脑带来企业级人工智能

2024-07-21 09:59 · 稿源:站长之家

站长之家(ChinaZ.com) 7 月 21 日消息:英伟达(Nvidia)和法国初创公司 Mistral AI 日前联合宣布推出一款新语言模型,旨在将强大的 AI 功能直接带到企业桌面。这款名为 Mistral-NeMo的模型拥有 120 亿个参数和 128,000 个 Token 上下文窗口,是寻求在不依赖大量云资源的情况下实施 AI 解决方案的企业的强大工具

英伟达

Nvidia 应用深度学习研究副总裁 Bryan Catanzaro 在接受媒体采访时强调了该模型的可访问性和高效性。他说:「我们与 Mistral 共同训练了一款 120 亿参数的模型,并将其以 Apache 2.0 许可发布。我们对该模型在许多任务中的准确性非常满意。」

Nvidia 作为 GPU 制造和 AI 硬件领域的巨头,与欧洲 AI 新星 Mistral AI 的合作,标志着 AI 行业在企业解决方案方面的重大转变。通过专注于更小但功能强大的模型,这一合作旨在让更多企业能够接触到先进的 AI 技术。

在巨人之间的小人物:小型模型如何改变游戏规则

Catanzaro 进一步解释了小型模型的优势:「小型模型显然更易于获取和运行,商业模式也可以不同,因为人们可以在自己的系统上运行这些模型。实际上,这个模型可以在许多人已经拥有的 RTX GPU 上运行。」

这一发展正值 AI 行业的关键时刻。虽然目前大量关注集中在像 OpenAI 的 GPT-4 这样拥有数百亿参数的巨大模型上,但越来越多的人对能够在企业硬件上本地运行的高效模型产生兴趣。这一转变主要是因为数据隐私、低延迟需求以及更具成本效益的 AI 解决方案等因素。

Mistral-NeMo 的 128,000 个 Token 上下文窗口是其一大亮点,使该模型能够处理和理解比许多竞争对手更大的文本块。Catanzaro 表示:「我们认为长上下文能力对许多应用非常重要。如果它们可以避免微调,那就使得部署更加简单。」

长短之分:上下文在 AI 中的重要性

这一扩展的上下文窗口对处理长文档、复杂分析或复杂编码任务的企业非常有用。它可能消除频繁的上下文刷新需求,从而带来更连贯和一致的输出。

该模型的高效性和本地部署能力可能会吸引那些互联网连接有限或有严格数据隐私要求的企业。然而,Catanzaro 澄清了该模型的预期使用情况:「我认为更多是针对笔记本电脑和台式机,而不是智能手机。」

这种定位表明,虽然 Mistral-NeMo 将 AI 带到个人企业用户的身边,但它还没有达到移动设备部署的阶段。

行业分析师认为,这一发布可能会显著扰乱 AI 软件市场。Mistral-NeMo 的推出可能会改变企业 AI 部署的方式。通过提供一个可以在本地硬件上高效运行的模型,Nvidia 和 Mistral AI 正在解决企业在广泛采用 AI 时面临的许多问题,如数据隐私、延迟和高昂的云解决方案成本。

这一举措可能使资源有限的小企业也能利用以前只有大型企业才能使用的 AI 能力。然而,这一发展的真正影响将取决于模型在实际应用中的表现以及围绕它的工具和支持生态系统的发展。

该模型目前以 NVIDIA NIM 推理微服务的形式提供,并且很快将推出可下载版本。其 Apache 2.0 许可允许商业使用,这可能会加速其在企业中的采用。

民主化 AI:将智能带到每一个桌面的竞赛

随着各行业企业继续努力将 AI 整合到运营中,像 Mistral-NeMo 这样的模型代表了更高效、可部署的 AI 解决方案的趋势。是否会挑战大型云模型的主导地位还有待观察,但它无疑为企业中的 AI 集成开辟了新的可能性。

Catanzaro 在采访中以展望未来的声明总结道:「我们相信,这个模型代表了让 AI 对各类企业更可访问和实用的方向的重要一步。这不仅是关于模型的强大能力,还在于将这种能力直接交到可以用它来推动日常运营中创新和效率的人们手中。」

随着 AI 领域的不断发展,Mistral-NeMo 的发布标志着为企业提供更可访问、高效和强大的 AI 工具方面的重要里程碑。这将如何影响更广泛的 AI 生态系统还有待观察,但可以肯定的是:将 AI 能力更接近最终用户的竞赛正在升温,Nvidia 和 Mistral AI 已经在这一方向上迈出了大胆的一步。

举报

  • 相关推荐
  • 英伟达Blackwell Ultra芯片商用落地,微美全息以“算力+开源”领航AI科技新程

    英伟达与CoreWeave合作推出新一代AI芯片Blackwell Ultra,该芯片已实现商业部署,采用液冷技术,包含72个GPU和36个CPU。Blackwell Ultra的AI内容生成能力是前代产品的50倍,预计今年批量出货。英伟达凭借高性能AI芯片近乎垄断市场,年利润超5000亿元,市值逼近4万亿美元,有望成为全球市值最高公司。微软推迟自研AI芯片发布,转向过渡性设计方案。微美全息专注AI芯片技术布局,构建多元化技术生态,推动产业协同,成为全球AI芯片竞赛重要参与者。当前AI产业进入大规模商业化关键阶段,算力需求持续高涨,推动企业向算力数智化迁移。消费电子领域,AI赋能传统智能终端,新型智能硬件结合AI创造增量需求,关注算力产业链技术创新配套机遇。

  • 人工智能创新创业大赛进入关键评审阶段,前沿AI项目角逐决赛席位

    "智汇运河·智算未来"人工智能创新创业大赛进入关键阶段。经过全球征集筛选,50个代表AI前沿创新的项目脱颖而出,涵盖智能制造、智慧城市、生命健康、智慧物流四大"AI+"赛道。赛事聚焦技术突破性、模式创新性和产业落地潜力,旨在推动AI技术从实验室走向应用场景。杭州拱墅区通过大赛汇聚全球智慧,加速构建人工智能产业高地。7月6日决赛将展现顶尖项�

  • 专业AI工具导航与人工智能学习平台AIbase.cn 连接现在与AI未来的智能桥梁

    AI技术正重塑各行各业,从语音助手到自动驾驶,从医疗诊断到金融分析,已从科幻变为现实。面对AI快速发展,许多人感到迷茫:如何跟上技术前沿?如何在AI浪潮中找到机遇?AIbase.cn应运而生,致力于成为连接现在与未来的智能桥梁。平台汇聚全球最新AI资讯、实用技术资源和前沿行业洞察,为新手、开发者和企业家提供一站式解决方案。核心服务体系包括:前沿资讯精选、精品AI工具库、系统化教程、商业化指南和开发者生态支持。通过专业内容与活跃社区,帮助用户在快速变化的AI领域保持敏锐洞察力,实现从概念到应用的跨越。AIbase.cn已成为数万AI从业者的首选平台,期待与您共同探索智能时代的无限可能。

  • 国内有哪些AI新闻网站?2025年最全人工智能资讯平台推荐

    本文介绍了国内优质AI新闻网站,帮助读者快速掌握人工智能领域最新动态。重点推荐了AIbase.cn、机器之心、量子位和AI工具集四个平台,分别从资讯全面性、技术深度、行业洞察和工具导航等角度分析其特色。文章指出,在AI技术快速迭代的背景下,专业AI新闻网站能提供更及时、深入的行业资讯,建议读者根据需求选择合适平台,建立日常阅读习惯,多元化获取信息,并积极参与社区讨论,以保持对行业趋势的敏锐度。

  • 攀升科技携手英伟达亮相BW2025,RTX主机限时福利大放送

    7月11-13日,攀升科技以"乐玩AI+趣享攀升"为主题亮相Bilibili World 2025展会。现场设立GeForce RTX体验区,玩家可试玩《永劫无间》等游戏,感受RTX50系列显卡带来的极致画质和DLSS4技术。重点展示AI技术在游戏中的创新应用,如通过NVIDIA ACE技术实现AI队友语音互动。展会期间推出多款优惠主机:RTX5060主机搭载i5-14600KF处理器,48G DDR5内存,享政府补贴后到手价优;RTX5070主机采用Blackwell架构,AI算力达988TOPS,原价10699元,补贴后仅8699元。攀升科技诚邀玩家亲临4A18展位体验RTX技术魅力。

  • 攀升科技携手英伟达亮相BW2025,RTX主机限时福利大放送

    攀升科技将于7月11-13日亮相Bilibili World 2025展会,以"乐玩AI+趣享攀升"为主题,携手英伟达带来RTX50系列显卡体验。现场可试玩《永劫无间》《漫威争锋》等游戏,体验全景光线追踪和DLSS4技术。重点展示AI在游戏中的创新应用,如通过NVIDIA ACE技术创建智能NPC队友。展会期间推出RTX5060/5070主机优惠,5060主机搭载i5-14600KF处理器和48G DDR5内存,5070主机AI算力达988TOPS,支持DLSS4技术。参与现场活动可获购机福利,抖音旗舰店下单享政府补贴最高立省2000元。展会地点为上海国家会展中心4A18展位。

  • 超凡性能,卓越设计——三星Galaxy Watch Ultra的诞生之路

    三星Galaxy Watch Ultra智能手表全新升级,融合"天圆地方"设计美学与户外性能。采用圆形表盘与方形底座结合,配备专属快捷按键,支持一键切换运动模式。表带采用无表耳设计,提升佩戴舒适度,并提供水上运动、越野运动等专业表带选择。搭载超级模拟表盘,可显示9项运动数据,支持个性化设置。2025款新增"钛岭蓝"配色,7月25日正式发售,预约可享表带赠品或分期免息优惠。这款兼具设计美感与实用功能的智能手表,重新定义了户外运动装备标准。

  • 英伟达成首家市值超4万亿美元公司

    科技巨头英伟达在资本市场大放异彩,股价上涨2.5%,报收于163.9美元/股,凭借这一表现,其总市值成功攀升至4万亿美元,一举成为全球首家市值突破这一惊人关口的公司,再次刷新了资本市场的纪录。 在全球市值排名中,英伟达稳坐头把交椅,微软以3.74万亿美元的市值位居第二,苹果则以3.14万亿美元位列第三。

  • 小鹏G7 Ultra行业首发本地端VLA+VLM大模型 9月起推送上车

    小鹏G7 Ultra今日上市,行业首发本地端VLA VLM”大模型。 搭载了VLA大模型,也就拥有了主动思考、迅速决策能力。 在VLA大模型的加持下,小鹏G7能够解决多种行驶场景,如遇上拥堵路线不傻等,主动绕行最佳路线;途遇积水路面主动减速,安全涉水礼貌避让。

  • 三星Galaxy折叠屏新品7月9日登场 Ultra级体验值得期待

    三星将于2025年7月9日晚22点发布新一代Galaxy折叠屏旗舰,主打"超轻薄设计+AI交互升级"。新品采用突破性工业设计,机身厚度有望刷新行业纪录;搭载进化版Galaxy AI,可实现更智能的人机交互,包括意图预测、跨应用执行等功能。影像系统全面升级,配备超视觉引擎和强大影像系统。三星强调这是"打破边界的想象",将为用户带来"Ultra级"体验。目前官网已开启新品预约活动,参与可获赠优惠券等福利。