首页 > 业界 > 关键词  > 英伟达最新资讯  > 正文

英伟达和 Mistral 的新模型「Mistral-NeMo」为台式电脑带来企业级人工智能

2024-07-21 09:59 · 稿源:站长之家

站长之家(ChinaZ.com) 7 月 21 日消息:英伟达(Nvidia)和法国初创公司 Mistral AI 日前联合宣布推出一款新语言模型,旨在将强大的 AI 功能直接带到企业桌面。这款名为 Mistral-NeMo的模型拥有 120 亿个参数和 128,000 个 Token 上下文窗口,是寻求在不依赖大量云资源的情况下实施 AI 解决方案的企业的强大工具

英伟达

Nvidia 应用深度学习研究副总裁 Bryan Catanzaro 在接受媒体采访时强调了该模型的可访问性和高效性。他说:「我们与 Mistral 共同训练了一款 120 亿参数的模型,并将其以 Apache 2.0 许可发布。我们对该模型在许多任务中的准确性非常满意。」

Nvidia 作为 GPU 制造和 AI 硬件领域的巨头,与欧洲 AI 新星 Mistral AI 的合作,标志着 AI 行业在企业解决方案方面的重大转变。通过专注于更小但功能强大的模型,这一合作旨在让更多企业能够接触到先进的 AI 技术。

在巨人之间的小人物:小型模型如何改变游戏规则

Catanzaro 进一步解释了小型模型的优势:「小型模型显然更易于获取和运行,商业模式也可以不同,因为人们可以在自己的系统上运行这些模型。实际上,这个模型可以在许多人已经拥有的 RTX GPU 上运行。」

这一发展正值 AI 行业的关键时刻。虽然目前大量关注集中在像 OpenAI 的 GPT-4 这样拥有数百亿参数的巨大模型上,但越来越多的人对能够在企业硬件上本地运行的高效模型产生兴趣。这一转变主要是因为数据隐私、低延迟需求以及更具成本效益的 AI 解决方案等因素。

Mistral-NeMo 的 128,000 个 Token 上下文窗口是其一大亮点,使该模型能够处理和理解比许多竞争对手更大的文本块。Catanzaro 表示:「我们认为长上下文能力对许多应用非常重要。如果它们可以避免微调,那就使得部署更加简单。」

长短之分:上下文在 AI 中的重要性

这一扩展的上下文窗口对处理长文档、复杂分析或复杂编码任务的企业非常有用。它可能消除频繁的上下文刷新需求,从而带来更连贯和一致的输出。

该模型的高效性和本地部署能力可能会吸引那些互联网连接有限或有严格数据隐私要求的企业。然而,Catanzaro 澄清了该模型的预期使用情况:「我认为更多是针对笔记本电脑和台式机,而不是智能手机。」

这种定位表明,虽然 Mistral-NeMo 将 AI 带到个人企业用户的身边,但它还没有达到移动设备部署的阶段。

行业分析师认为,这一发布可能会显著扰乱 AI 软件市场。Mistral-NeMo 的推出可能会改变企业 AI 部署的方式。通过提供一个可以在本地硬件上高效运行的模型,Nvidia 和 Mistral AI 正在解决企业在广泛采用 AI 时面临的许多问题,如数据隐私、延迟和高昂的云解决方案成本。

这一举措可能使资源有限的小企业也能利用以前只有大型企业才能使用的 AI 能力。然而,这一发展的真正影响将取决于模型在实际应用中的表现以及围绕它的工具和支持生态系统的发展。

该模型目前以 NVIDIA NIM 推理微服务的形式提供,并且很快将推出可下载版本。其 Apache 2.0 许可允许商业使用,这可能会加速其在企业中的采用。

民主化 AI:将智能带到每一个桌面的竞赛

随着各行业企业继续努力将 AI 整合到运营中,像 Mistral-NeMo 这样的模型代表了更高效、可部署的 AI 解决方案的趋势。是否会挑战大型云模型的主导地位还有待观察,但它无疑为企业中的 AI 集成开辟了新的可能性。

Catanzaro 在采访中以展望未来的声明总结道:「我们相信,这个模型代表了让 AI 对各类企业更可访问和实用的方向的重要一步。这不仅是关于模型的强大能力,还在于将这种能力直接交到可以用它来推动日常运营中创新和效率的人们手中。」

随着 AI 领域的不断发展,Mistral-NeMo 的发布标志着为企业提供更可访问、高效和强大的 AI 工具方面的重要里程碑。这将如何影响更广泛的 AI 生态系统还有待观察,但可以肯定的是:将 AI 能力更接近最终用户的竞赛正在升温,Nvidia 和 Mistral AI 已经在这一方向上迈出了大胆的一步。

举报

  • 相关推荐
  • OpenAI和微软的关系没那么糟,跟英伟达也没那么好

    OpenAI的动作比所有人想象的都要快。 上周二,OpenAI完成重组。其中一个重要变化是:彻底取消了与微软的排他性协议,结束了Azure长达六年的云服务独占模式。此前,OpenAI所有模型的训练、推理与部署都必须优先选择Azure,微软还享有优先购买权。 宣布与Azure“分手”后不到一周,OpenAI便火速宣布了与AWS的战略合作——双方达成一项价值380亿美元的云计算协议,OpenAI将全面接入

  • OpenAI也来了,巨头为何决战AI浏览器?

    AI浏览器赛道再添一位重量级玩家——ChatGPT Atlas,这是OpenAI推出的首款人工智能驱动的网页浏览器。 这也被外界认为OpenAI要向谷歌宣战,挑战Chrome一直以来的浏览器霸王地位。ChatGPT Atlas发布当天,谷歌母公司Alphabet股价应声下挫,盘中最大跌幅接近5%,足见市场对这一新品的敏感度。 近一年来,AI浏览器的战略价值成为行业共识,从业者更是将其与智能代理(Agent)、搜索引�

  • 英伟达总市值突破5万亿美元

    10月30日,英伟达股价上涨3.2%,市值突破5万亿美元,成为全球首家达此里程碑的公司。创始人黄仁勋个人财富随之突破1800亿美元,跻身全球富豪榜第八位。今年以来,英伟达股价累计上涨54%,市值从4万亿增至5万亿仅用113天。公司透露,Blackwell及新一代Rubin芯片正推动销售增长。美国银行将目标价上调至275美元,预示股价或再涨30%,市场对其前景持续乐观。

  • 美股4万亿美元市值上市公司已达3家 苹果、微软、英伟达组成三巨头

    10月28日,苹果与微软股价同步上涨,双双突破4万亿美元市值大关,与超4.6万亿美元的英伟达共同构成全球市值最高的“三巨头”格局。微软因与OpenAI资本重组推动股价涨超3%,持有后者价值1350亿美元股权;苹果则凭借新一代iPhone强劲需求实现股价逆袭,年内首度由跌转升。英伟达仍以最高市值稳居全球第一,凸显全球科技产业对算力需求的爆发式增长。

  • 寒冬出行便捷与舒适兼得,问界新M5 Ultra凭实力助您告别烦恼

    冬季出行面临晨雾、路面湿滑等挑战,问界新M5 Ultra凭借卓越软硬件配置,成为用户安心之选。其搭载华为ADS辅助驾驶系统,配备多雷达与摄像头,实现360°环境感知,浓雾中仍能精准识别路况。舒适制动功能优化减速曲线,减轻晕车感。主动安全配置如全向防碰撞系统,配合高强度车身,全面守护驾乘安全。同时,快速空调升温与加热座椅提升冬季舒适性。当前购车可享至高价值37794元权益,含多项补贴与服务优惠,助您从容应对寒冬出行。

  • 享受专属赛道体验服务!雷军:小米Ultra Club对所有Ultra车主开放

    小米汽车今日宣布,小米Ultra Club面向所有Ultra车主开放入会。 车主入会后可享:赛道服务、赛道专场体验、官方专属活动及专属顾问1对1服务。目前赛道服务已覆盖12个城市,车主们可结合自身需求选择加入。

  • 小米17 Ultra蓄势待发:直屏+大圆镜头 没有背屏

    据爆料,小米17+Ultra将在春节前发布,主打影像功能,配备1英寸超大底主摄和2亿像素潜望长焦,支持外挂镜头。荣耀Magic8+Ultra也可能节前亮相,而OPPO、vivo超大杯旗舰则安排在节后。小米17+Ultra正面为直屏,背部采用大圆镜头设计,无副屏,是其与Pro系列最大差异。此外,小米15+Ultra预计配备新国屏,搭载骁龙8 Gen5平台,顶配版支持双卫星通信。

  • 人工智能巨头OpenAI拟上市 估值或高达1万亿美元

    OpenAI正积极推进上市计划,据知情人士透露,该公司可能最早于2026年下半年向证券监管机构提交上市申请,目标在2027年正式上市。 此次IPO的估值有望达到约1万亿美元,或将跻身全球规模最大的IPO之列。 在初步讨论中,OpenAI曾考虑通过上市筹集至少600亿美元资金,实际融资规模可能进一步扩大。

  • 小米17 Ultra取消2K屏:用Pro Max同款超级像素

    小米17 Ultra并没有开案2K屏,依然是全RGB无损排列,也就是会采用小米17 Pro Max同款的超级像素屏幕。 超级像素技术主要是排列方式上与以往的OLED有明显区别,经由全RGB像素独立排布,在OLED领域首次克服了高ppi与低良率之间的难题,彻底告别像素公摊”问题,每一颗子像素都能精准发光。

  • OpenAI推出AI浏览器ChatGPT Atlas 开启个性化上网新体验

    OpenAI于10月22日推出首款AI驱动浏览器ChatGPT Atlas,以个性化上网体验为核心。用户点击“Ask ChatGPT”即可在侧边栏实时互动,实现网页摘要生成、航班预订、文档编辑等多样化任务。目前仅支持macOS,未来将扩展至Windows和移动端。高级代理功能暂限付费用户使用,其特色包括自动捕捉页面上下文、分屏浏览及记忆用户操作历史,旨在通过自然对话提升网络使用效率。

今日大家都在搜的词: