首页 > 业界 > 关键词  > 正文

Martian发布智能模型路由器,实现LLM动态切换以降低成本

2023-11-16 11:15 · 稿源:站长之家

站长之家(ChinaZ.com)11月16日 消息:在人工智能领域,一家名为Martian的初创公司近日从隐秘状态中脱颖而出,成功获得了来自NEA、Prosus Ventures、Carya Venture Partners和General Catalyst等投资者的900万美元融资。该公司的创新产品是一款智能模型路由器,有望在高风险商业场景中服务,降低公司使用大型语言模型(LLM)的成本。

Martian的创始人Shriyash Upadhyay和Etan Ginsberg表示,他们公司的目标是解决人工智能研究难以盈利的问题,通过建立一家产品受益于可解释性的公司。与此同时,他们分享了Martian公司的融资计划,包括用于产品开发、对模型内部运营的研究以及扩大公司团队规模。

image.png

官网地址:https://withmartian.com/

这家初创公司的关键创新在于他们提出的智能模型路由器,能够在不实际运行模型的情况下估计模型的表现。Upadhyay和Ginsberg解释说,Martian可以根据特定的任务要求动态切换到更便宜的型号,其性能与最昂贵的型号相媲美,仅在必要时才切换到昂贵的型号。这种智能切换可以实现比完全依赖高端LLM模型更高的性能和更低的成本。

对于很多公司而言,完全依赖高端LLM模型的成本可能过高。市场情报公司Permutable.ai的首席执行官透露,使用OpenAI的高端模型每天处理约200万篇文章,每年的成本超过100万美元。因此,Martian的智能模型路由器为公司提供了一种在不牺牲性能的前提下降低人工智能成本的创新方法。

Upadhyay和Ginsberg补充说,已经有一些公司开始采用Martian的技术,其中包括“价值数十亿美元”的公司。他们认为,建立一个真正有效的模型路由器是非常困难的,因为它需要深入了解各种模型的基本工作原理。然而,Martian的创新在于他们成功克服了这一挑战,为公司提供了更灵活、高效且成本更低的人工智能解决方案。

在人工智能领域,Martian的智能模型路由器的推出标志着该行业的进一步发展,为公司提供了在不同任务需求下实现LLM动态切换的先进工具。这一创新有望推动人工智能领域朝着更加可持续、经济高效的方向发展。

举报

  • 相关推荐
  • 有道14B低成本轻量模型“子曰3”开源,数学推理性能超越大模型

    网易有道6月23日开源国内首个专注数学教育的"子诳3"大模型系列数学模型(Confucius3-Math)。该模型在单块消费级GPU上高效运行,在多项数学推理任务中性能超越更大规模的通用模型,高考数学题测试得分达98.5分。其训练成本仅2.6万美元,推理性能是DeepSeek+R1的15倍,服务成本低至每百万token0.15美元,大幅降低教育AI应用门槛。该开源模型为教育公平提供低成本、高性能的AI�

  • 上海飞络|AI Agent驱动企业MSS安全运营变革 ---构建高效低成本防护体系

    在数字化转型浪潮中,企业面临指数级增长的网络威胁。上海飞络信息科技的Synergy AI产品通过AI+Agent技术重塑安全防护格局:1)统一告警分析:整合多元设备告警,精准识别APT攻击等高级威胁;2)智能设备调度:自动协调防火墙、WAF等设备应对DDoS攻击;3)实时威胁阻断:秒级隔离受感染终端,防止数据泄露。该方案使金融企业平均响应时间大幅缩短,显著降低数据泄露风险。未来将持续优化预测能力,实现主动防御,为企业构建高效智能的托管安全服务体系。

  • 九四智能荣膺Future Marketing未来营销大奖,领航美妆个护数字营销新征程

    2025年6月26日,Future Marketing未来营销大奖颁奖盛典在上海举行,聚焦美妆个护行业数字化转型。94智能凭借数字营销领域的卓越表现,荣获年度卓越人工智能服务商奖项。该活动作为美妆个护行业重要盛会,探讨了AI赋能品牌增长的新路径,吸引了众多行业专家分享本土化营销、DTC模式迭代等实战案例。94智能通过用户深度分析帮助品牌制定个性化策略,显著提升转化率。未来该平台将继续深耕数字营销,推动行业创新发展。活动获得30余家媒体广泛报道及多地行业协会支持。

  • 天九共享免费开放低代码,助力100万家企业低成本数智化

    6月18日,天九数科集团宣布其低代码平台正式面向全球免费开放。该平台通过可视化拖拽、模块化组件等功能,可快速搭建ERP、CRM等管理系统,显著降低中小企业数字化转型门槛。目前中国中小企业数字化率不足20%,面临"不愿转、不敢转、不会转"困境。天九平台具有零成本接入、高效部署等优势,已帮助某餐饮企业一周内建成智能订货系统,人工误差减少30%。集团计划未来3年服务超100万家企业,助力实现2027年中小企业上云率超40%的政策目标,推动普惠数字经济发展。

  • 2025最新全球AI大模型排名,国内外模型动态洗牌(实时更新平台推荐)

    2025年全球AI大模型竞争进入白热化阶段,OpenAI、Google等国际巨头与中国企业激烈交锋。技术迭代远超预期,仅半年内排名就经历多次洗牌。当前全球AI大模型综合排名Top10显示:1)GPT-4.5综合80.4分领跑;2)Claude3.7编程领域领先;3)Gemini2.0多模态标杆;4)国产DeepSeek R1推理速度提升3倍;5)阿里Qwen2.5数学编程单项第一。中国模型通过开源策略、垂直优化和成本革命实现弯道超车,如DeepSeek R1仅耗资600万美元达到GPT-4水平,字节豆包采用稀疏MoE架构成本大幅降低。中文场景深度优化表现突出,如文心一言4.0方言交互准确率92%。开源生态爆发,通义千问全尺寸开源(7B~110B参数)在Hugging Face排名第一。权威评估需结合标准化测试、人类盲测和场景适配性。

  • 智能体时代,还得看豆包大模型

    火山引擎,又有大动作了。 2025年6月11日,火山引擎Force原动力大会发布豆包大模型1.6、视频生成模型Seedance1.0pro等重磅新模型,以及迭代了一站式AI云原生全栈服务。 对此,字节跳动CEO梁汝波表示:“做好火山引擎对字节跳动成为一家优秀的科技公司、保持技术竞争力很重要。未来,字节跳动会坚定长期投入,追求智能突破,服务产业应用。通过火山引擎,持续把新模型、新�

  • 出门问问发布Agentic AI软硬结合产品TicNote,定义新一代“AI思考伙伴”

    出门问问发布新一代AI硬件TicNote,内置"Shadow AI"系统,实现"有记忆的AI记录+主动洞察+主动分析+陪伴创作"功能。该产品通过软硬件结合,成为用户的随身AI思考伙伴,适用于会议、商务沟通、学习等场景。TicNote具备20小时续航、10米远距收音、120+语言转写能力,支持跨文件项目管理。CEO李志飞表示,TicNote是"用AI的AI做AI"的AGI实践产品,标志着公司在软硬结合道路上更进一步。国内版已上线,海外版自2025年4月推出以来获广泛认可。

  • AI日报:MiniMax发布视频智能体Hailuo Agent;昆仑万维开源 Skywork-SWE-32B;B站接入Qwen 3等模型

    本期AI日报聚焦多项AI领域创新:1)MiniMax推出视频Agent工具,支持文本生成高清视频及人脸驱动;2)昆仑万维开源Skywork-SWE-32B模型,提升软件工程任务表现;3)B站接入通义千问模型,推出数据分析智能体InsightAgent;4)ChatGPT深度整合Gmail与日历功能;5)腾讯云发布全链路AI开发平台"AI Builder";6)HeyGen推出UGC广告数字人功能;7)研究显示过度依赖AI或削弱批判性思维。此外还涵盖AI音乐生成、内容检测工具停运等动态,展现AI技术快速发展的多元应用与潜在影响。

  • 从车企CIO视角看Testin云测的智能座舱AI测试实施案例

    文章探讨了智能座舱成为车企差异化竞争核心的趋势。2024年数据显示,智能座舱故障率高居新能源汽车投诉首位,暴露传统测试模式在复杂系统下的不足。以Testin云测为代表的AI测试服务商通过三大技术重构测试体系:1)视觉引擎实现跨系统界面识别,测试效率提升3倍;2)缺陷预测模型使65%问题在开发阶段暴露,降低后期修复成本50%;3)云端设备池化使硬件利用率从30%提升至65%。某头部车企案例显示,该方案使测试效率提升35%,缺陷检出率提高55%,年节省测试费用超千万元。未来趋势将向AI深度渗透、虚实结合测试和全生命周期管控发展。

  • 张雪峰鼓励高考发挥失常考生:人生充满变数 逆袭之路由你主宰

    近日,知名教育博主张雪峰在结束了一天忙碌的学生沟通工作后,深夜发文,特别向高考发挥失常的考生们表达了自己的鼓励与期许。他坦言,深知这些考生此刻心情沉重,或许正困惑于为何自己明明付出了努力,模拟考试成绩优异,却在高考这一关键时刻遭遇了滑铁卢。 张雪峰以自身经历为例,分享了自己高中时从尖子班调整到平行班、高考发挥不佳的过往,但强调如今自