首页 > 传媒 > 关键词  > AI大模型最新资讯  > 正文

云天励飞发布深目AI模盒,把大模型应用成本降到千元级别

2024-03-29 10:06 · 稿源: 站长之家用户

3月28日,云天励飞举办AI大模型产品发布会,正式发布“深目”AI模盒。该产品能够做到“3个90%”——覆盖场景超过90%、算法精度超过90%,使用成本降低90%,解决大模型在场景落地最后一公里的问题,帮助更多中小企业客户轻松使用大模型。

会上,云天励飞还与鹏城实验室、之江实验室、中国电子、华为、华润数科等单位成立“深目2.0”生态联盟,共同探索更多大模型落地应用路径。

值得一提的是,云天励飞还宣布“云天天书-2.0-68B”版本免费向合作伙伴开放;即日起预订“深目”AI模盒,即有机会获得邀约测试的机会。

千元级成本,即可拥有专属大模型

从ChatGPT到Sora,从文生文、文生图像到文生视频,大模型发展日新月异,持续给行业带来惊喜,不仅国内掀起“百模大战”,国外科技巨头也在大模型上相互较劲。大模型的能力在不断进化,引发新一轮的AI变革。

云天励飞董事长兼CEO陈宁博士在发布会上提到:未来3年,全球80%的企业都将使用大模型。但是,要训练专属大模型,不仅需要大算力、大数据,还需要大量先进人才。大模型一次训练成本在万级,主流的训推一体机价格普遍在百万元,绝大多数企业都无法承担这样高昂的成本。

为了能够让大模型“平民化”,成为人人都可用的产品,云天励飞推出了“深目”AI模盒。

这款产品售价在千元级,用单手就能托起,搭载了云天励飞的自研大模型边缘训推芯片DeepEdge10Max以及自研多模态大模型“云天天书”,具备算法边缘侧在线学习能力,可实现算法场景覆盖超过90%、算法精度超过90%,使用成本降低90%,让人人都能够根据自身场景需求,利用大模型能力,训练出可实战应用的算法,让大模型唾手可得。

把大模型变“小”,云天励飞是怎么做到的?

“能够实现3个90%,离不开云天励飞的核心能力——算法芯片化。”陈宁博士说。

“深目”AI模盒的算力基础,来源于去年云天励飞推出的14nm Chiplet大模型训推芯片DeepEdge10Max。该芯片采用自主可控的国产工艺,内含国产RISC-V核,支持大模型训练推理部署。依托自研芯片DeepEdge10Max创新的D2D chiplet架构打造的推理平台,已适配并可承载10亿级SAM、百亿级Llama2等大模型运算,可广泛应用于AIoT边缘视频、移动机器人等场景。

“深目”AI模盒的大模型能力,来源于云天励飞自主研发的多模态大模型“云天天书”。云天天书大模型包含语言大模型、多模态大模型等不同系列,在C-Eval、CMMLU等测试中多次获得第 一,并于去年正式通过中央网信办备案。云天天书1.0版本于2023年初正式推出,至今已完成3个版本的迭代,预计今年6月将迭代4.0V版本。

以云天天书为底座,云天励飞能够与生态合作伙伴完成预训练场景算法,再将预训练算法提供给广大中小企业用户,中小企业客户可根据自身场景需求,在边缘端完成算法微调。由于大模型具备泛化和学习的能力,客户部署算法后,大模型还能够不断根据现实应用场景情况,在线学习、优化算法,不断提升算法精度。

“深目”AI模盒不仅仅是“压缩”了大模型和芯片能力的一款全新产品,更是把云天励飞大模型通过算法芯片化能力平台“硬件化”的一次重要尝试。把复杂的技术通过简单的产品提供给用户,让用户可以零学习成本,快速训练出自己需要的算法。

场景算法,秒速训练

“深目”AI模盒背后蕴藏了复杂的技术,但对于用户而言,他们只需要关心产品到底怎么用、好不好用。发布现场,云天励飞副总裁罗忆用实际场景演示了“深目”AI模盒是如何在数据少、无数据等极端情况下,快速完成算法训练。

场景演示一:只需少量样本,算法精度即可提升到90%以上

在算法使用初期,只有少量数据,用户如何才能快速训练高精度算法?

以店外经营为例,这是城市治理中最常见的问题之一。当用户需要训练识别算法时,可以直接使用平台现成的算法对目标进行识别。用户只需要对识别结果标记“正确”和“误报”,算法精度就能通过自学习快速提升。通过这样的过程,算法精度通过1次训练就能得到显著提升,经过1周迭代后算法精度可超过90%。

罗忆介绍,云天励飞为客户提供的算法训练平台上,有大量与生态合作伙伴共同打造的算法商城,能够提供覆盖14个大类、100+个小类、千余种算法,用户可以直接调用预训练算法,并上传自身场景图片完成算法的微调和升级,快速训练出高精度算法。

场景演示二:零数据样本,用AIGC数据训练AI

天灾人祸等极端场景识别训练的数据几乎空白,面对这样“无数据”的情况,用户该如何训练算法?

以加油站场景的吸烟识别为例,这类行为的数据极难获取,因为这类危险行为往往伴随着成不可挽回的后果。而平台能够利用大模型能力,以加油站为背景,生成在该环境抽烟行为的人物,并将数据用于算法训练中,填补训练数据的空白。

使用AI合成数据来训练算法,不仅能够填补数据空白,还能够规避隐私安全等问题,已经逐渐成为大模型时代下训练新算法和提升算法精度的一条重要路径。

场景演示三:识别对象标准不统一,大模型泛化能力解决问题

现场以“购物中心提袋识别”为例,演示了如何利用大模型泛化能力,解决识别对象标准不统一带来的算法训练难题。

大型购物中心一般没有统一的结算中心,购物中心难以掌握逛街顾客是否消费,也难以评估营销活动对实际消费转化的效果。而顾客是否提购物袋,是大型商场判断顾客是否消费的重要标准之一。但是,各品牌购物袋的大小、颜色均不统一;而且难以与顾客的背包区分,算法难以准确识别。

但在云天励飞的算法训练平台上,借助场景自适应能力,能够实现“千店千袋”的识别。首先,用户需要调用“拎手提袋识别”算法,识别所有的手提袋,再基于识别结果进行特定手提袋的识别训练,从而衍生出特定手提袋的识别算法,最后即可实现专用门店手提袋的准确识别。

做物理世界的解码者

从2014年成立至今,云天励飞一直坚持将AI技术与物理世界相结合,这也是云天励飞从成立之初自研芯片的重要原因。芯片是AI与物理世界的连接器,AI通过芯片为实体赋能,物理世界的数据又通过芯片反哺AI,推动AI进步发展。

“AI商业化发展有三个阶段:AI方案化、AI运营化、AI产品化。”陈宁博士在发布会现场说道。在AI方案化阶段,AI企业主要通过项目制满足不同垂直领域客户需求。在打磨行业标杆项目的过程中,AI企业不断积累行业认知和数据,AI技术实力不断增强,并形成具备越来越强的泛化能力AI平台,企业也得以开启AI运营业务。而最终,所有的技术都需要通过物理实体赋能,因此AI最终必须走向产品化。

云天励飞业务发展路径也沿着这条路径展开。在AI方案化方面,云天励飞在警务、城市治理、智慧交通、人居生活等领域打造诸多标杆项目,并且在低空经济、智慧教育等创新领域持续展开探索。基于在大量行业的落地经验,云天励飞已形成数据运营、新能源运营平台,走向AI运营化。如今,云天励飞还逐步走向AI产品化。去年,云天励飞与华为昇腾联合推出天舟大模型训推一体机;如今又推出面向边缘训推场景的“深目”AI模盒。此外,云天励飞还通过资本纽带,进军智能穿戴和机器人等硬件领域,形成日益完善的大模型产品体系。

从AI方案化、AI运营化再到AI产品化,云天励飞一直在致力于做物理世界的“解码者”,通过算法芯片化的能力,为“无形”的技术和“有形”的世界构建通道,让AI不仅仅是一个在虚拟世界的工具,而是转化为物理世界的生产力。

一个小彩蛋:云天天书限时免费开放

为了共同探索更多大模型低成本、有效率落地应用路径,云天励飞与鹏城实验室、之江实验室、上海交通大学城市治理研究院、哈工大深圳研究生院、中科院深圳先进研究院、中国电子、华为、深圳移动、深圳电信、深圳联通、华润数科、神州数码、中国铁塔深圳分公司、有人物联网、云赛智联等单位共同成立“深目2.0”生态联盟,共同探索更多大模型落地应用路径。

在发布会最后,云天励飞还发出了2个实实在在的福利。

一是“云天天书-2.0-68B”版本免费向合作伙伴开放。合作伙伴可免费获取“云天天书-2.0-68B”部署包及6个月推理服务授权,免费使用天书平台自带的管理、支撑、应用及API等服务,快速构建场景应用。(微信搜索“云天励飞”小程序,可报名申请)

二是从即日起预订“深目”AI模盒,即有机会获得邀约测试的机会,限额50名!

关于“深目”背后的故事

2014年,云天励飞凭借对深度学习的深刻理解,推出了基于CV小模型的人工智能产品——“深目”1.0,成功引领了AI产业化应用的浪潮,为“AI+公共安全”市场开启了新纪元。

如今,人工智能已迈入大模型时代。在大模型技术的强 力驱动下,AI能力得以更广泛地拓展与应用。每一个场景都蕴藏着巨大的潜力,等待着我们用大模型去重塑、去挖掘其更深层次的价值。在这个奇点时刻,我们选择二次创业,并推出了一款基于自研芯片和大模型技术的“深目”AI模盒。这款产品能够低成本地快速生成并运行算法,为碎片化场景下复杂多变的AI应用提供了强有力的支持。

这款产品,我们依然命名为“深目”。虽然名字未变,但“深目”已经从最初我们对AI方案化构想,进化成了如今成熟的产品化现实。它的技术底座已焕然一新,方案和产品均实现了全面的升级与蜕变。我们期望“深目”系列产品能够赋能更广阔的碎片化场景,真正实现AI技术的普惠,让千行百业都能受益于其强大功能。同时,“深目2.0”这个品牌也将承载着云天人不断创新、超越自我的创业精神,为我们开启二次创业的新征程。我们坚信,在大家的共同努力下,“深目”将焕发出新的活力与光彩,为AI产业的发展贡献更多力量,共同开创更加美好的未来!

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 云天励飞:已完成天府智算中心交付并已确认相关收入

    云天励飞近期宣布完成天府智算中心的交付,并确认2024年第四季度相关收入。公司已建成西南、华南区域三个高性能算力集群,运营算力规模近5000P。其业务分为企业级、消费级、行业级三大板块,其中企业级业务通过大规模异构高性能算力集群为客户提供AI训练及推理服务。2024年公司推出全新大模型推理加速卡IPU-X6000,内置国产大算力芯片DeepEdge200,适配主流大模型。公司2024年营收达9.17亿元,同比增长81.3%,主要得益于企业级和消费级业务增长。云天励飞凭借自研AI芯片和底层技术实力,在算力优化、模型训练效率提升等方面具备优势,已积累多个行业客户资源。

  • 信通院联合三六零发布《大模型应用交付供应商总体能力要求》

    中国信通院联合360集团发布《大模型应用交付供应商总体能力要求》技术规范,从基础能力、大模型服务能力、行业实践能力和项目质量管理能力四个方面明确了大模型应用交付供应商的总体要求。该规范由20余家单位及40余位专家共同编制,旨在提升供应商技术、管理和服务能力,为行业提供供应商选择与评估参考。360作为国内大模型头部厂商,自主研发"360智脑"大模�

  • 算力赋能营销革新,东信云与华为云签约共建多模态大模型应用标杆

    6月21日,东信云与华为云在HDC2025大会上签署合作协议,双方将基于昇腾AI云服务深化合作,重点布局多模态大模型应用与数字人技术。合作内容包括:1)构建智能营销系统,整合文本、图像、视频等多元数据,提升市场分析和消费者行为预测能力;2)通过大模型实现营销内容自动化生成,包括新闻稿、社交媒体帖子和广告文案;3)优化大模型架构,提升训练和推理效率。东信云6月发布的"数字人智能引擎"已实现分钟级生成逼真数字人,显著提升推荐转化率。双方还将联合行业伙伴共建营销大模型生态系统,推动营销行业智能化升级。

  • 玄武云出席崔牛会AI活动,聊聊AI大模型如何掌握终端信息

    6月20日,崔牛会主办的AI发现者计划之AI+OPEN DAY在广州举办,玄武云与百度云等企业围绕AI大模型应用展开探讨。玄武云分享了快消行业数字化转型解决方案,推出SKU超级模型和价签识别模型,帮助品牌商提升终端管理效率。其中SKU模型覆盖6000+商品,识别准确率达90%;价签模型准确率85%,已应用于知名薯片品牌。通过AI技术实现商品陈列优化、价格监控和渠道布局分析,助力快消企业从经验驱动转向数据智能驱动,在存量市场中创造增量价值。

  • 国内有哪些ai大模型?一文看懂中国核心AI大模型全景

    近两年中国AI大模型发展迅猛,已形成"通用+行业"双轨并进的生态格局。百度文心一言、阿里通义千问等通用大模型在中文理解、多模态生成等方面表现突出;深度求索DeepSeek以1/10参数实现GPT-4级推理能力;月之暗面Kimi以20万汉字上下文窗口领跑长文本处理;智谱AI的GLM-4成为首个支持视频对话的国产千亿模型。医疗、金融等垂直领域涌现出百川智能等专业模型,覆盖超1000家医院。开源生态加速国产芯片适配,15家厂商完成深度优化。行业应用方面,工程文档效率提升60%,24小时拟人化客服等案例凸显价值。未来趋势呈现模型蒸馏、端侧部署和开源生态三大方向,中国AI正从实验室走向产业变革前沿。

  • 华为云发布盘古大模型5.5,宣布新一代昇腾AI云服务上线,成就行业AI先锋

    华为开发者大会2025(HDC2025)在东莞篮球中心开幕,发布多项AI创新成果:1)推出基于CloudMatrix384超节点的新一代昇腾AI云服务,单卡推理吞吐量提升4倍;2)发布盘古大模型5.5,NLP、CV等五大基础模型全面升级,其中718B深度思考模型采用256专家MoE架构;3)推出行业首个统一预测架构Triplet Transformer,覆盖钢铁、水泥等多个工业场景;4)发布300亿参数视觉大模型,支持多维感知分析;5)升级盘古助手Doer,新增6大开发领域专业Agent。华为云宣布开发者突破800万,将构建昇腾、鸿蒙、鲲鹏等技术生态。

  • 主流AI多模态大模型有哪些?超全的多模态大模型指南分享

    2024年多模态大模型成为AI领域最具前景的技术方向之一。文章全面分析了主流多模态大模型的特点、应用场景和发展趋势。多模态大模型能同时处理文本、图像、音频、视频等多种数据,实现更智能的人机交互。重点介绍了GPT-4V、Claude3.5、Gemini、通义千问等代表性模型,对比了它们在视觉理解、编程能力、中文处理等方面的优势。应用场景涵盖智能客服、内容创作、教育医疗等领域。未来发展趋势包括模型规模扩大、支持更多模态、实时交互能力提升等。选择模型需考虑应用需求、语言支持、性能成本等因素。

  • 有道14B低成本轻量模型“子曰3”开源,数学推理性能超越大模型

    网易有道6月23日开源国内首个专注数学教育的"子诳3"大模型系列数学模型(Confucius3-Math)。该模型在单块消费级GPU上高效运行,在多项数学推理任务中性能超越更大规模的通用模型,高考数学题测试得分达98.5分。其训练成本仅2.6万美元,推理性能是DeepSeek+R1的15倍,服务成本低至每百万token0.15美元,大幅降低教育AI应用门槛。该开源模型为教育公平提供低成本、高性能的AI�

  • 「6月30日AI日报」百度开源文心大模型4.5系列;通义千问发布多模态生成模型Qwen VLo

    AI日报精选:1)百度开源文心大模型4.5系列,含10款新模型,性能优异;2)通义千问发布多模态模型Qwen-VL,支持图文交互;3)阿里开源3亿参数多模态模型Ovis-U1;4)华为开源盘古7B稠密和72B混合专家模型;5)美图MOKI推出AI创意广告功能,一键生成专业视频;6)谷歌Gemini 2.5 Pro API重新免费开放;7)豆瓣上线"深入研究"AI功能;8)小米"AI百宝箱"结束内测;9)北京智研院开源多模态系统OmniGen2;10)知乎升级"直答"知识库功能。

  • 思必驰RTOS大模型解决方案丨当玩具遇上AI,陪伴更有温度

    文章介绍了多款AI陪伴机器人产品,如LOVOT、Moflin、FoloToy等,它们通过创新交互方式引领消费新潮流。针对不同场景需求,思必驰推出RTOS大模型解决方案,融合智能对话技术与DFM-2大模型,整合第三方内容资源,赋予产品情感陪伴与寓教于乐功能。该方案具备智能打断、上下文记忆、多轮对话等能力,实现自然流畅的人机交互。在儿童教育领域,AI玩具可成为智慧伙伴,提供个性化学习支持。未来,AI赋能玩具将解锁更多应用场景,持续优化用户体验。