首页 > 传媒 > 关键词  > 宝武智维最新资讯  > 正文

宝武集团使用时序数据库IoTDB助力钢铁设备智能运维

2024-11-14 10:33 · 稿源: 站长之家用户

1. 背景概述

宝武装备智能科技有限公司(以下简称:宝武智维)是中国宝武设备智能运维专业化平台公司,30 余年始终专注于钢铁行业设备技术服务,逐步打通检测、诊断、检修、制造等设备服务环节,形成系统解决方案服务模式,希望为用户提供稳定可靠、智能有效的设备运行保障。

随着工业物联网的迅速发展,面向钢铁领域设备的智能运维成为大数据、人工智能等先进技术重要的应用方向之一。钢铁产线设备大型化、复杂度高,设备之间相互耦合,现场问题定位和修复难度非常高。同时,钢铁设备通常处于连续运转状态,出现异常对于产线产能影响可观,实现设备的实时性、预防性维护对于保障产线效能、实现企业降本增效均十分重要。

为实现钢铁产线设备智能运维这一项相当挑战的复杂系统创新工程,宝武智维基于海量工业时序数据积累及其丰富的应用场景,自主构建具备低成本、大规模接入能力的设备远程智能运维平台,并于 2023 年全面融合国产时序数据库 IoTDB,作为该平台管理宝武全集团时序数据的核心组件。

通过 IoTDB,宝武智维得以“激活”时序数据价值,大幅提升宝武集团、基地侧智能化数据写入、存储、分析、传输性能,并为下游设备故障排查业务场景提供了坚实的数据支撑,形成了面向钢铁全流程,一个平台、一个专家系统、一套标准化体系的智能设备运维新模式。

2. 选型痛点

在全面接入 IoTDB 之前,宝武智维已经经过多年探索,并使用基于 Hadoop 的 HBase 和 OpenTSDB 作为钢铁设备的时序数据管理架构。业务初期,该架构应用效果较好,但随着更多数据量的接入,其慢慢成为了制约发展的底层瓶颈,主要体现在两个大方面:“慢”和“难”。

写入慢:常规情况下,旧版架构勉强能够达到写入性能要求,但后续业务的扩张伴随设备、数据量的激增,结合基地网络资源的有限性,写入性能逐渐捉襟见肘。如果碰到网络断线等异常场景,往往大量消息、数据出现堵塞,网络恢复后需要快速地进行消费,但旧版架构也无法支撑消费速度要求。

查询慢:宝武集团查询数据跨度可能以年为单位,并要求大跨度数据实现查询秒级响应,而在数据量增加后,旧版架构仅能实现 5-30 秒内返回,对于业务平台使用效果与实时监控设备状态的目的实现存在较大影响。

加工慢:数据写入存储后,需要使用聚合函数等方法实现多类数据加工,但基于旧版架构其速度非常有限,且很容易导致整体数据架构不稳定。

抽取慢、汇聚难:当进行集团-基地数据资产整合时,往往需要不断地将基地存储数据抽取至集团侧。旧版架构对于数据的实时传输支持不足,对持续的传输过程稳定性影响较大。

清理难:基于旧版架构的数据清理、删减主要依靠 TTL,过程复杂且灵活度较低。宝武集团实践时,曾出现磁盘将满情况下,定好的数据需要写程序进行导出,再导回系统的情况,数据运维工作十分繁琐。

备份难:庞大的数据体量下,基于旧版架构的策略化备份实现非常困难,基本无法备份,只能选择部署 3 节点集群以响应备份需求。

耗费大量成本获取的海量高价值数据,却变成了深不见底的数据黑洞。随着数据量不断增长,运行效率却无法提升,数据反而成为拖累,下游应用系统、团队的施展空间很低,无法将数据价值真正转化为业务价值。

因此,宝武智维的时序数据库选型标准可以概括为:

能够写入海量并发数据;

能够用更低成本存储全量数据、高频数据;

能够实时查询、分析数据,实现有效的数据清理与备份;

能够实现集团侧-基地侧数据实时同步、汇聚的易用方案。

3. 部署方案

2023 年开始,IoTDB 全面替换 OpenTSDB,成为宝武集团时序数据湖的数据底座。运用 IoTDB 为时序数据管理核心的宝武智维云平台,已部署至宝武集团全部生产基地,并逐步扩展至集团外,负责接入宝武全集团所有基地内的所有设备数据,并进行在线状态监测与设备智能运维业务。

目前,宝武智维云全面覆盖宝武集团 21 大生产基地,接入 27 个子平台、60 万以上设备、240 万以上数据项,总数据量超 5 PB。平台配置规则超 10 万条,已沉淀智能模型超 40 大类,平台用户数超 1 万。

从以 IoTDB 进行重构的全新架构来看,宝武超大规模分布式数据湖由 1 个 E4-IoTDB 集团数据湖和 N 个 E3-IoTDB 基地数据湖集群组成。多个 E3-IoTDB 基地数据湖负责存储管理该基地的设备数据,而宝武集团层的 E4-IoTDB 数据湖主要覆盖常态数据的降频存储和故障相关数据的原始频率存储。同时,集团层可以通过下发任务方式,从各个基地抽取所需数据并进行存储,用于模型训练及定制化数据任务。

宝武集团与基地之间的数据同步方式目前有两种。第 一种为通过 Pipe 使用 IoTDB 自研的时序数据标准文件格式 TsFile 进行有效传输,不需要数据的重新组织和重复写入,可实现数据端到端的直接使用。另一种为使用全贯通的 Kafka 数据总线进行数据上传,能够满足宝武各基地及集团的数据防火墙传输要求。

实现数据的高性能写入、存储,并打通数据抽取、传输链路后,宝武集团成功构建了 E4 集团数据湖与 E3 基地数据湖。集团数据湖包括一个主库、N 个功能库和一个备份库,功能库又包括故障特征库与 AI 训练库。故障特征库包括所有基地的设备故障特征,各基地一天几十条至几百条不等的故障事件所涉及到的相关数据均会上传并进行存储,方便集团集中分析故障趋势与原因。各基地数据湖则包括一个主库、一个功能库和一个备份库,功能库主要做为同步库使用。

使用 IoTDB 后,宝武集团时序数据管理效果提升非常明显,实现性能提升 1 个量级,存储成本大幅下降,运维手段丰富,数据资产汇聚,AI 模型训练加速等有效成果。

存储成本方面,通过实践,基于 IoTDB 可实现 10 倍数据压缩比,并能够用少量服务器存储集团规模数据。对于钢铁领域最重要的数据类型之一——信号数据的存储成本也得到大幅降低。

运维手段方面,相比旧版架构僵化、暴力的数据清洗处理方式,宝武集团成功基于 IoTDB 实现备份、清理的灵活策略化,能够积累丰富的指标、监测信息,帮助运维人员实现对设备状态的更好理解。

性能指标方面,IoTDB 写入速度可实现千万点/秒,可以长时间稳定写入高频数据;基地上报的秒级数据及边缘侧上报的毫秒级数据,一年数据量查询可实现秒级返回,并能够覆盖长达十年、数百万点的设备数据降采样分析,性能获得用户认可。同时,IoTDB 提供了丰富的聚合函数,有效拓宽宝武集团的数据加工场景,加速原始数据加工,并通过上述数据传输方案提升数据汇聚速度,方便数据真正形成模型,实现规模化运用。

与前文中的选型要求对照可见,IoTDB 在写入、存储、查询、分析、运维、汇聚等方向,均契合了宝武智维的时序数据库选型标准,从根源处解决了 OpenTSDB 与 HBase 架构的多个性能与功能实践痛点。

4. 应用场景举例

场景一:波形信号数据处理

钢铁行业中,设备实时上报的振动波形数据是最可靠的时序数据资产之一,能够有效反映设备的运行状态。宝武集团的振动波形数据一般分为两类,一类是通过 PLC、DCS 采集上报的工艺量数据,一类是通过加装大量传感器,如温振传感器采集上报的振动波形数据。各类传感器安装数量庞大,因此后一类数据的体量十分可观。

旧版架构中,以上两类数据基本通过对象存储方式存入 HBase,存储量占比在某些基地达到 1:20。一个基地的数据中,20 份为振动数据,1 份为工艺量数据,可见振动传感器上传的时序数据体量十分庞大,存储管理的成本,以及后续使用处理的难度可想而知。

引入 IoTDB 之后,参考 IoTDB 团队所在的天谋科技技术人员的建议,宝武智维不再将振动波形数据作为对象进行存储,而是直接将数据拆散之后,以纳秒级精度存储到 IoTDB,这样能够有效提升该类数据的存储压缩比,大幅降低其存储成本。同时,存储模式发生变化后,应用模式也随之发生变化。宝武智维可以直接在 IoTDB 层面对振动波形数据进行处理,为后续的数据加工工作提供了有力支撑。宝武智维表示该项改良是“非常颠覆性的设计”。

场景二:结合 AI 的创新应用

IoTDB 有效解决了数据的抽取、存储、处理、上传问题后,丰富的时序数据资产被彻底激活,宝武智维也就能够拓宽目前应用数据的模式与发展空间。其 AI 团队成功从“找数据”改变为“要数据”,能够发散更多有想象力的创新应用场景,面向多设备、长周期数据进行进一步归纳与分析。衍生场景包括但不限于:

通用数据集的自动构建、自动标签化:基于反馈(误报和漏报) 和闭环进行标签化。

同类故障的数据集的构建:故障记录和多源数据的匹配映射,基于故障记录和故障匹配的数据对故障类型、故障程度进行标签化。

同类设备的数据集的构建:同类设备数据的归并和映射,基于设备基准、设备参数信息,对同类、同部件同型号进行匹配和标签化。

振动信号的特征提取:时域信号分段特征的提取、长周期信号特征的提取、频域特征的提取。

趋势特征的提取:长周期数据特征的提取,月度或年度数据特征的提取;生产周期的划分,周期性生产过程特征的提取。

数据对齐和数据融合:工况数据的匹配,多源异构数据(时序、文本、人工输入数据)的匹配。

文本对象数据集的构建:文本数据信息的抽取、实体的匹配。

AI 平台与 IoTDB 的双向通讯:数据集映射、抽取至 AI 平台,实现存储处理与深度分析的一体化融合。

5. 未来展望

宝武智维计划未来在与 IoTDB 深度融合的更多方面进行研究,包括但不限于:

视图功能:切实结合业务需求,实现测点数据扁平化。围绕生产、质量、运维等不同角度,结合 IoTDB 自带的时序数据树状模型,运用视图功能组织、复用数据资产,从业务方向组织成不同视角的数据树状架构,进一步降低团队运维学习成本。

中台功能:基于 IoTDB 进行通用数据 API 与专用数据 API 的研发,形成数据资产管理,并在该数据中台之上进行 APP 轻量化,以及数据可视化的自主探索。

UDF 函数:目前,IoTDB 主要用于构建宝武智维平台中的数据存储、处理底座,未来希望针对振动波形、信号数据、长周期趋势分析等关键场景,通过研发 UDF 自定义函数并内嵌至数据湖中,替代原有的外挂 Python 程序调用,结合数据 API、AI 模型,全面提升宝武集团工业数据应用分析能力。

AINode:通过引入 IoTDB 内生支持的机器学习智能节点,替代原有的数据再抽取、单独外部训练模式,支持使用已有模型直接在 IoTDB 内部进行推理,针对钢铁领域数据预测、异常检测等方面进行预制模型训练和加载,达到无需导出数据,直接使用内置模型进行数据推理的目标,实现端到端的数据深度分析。

以数据为牵引,以平台化为手段,IoTDB 将继续与宝武智维深度合作,更好地串联产业链上下游数据资源,共建钢铁生态圈智能运维服务生态,让数据赋能钢铁产业价值。

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • GPTBots.ai携手EasyCraft,共拓AI智能体海外新市场

    GPTBots.ai携手EasyCraft,共拓AI智能体海外新市场近日,GPTBots.ai与EasyCraft宣布达成战略合作,旨在将AI智能体深度融入业务流程自动化、知识管理以及多平台协作之中,重新定义企业数字化转型的边界。作为一家领先的信息和业务自动化平台服务商,EasyCraft致力于为传统企业办公赋能创新,引领大数据及AI时代下的智慧办公新方式。我们期待在未来的日子里,共同开创更多的可能性,携手前进,共同推进企业数字化转型的进程。

  • 康佳集团深化数字生态布局 家庭场景大数据平台重塑智能家电体验

    康佳集团近期以数字技术为核心驱动,在智能家电、半导体及白电领域取得多项突破。旗下易平方公司打造的“家庭场景大数据应用服务平台”入选重庆市数字经济产业发展试点示范项目。在半导体技术商业化进程中,重庆康佳光电还实现关键突破:MicroLED红光芯片键合良率提升至98%,带动MiniLED直显屏单月出货量环比明显增长。其参与编制的《Mini/Micro LED显示屏Mura缺陷评价方�

  • 数巅科技首发企业级 Multi-Agent 框架 AskBot —— 探索企业数据领域的AGI初级形态

    继DeepSeek火遍全球后,以OpenAIDeepResearch与Manus为代表的深度推理与通用Agent框架再次引爆科技圈,展现了惊人的智能推理与执行能力。在企业级关键任务场景中,这类通用型架构的局限性日益凸显:企业内部信息整合不足导致复杂问题分析的准确性受限;依赖有限的工具难以满足各类场景的多样化需求;一味追求深入推理则往往使决策链冗长,难以满足实时响应的要求。企业胜于创新,创新源于融汇!

  • 不止春晚“秧Bot” 宇树科技新专利可演民族舞

    快科技4月18日消息,近日,宇树科技申请的一种机器人和机器人控制方法”专利公布。据天眼查披露的专利摘要显示,宇树科技的新发明属于机器人设备技术领域,该专利可用于大规模人形机器人舞蹈表演,特别是可以进行民族舞表演。该专利机器人包括机器人本体和旋转表演件,机器人的本体上设有用于装配旋转表演件的手臂和用于抛动表演道具的抛出电机,旋转表演件装�

  • 亿信华辰chatBI归因分析:5分钟穿透数据迷雾,驱动企业决策智能

    亿信华辰推出ChatBI工具的归因分析功能,通过"数据世界的CT扫描仪"定位,5分钟穿透数据迷雾,精准定位业务问题。该功能采用智能归因四步法:全局扫描锁定异常、根因挖掘量化因素、决策推演模拟ROI、生成优化方案。已应用于销售分析、营销优化、用户洞察等场景,某零售企业通过该功能一周内降低用户流失率20%,销售额环比回升18%。该技术突破传统BI局限,实现从数据呈现到决策支持的跨越,助力企业效率提升3倍以上,推动数据驱动决策进入新阶段。

  • Aloudata Agent公测开启:NoETL+大模型=好数据驱动真智能,让“万数皆可问”

    4月22日,Aloudata大应科技推出自研的Aloudata Agent,这是一款基于NoETL明细语义层的分析决策智能体,旨在通过自然语言实现数据查询、归因诊断、报告生成等功能。该产品解决了企业数据分析面临的五大挑战:语义鸿沟、口径一致性、场景覆盖度、性能优化和数据权限管控。Aloudata Agent采用NL2MQL2SQL技术路径,通过指标语义层实现业务语言与数据语言的精准对齐,显著提升查询准�

  • 微柏软件智慧梁厂助力基建行业智能建造

    当前,交通基础设施建设正以前所未有的速度迈向智能与高效的数字化新阶段。微柏软件始终致力于为工程建设提供信息化支持,持续推进数字新技术的应用,时至今日已成为基建工程建设管理信息化领域的核心供应商。在智慧梁厂生产管控系统的研发与应用方面,微柏软件凭借深厚的技术实力与不懈的创新精神持续迭代升级,为多个重大交通基础设施项目的建设与发展注入�

  • 微柏软件智慧梁厂助力基建行业智能建造

    当前,交通基础设施建设正以前所未有的速度迈向智能与高效的数字化新阶段。微柏软件始终致力于为工程建设提供信息化支持,持续推进数字新技术的应用,时至今日已成为基建工程建设管理信息化领域的核心供应商。在智慧梁厂生产管控系统的研发与应用方面,微柏软件凭借深厚的技术实力与不懈的创新精神持续迭代升级,为多个重大交通基础设施项目的建设与发展注入�

  • 格之格新服务:以数字化服务助力政府智能采购“加速度”

    4 月 9 日- 11 日,由中国政府采购报主办的“阳光采购引领未来——构建市场化法治化国际化政府采购营商环境”研讨交流会在广西南宁举行。来自中央有关部门、各级政府采购中心、行业协会及企业等相关负责人及专家参会。知名办公打印品牌格之格受邀出席,并在会上分享了其推动智能采购的创新实践。作为办公打印行业的领先品牌,格之格以质优类全的产品、贴心高效的�

  • AI革新了电子商务营销:认识AID Lab的PhotoG

    在当今快速发展的消费格局中,全球生活方式市场前所未有地蓬勃发展。在Z时代重视个性化体验的消费者的推动下,从家居装饰到日常必需品的行业正在经历前所未有的繁荣。通过提高创意效率和实现卓越的消费者体验,PhotoG有望重新定义技术、设计和商业之间的交叉点。