首页 > 传媒 > 关键词  > AI驱动数据治理最新资讯  > 正文

瓴羊Dataphin:AI驱动的数据治理——千里之行,始于标准

2025-01-20 14:54 · 稿源: 站长之家用户

作者: 周鑫 阿里云瓴羊智能科技高档技术专家

近年来,尽管 AI Agent 实现了爆发式增长,但许多企业仍面临 AI 应用与实际业务脱节的难题,其关键原因之一,在于数据质量不佳。根据Gartner的预测,2025 年中国至少三分之二的生成式人工智能项目,将由于数据质量差而面临“终结”。

AI时代,如何才能把握住数据治理机会,让数据真正为业务服务?

瓴羊「数据荟」数据Meet Up 第 3 站线上开讲,为大模型时代的数据治理创新实践献智献策。阿里云智能集团瓴羊高档技术专家周鑫围绕“AI驱动的数据治理”,从数据治理面临的难题出发,聚焦AI时代数据治理机会,剖析了瓴羊Dataphin在面对数据治理这一关键议题时的提效方案。

数据标准:数据治理“化零为整”的核心

从实施链路来看,数据治理为何如此困难?

“整个数据治理实施过程困难重重,主要体现在现状评估难、组织架构复杂、实施成本高,治理迭代难,造成比较大的原因是整个治理过程关注的点太多了,没有核心的抓手”,周鑫表示,大部分企业进行数据治理时,往往经历评估现状、制定目标、执行计划、持续监控四个步骤,每一项都需要大量的工作,导致治理动作非常零散。

这些零散的需求点,导致企业在实施阶段很容易偏离治理目标,缺少一个核心抓手。即使艰难地完成治理,后续迭代也非常困难,随着业务的变化,需要调整治理目标时,没有办法增量的迭代,又需要重头开始评估执行,已完成的治理项的变更影响也需要全量评估,使得治理成本变得非常高。

因此,问题的关键,是找到数据治理的核心抓手——数据标准。

近年来,国家频频颁布数据标准相关政策规范,从《“数据要素x”三年行动计划》到国家数据标准体系,再到全国数据标准化技术委员会,都印证了数据标准的重要位置。

“企业只需完成数据标准的梳理,即可完成大部分数据治理工作”,周鑫表示,以瓴羊Dataphin为例,企业完成业务与数据盘点后,统一进入到Data Catalog,在此基础上梳理数据标准。Dataphin在数据标准的建立过程中会自动生成元数据和内容的监控,数据标准会贯穿数据的整个生命周期,实现对数据的事前、事中和事后的标准落标稽核。

例如,在身份证号的标准设置中,系统会根据用户填写的标准属性,自动生成一系列元数据和内容监控,以及安全的分级。用户在治理过程中,只需关心那些没有满足标准的数据即可。这使数据标准的落标情况,成为衡量数据质量优劣的“晴雨表”,符合数据标准的数据越多,数据质量也就越好。

AI激活一池春水,数据治理的提效之道

AI时代奔迅而至,激活了数据治理的一池春水。在AI技术爆发式增长的当下,数据治理的机会在哪里?

周鑫认为,结合AI对数据治理提效的实现完整的主动数据治理,包括以下几点。

首先,通过AI能很好地理解结构化数据和非结构化的数据,自动化地进行业务梳理, 促进数据标准建设的效率。其次,在数据标准建设完成后,企业可借助AI实现自动治理:构建质量规则,实现分类分级和特征识别,管控数据整个生命周期。最后,数据治理动作完成后,AI还可自动评估治理效果,自动改进治理策略,形成数据治理良性内循环。

Dataphin解决方案:让“好数据”成就“好业务”

“我是电商业务负责人,今年大促目标是GMV提升20%,数据能帮我做什么?”

“我正在准备做运营外投,对于圈选母婴群,希望从数据上结合知识库,有什么建议?”

“我是产品运营,我想了解产品的销量指标定义是什么?”

……

在AI的助力下,以上数据资产应用问题,都可以通过对话的方式得到回应。

而承载这一功能的平台,便是智能小D。

“智能小D承担了数据PD与数据架构师的角色,它可以根据每一条策略,找到与之对应的数据资产表”,周鑫表示,智能小D基于Dataphin打造,由阿里云百炼平台和开源Dify提供支持,擅长数据知识的梳理和应用。未来,智能小D将进一步支持非结构化知识和智能体管理,用户还可通过挂载自定义智能体,实现智能体的个性化定义与功能拓展。

借助智能小D,用户可以直接基于业务需求找数据,如“我要找客户表”、“我要做客户分层,需要哪些表?”、“销量下降明显,可能的原因有哪些?”等,大模型将根据用户需求,通过分解、联想等方式,为其快速提供对应的数据资产表,让用户无需将需求拆解成资产的关键词,也能实现轻松找数。

除此之外,Dataphin还在属性丰富上引入了AI能力,简化了资产上架的流程。以往,一张表上架到目录,需要历经以下几个步骤:针对表及其所有字段,逐一描述其名称与含义;熟知上架目录,制定便于搜索的标签;若过程中发现表中的指标也需要上架,还需返回重新填写目录和标签。

“一套几百个字段下来,至少半小时才能将这张表完整地上架,我们引入AI能力后,把速度提高了近百倍”,周鑫表示,Dataphin可以帮用户智能生成所有描述,规划所有目录,自动识别潜在指标,待用户确认无误后,即可一键上架,几十秒即可完成所有资产上架工作。

在特征识别方面,Dataphin通过引入AI能力,降低了识别门槛,加快了识别速度。例如,在进行性别字段识别时,需要编写SQL能够识别的正则表达式,还需要探查多种数据的表达,例如:(男/女、Malel/Female、Sex/性别),很难一次性枚举种种条件。引入AI能力后,Dataphin即可以自动生成所有的正则表达式,几十秒内即可完成一次特征识别。

周鑫指出,目前Dataphin的数据治理AI计划正处于提效阶段。在这一阶段,Dataphin将进一步引入更多行业和业务知识,增强对非结构化数据的理解能力,并辅助生成质量规则。随着提效阶段的完成,数据治理将迈入自动化阶段,平台将实现质量规则的自动生成、分类分级的自动处理,以及敏感数据的自动识别等功能。最终,在更高阶的智能化阶段,Dataphin将基于对业务流程的深度理解,实现系统自动生成数据标准,全面提升数据治理的智能化水平。

知名的信息技术领域思想佼佼者J. Ladley 在其著作《数据治理》中宣称,数据治理的最终目标是让它不再是一个独立的计划,而是成为业务核心的一部分。未来,瓴羊旗下Dataphin将发挥自身在数据治理领域的深厚沉淀,致力于将数据治理融入业务环节,推动其从支撑性工具走向核心驱动力,以智能化手段赋能企业战略决策与创新实践。

推广

特别声明:以上内容(如有图片或视频亦包括在内)均为站长传媒平台用户上传并发布,本平台仅提供信息存储服务,对本页面内容所引致的错误、不确或遗漏,概不负任何法律责任,相关信息仅供参考。站长之家将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。任何单位或个人认为本页面内容可能涉嫌侵犯其知识产权或存在不实内容时,可及时向站长之家提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明(点击查看反馈联系地址)。本网站在收到上述法律文件后,将会依法依规核实信息,沟通删除相关内容或断开相关链接。

  • 相关推荐
  • 亿信华辰发布“AI+睿治”数据治理平台,开启智能治理新时代

    亿信华辰发布"AI+睿治"智能数据治理平台,标志着数据治理进入3.0智能时代。该平台融合大模型与知识图谱技术,以NLP和机器学习为核心,提供从数据标准管理到资产化的全流程智能化解决方案。平台通过三大技术突破:智能自动化降低60%人力投入、秒级实时响应异常、自适应迭代模型应对业务变化。六大核心功能覆盖数据治理全场景,包括多模态智能解析、元数据自动补齐、全流程质控等,实现数据处理效率提升3倍、人工成本降低50%、数据可用性达98%。已在制造业等多个行业头部企业落地应用,治理效率提升10倍,分析决策时效性提高40%。CEO毛大群表示,该平台将助力企业在数字化转型中抢占先机。

  • Aloudata Agent公测开启:NoETL+大模型=好数据驱动真智能,让“万数皆可问”

    4月22日,Aloudata大应科技推出自研的Aloudata Agent,这是一款基于NoETL明细语义层的分析决策智能体,旨在通过自然语言实现数据查询、归因诊断、报告生成等功能。该产品解决了企业数据分析面临的五大挑战:语义鸿沟、口径一致性、场景覆盖度、性能优化和数据权限管控。Aloudata Agent采用NL2MQL2SQL技术路径,通过指标语义层实现业务语言与数据语言的精准对齐,显著提升查询准�

  • Snapchat AI驱动AR滤镜惊艳亮相,谷歌/微美全息完善底层技术掘金AI眼镜蓝海

    公司正在推出其首款视频生成AI滤镜,可供开通高级订阅套餐SnapchatPlatinum的用户使用,目前该套餐月费为15.99美元。目前Snapchat已经发布了三款名为“浣熊”、“狐狸”和“春花”的AI滤镜,此外,后续还将会上线更多AI滤镜体验。

  • 能理解海豚声音!谷歌开发全新AI模型DolphinGemma

    快科技4月15日消息,谷歌公布了一款名为DolphinGemma”的大型语言模型,旨在帮助科学家理解海豚的声音,并生成类似海豚的声音序列。研究人员预计在未来几个月内测试DolphinGemma及其配套的Cetacean Hearing Augmentation Telemetry(CHAT)发声系统,以探索是否能够翻译并模仿海豚的声音,进而实现与海豚的某种对话”。海豚是地球上最聪明且最善于沟通的动物之一,其社交互动极其复杂�

  • GMSwap上线在即,Statter生态繁荣提速进行时

    在加密行业整体进入深度调整期、全球市场不确定性持续上升的背景下,Statter依然展现出非凡的战略定力与建设节奏,持续推进生态升级。近日,Statter 官方重磅宣布:生态内去中心化交易所(DEX)——GMSwap 即将重磅上线,并全面接入Statter Network!这一标志性事件不仅意味着 Statter 生态在底层基础设施建设上迈出坚实一步,更预示着整个生态系统即将进入一个全新的加速发展�

  • 说个抽象的事,你现在可以在秘塔AI搜索上课了。

    给我整不会了。周末我本来在用秘塔AI搜关税的问题,特朗普一天一个说法,又说关税要结束了。然后,意外的发现,秘塔上了一个非常有意思的功能。“今天学点啥”。。。说实话,在进入到这个页面的瞬间,我以为我跳到不知道哪去了,直到看到秘塔左上角的logo还在,我才确定,这是他们的新功能。它的功能大概就是,把一份文件或者一个链接,变成一个像是B站UP专门为�

  • 在这5份财报AI被提及近百次

    阿里、腾讯、有赞、微盟、快手相继发布2024全年财报。在这几份财报里,AI及相关表述被提及近百次。阿里表示未来三年新投资方向将围绕AI战略为核心,在AI和云计算的基础设施建设、AI基础模型平台以及AI原生应用、现有业务的AI转型升级这三大领域加大投资力度。

  • 刚刚,OpenAI开源PaperBench,重塑顶级AI Agent评测

    今天凌晨1点,OpenAI开源了一个全新的AIAgent评测基准——PaperBench。这个基准主要考核智能体的搜索、整合、执行等能力,需要对2024年国际机器学习大会上顶尖论文的复现,包括对论文内容的理解、代码编写以及实验执行等方面的能力。目前智能体的能力还无法超越人类。

  • 清明假期广西高速启用AI治理拥堵 无人机精准喊话

    清明假期前夕,广西交通投资集团计算中心路网先知”智慧交通大模型全面启航,以预测调度处置”全链路数字化管理为核心,公众出行体验迈入智慧新时代。相较于传统的人力巡查模式,今年清明出行保障实现了跨越式升级。本次清明假期系统运行所积累的宝贵数据,将成为后续五一”假期及更多重大节点出行保障的重要决策支撑,为公众假期出行保驾护航。

  • 那个利用 AI 通过亚马逊、Meta面试的大学生,被学校开除了!

    哥伦比亚大学的学生罗伊・李称,他在开发了一款AI工具后被学校停学了——这款工具曾帮助他通过了Meta、亚马逊和TikTok严苛的技术面试。李在3月26日领英上的一篇帖子中写道:“我因为抵制Leetcode面试被哥伦比亚大学开除了。承担这么大的风险,把我的心理承受能力逼到了极限,但我很高兴自己这么做了。