为什么要在大数据中心实施元数据管理

在数据管理领域,我们一直致力于让数据为我们提供价值,为此我们付出大量的努力和投入。

在过去二十年,各大企业都在着手搭建数据仓库。当我们费尽艰辛搭建好数据仓库并成功用于线上运行时,发现我们将花费更多时间为数据科学家、分析师做数据准备。分析他们的数据需求,提供闪闪发光的数据报表。这将占用数据维护人员 80% 的时间投入,这个投入是偏高的,包含如沟通、反查、校正等大量重复和不必要投入。

如何提升数据管理能力?

我们需要回到这 80% 的投入,想尽一切办法压缩它们,这样才能更快的提供数据服务。这时有种工具呈现出了优势,那就是“元数据”。

元数据,通常的定义为“描述数据的数据”。更准确一点说:元数据是描述流程、信息和对象的数据。这些描述涉及技术属性特征(例如,结构和行为)、业务定义(包括字典和分类法)以及操作特征(如活动指标和使用历史)。

我们用“元数据”去攻击这“80%”。将元数据做集中式管理,梳理元数据树,翻译、标注、补充元数据内容。方便使用者查找数据、理解数据、追踪溯源以及规范专业知识。降低数据准备期间沟通、反查、校正等大量重复和不必要投入,这样我们就可以留下更多的时间进行数据分析,不仅节省大量资金投入,还赚取更多的利润。

以电信运营商为例,通过各个时期的 IT 建设,公司有计费系统、网络系统、OA 系统、财会系统和客服系统等等。随着公司数据仓库项目建设完成,各系统核心业务数据都汇总到了大数据中心。本以为会大幅提升 IT 系统的“智能性”,没想到基层的反应是根本用不起来。很多问题都来源于:缺乏针对数据的指导,业务逻辑把控不准确,各部门指标不统一,导致数据准备的成本较高。

继续以电信运营商为例,对于运营商的“当日用户数”这个指标,各个部门给出的定义并不一样:

在营业部每周例会上,各个部门对“当日用户数”争吵的面红耳赤,担负着业务压力的业务人员很可能谁也说服不了对方来接受自己的数字,不得不要求数据维护人员额外投入工作量去解析差异根源,校准报表数据。

这个问题按照元数据技术的术语来讲,就是在业务元数据上,大家对于业务的认识并不统一。这种问题会造成大量的时间成本浪费:

元数据管理平台的建设就是为了避免出现这样的问题。建设元数据管理平台可以:

实现对技术元数据抽取、汇集、梳理,注释相关库表、列信息。支持查看完整数据链路和关联图谱。

梳理业务元数据,将相关的指标、流程在平台中建立起来,固化并传播企业专业知识。

将业务元数据同技术元数据联系起来,联通业务与技术,给业务管理人员和技术维护人员提供更详尽的指导。

就上文的举例来看,就可以在元数据管理平台上维护“当日用户数”等易混淆指标,规范其数据来源,将其同技术库表元数据关联起来并作详尽的注释。报表建设以元数据管理平台维护的业务知识为基准,这样报表数据有章可循、有理有据,消弭不必要的争吵,各部门专心分析报表数据,充分利用数据价值。

显而易见,元数据管理平台梳理企业资产、规范专业知识。推动元数据管理可以显著降低数据准备成本:

元数据管理是基础

元数据管理可以梳理企业资产,规范专业知识,降低数据准备期间沟通、反查、校正等大量重复和不必要投入,辅助提升数据分析效率,是数据管理的基础。

如果你进行的数据处理越复杂,作为支撑的数据就需要更好。如果你同时兼顾了这两件事,才能让更多的人直接使用数据并为自己服务。很多时候我们往往“本末倒置”,碰到问题仅仅关注要如何解决,而忽略基础的准备,不仅增加复杂度和重复工作量,还会花费大量的沟通、理解的成本。

额外的,元数据管理作为底层基础,能使我们在后续进行集成操作,如处理云;在混合环境中做数据集成;在重复环境中做大数据时,获取巨大的优势。事实上,将数据更快的交付给企业才是重点。

综上,为了更快的数据分析和支撑业务,IT 中心的能力至关重要,因为它就是“80%”投入的来源。那么什么使一个成功的IT中心变得更加卓越。

元数据管理

东软 SaCa MetadataManagement 元数据管理平台软件,致力于集中式元数据管理解决方案。广泛适配主流数据库、ETL 工具、BI 工具等。支持智能语义检索,提供数据剖析、全方位关联分析、度量可调的血缘/影响分析、元数据质量自动分析等功能。

相比于同类产品,东软 SaCa MetadataManagement 元数据管理平台软件具备如下优势:

相关产品

2019-11-14T16:09:29+00:00