数据治理方法论与相关面试题

本文探讨了数据治理的关键方面,包括元数据管理的业务元数据、技术元数据和操作元数据,强调元数据在数据治理中的基础作用。此外,文章提到了数据质量和数据安全的重要性,描述了数据缺失、业务异常和工程异常的监控方法,并提及Apache Atlas和Apache Griffin在数据治理中的应用。最后,数据安全方面讨论了数据权限控制和数据脱敏策略,以及系统可用性的保障。

在前几年大数据发展的初期,各个公司都在风风火火地搞平台,搞数仓,接入各种数据,在那个阶段注重的是数据的存储和计算,慢慢地一年一年的数据积累下来,数据量大了之后人们开始关注质量的问题,这也是数据治理这个词这几年变得非常火的原因,平台那一套东西已经很成熟了,基本上即插即用,能满足大部分不太刁钻的需求了。所以,现在各个企业都会把保证平台的稳定,保证数据的高质量放在第一位,毕竟用于指导决策的数据是不容许出现大错误的,所以数据治理也就成了数仓建设非常重要的一个环节。

本篇面试内容划重点:元数据管理、数据质量、数据安全。

 

元数据管理

元数据即数据的数据,数据仓库的特点是数据种类多、数量大,相应的元数据也有很多,如果没有一个集中管理元数据的地方,在使用上会非常不便。元数据可以说是数据治理的基础,基于元数据我们还可以做很多的相关应用,比如血缘分析、数据资产地图、数据质量管理等等。

元数据分为业务元数据、技术元数据和操作元数据,三者之间关系紧密。业务元数据指导技术元数据,技术元数据以业务元数据为参考进行设计,操作元数据为两者的管理提供支撑。

业务元数据

业务元数据是定义和业务相关数据的信息,用于辅助定位、理解及访问业务信息。业务元数据的范围主要包括

  • 指标名称、计算口径、业务术语解释、衍生指标等
  • 业务规则引擎的规则、数据质量检测规则、数据挖掘算法等
  • 数据的安全或敏感级别等

技术元数据

它可以分成结构性技术元数据和关联性技术元数据。结构性技术元数据提供了在信息技术的基础架构中对数据的说明,如数据的存放位置、数据的存储类型等;关联性技术元数

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

老蒙大数据

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值