数据治理
进阶预计进阶 2-3 个月星团 数据
岗位需求
0 核心 · 1 加分
在职岗位将其列为技能要求
核心岗位薪资带
—
核心要求岗位的月薪区间
需求趋势
上升 0稳定 0收缩 0
核心要求岗位的趋势分布
面试题库
高频真题 · 参考答案随题展开1. 数据治理的核心领域有哪些?
常按 DAMA 车轮图展开:元数据管理(数据目录、技术业务血缘、术语表,回答数据在哪、谁负责、什么含义);数据质量(完整性、准确性、一致性、及时性、唯一性、有效性的度量、校验与整改闭环);主数据与参考数据管理(客户、商品、组织等核心实体的唯一可信源与编码标准);数据安全与合规(分类分级、脱敏加密、访问控制、审计留存,对接个保法与数安法);数据生命周期(从产生、存储、归档到销毁的策略与成本控制);数据标准(命名、建模、编码规范)与数据架构治理。落地抓手是组织与机制:数据 Owner 与管家体系、治理委员会、需求与变更流程、考核指标(质量分、目录覆盖率、血缘完整度)。答题先列领域再强调「治理是人与流程加平台」,只买工具不落机制必失败。
2. 元数据管理平台要解决什么问题?
痛点是数据规模爆炸后「找数难、懂数难、信任难」:分析师找不到字段在哪张表、同名不同义与同义不同名泛滥、口径来路不明、上线变更不知道影响谁。元数据平台做三件事:采集——自动抽取技术元数据(表、列、任务、BI 报表、API)与运行时统计(行数、产出时间、负责人),对接调度与消息系统补齐血缘;组织——统一目录与搜索引擎(按业务域、标签、Owner 浏览)、业务术语表把指标定义与技术字段挂钩、血缘图谱支撑影响分析(改这张表会影响哪些下游任务与报表)与故障根因定位;治理——数据资产分类分级打标、质量与 SLA 状态展示、弃用下线流程。产品如 DataHub、OpenMetadata、Atlas,核心能力对比看元数据模型扩展性、采集器生态与 API。能讲找数、懂数、影响分析三个场景即完整。
3. 数据质量如何度量与整改?
先定维度再定指标:完整性(非空率、行数达标)、准确性(与源或权威系统比对差值)、一致性(跨系统同名指标一致)、及时性(按时产出率、SLA 达标)、唯一性(主键重复率)、有效性(枚举域、格式、值域)。落地闭环四步:规则化——用 Great Expectations、dbt test、Soda 把规则写成代码纳入管道,版本化管理;监控——随任务执行断言,质量看板聚合各域质量分;处置——分级响应,阻断(硬门禁不达标停发下游)、告警(软警告人工确认)、隔离(脏数据进隔离区不污染主表);整改——问题登记、根因分析(上游源变更、任务逻辑、流程漏配)、修复与回刷、规则库沉淀防复发。关键理念是质量左移(需求与建模阶段定好规则)与把质量指标纳入团队考核。答出六维度加闭环四步即优秀。
4. 数据血缘如何采集与应用?
血缘描述数据从哪来、经过什么加工、到哪去的图谱,粒度分表级与列级。采集途径:静态解析——SQL 解析(ANTLR 或语法树库)抽任务里的输入输出表与列引用、dbt manifest 与调度系统(Airflow 的 dag 与 task 依赖)API、ETL 工具自带的依赖;运行时捕获——引擎级 hook(Spark Listener、Flink lineage 接口)与查询日志解析,准确度高但有侵入;前端消费侧——BI 工具(Tableau、Superset)API 补报表级血缘。难点:动态 SQL 与临时表、跨系统拼接(调度时间与任务版本对齐)、列级推导(select 星号与函数透传)。应用场景:变更影响分析(改表前列出下游几百个任务与报表并通知)、故障排障(数据错了反查上游哪个任务最近变更)、下线评估(没人消费才敢删)、合规审计(敏感字段流向追踪)。能讲采集三途径与三大应用即完整。
5. 数据分类分级与安全合规如何落地?
依据数据安全法与个人信息保护法的思路落地。分类:按业务属性分域(用户、交易、经营),分级按敏感与影响程度(如公开、内部、敏感、机密;个人信息单列),编制分类分级清单与识别规则(正则与关键词识别身份证、手机号、银行卡,NLP 辅助)。技术措施:存储安全——静态加密、密钥管理;使用安全——动态脱敏(按角色在查询网关或数仓策略层脱敏)、静态脱敏进测试环境、最小权限与行级列级权限(Ranger、MaxCompute policy)、水印溯源防截图外泄;流转安全——导出审批、API 网关管控、跨域共享走协议与加密通道。流程机制:隐私合规评审(新表新字段过分级)、出境与第三方共享评估、留痕审计与定期复核、应急响应预案。答出「分类分级是基座,技术与流程双轮」并给脱敏与权限实例即佳。
官方文档
2 条元数据与血缘管理平台,数据治理基础设施参考
领先的开源元数据平台文档,图谱化元数据模型
推荐教程
1 条数据质量断言框架教程,把校验做成可版本化测试
推荐课程
0 条待共建——资源由编辑部持续遴选补充。
上手实践
1 条官方源码与快速体验环境,动手搭建元数据底座
难度档决定星等与难度分权重(入门 1 / 进阶 2 / 精通 3);学习资源由编辑部遴选并持续维护, 经验心得欢迎在上方「知识分享」区署名分享。

