数据质量
数据质量用于为数据集配置质量规则、执行检查并查看检查结果。规则可在数据集的「数据质量」页签中管理;开启自动检查后,数据集每次构建完成都会执行相应规则。也可以手动运行规则,检查当前数据。
配置数据质量规则
在项目的「数据」模块中打开目标数据集,进入「数据质量」页签。
进入数据集的数据质量页面
进入后默认显示「当前状态」看板。尚未创建规则时,页面显示空状态,可点击【创建规则】开始配置。
数据质量当前状态看板
在规则编辑页面填写规则名称,选择规则类型和目标数据列,并根据业务要求设置检查范围。以“列值均处于指定范围内”为例,可分别设置最小值、警告下限、警告上限和最大值:低于最小值或高于最大值时检查不通过;低于警告下限或高于警告上限时触发警告。阈值需根据字段的业务含义设定。
开启【每次构建数据集后自动执行该规则】,让规则在后续每次构建完成后自动检查。配置完成后,点击【运行测试】验证规则,再点击【保存】。
配置规则范围并运行测试
运行规则并查看结果
规则保存后,返回数据质量的「当前状态」页签。首次配置完成后,点击【运行全部规则】,对当前数据执行检查;也可以在规则列表中单独运行某条规则。
运行全部规则
运行完成后,页面会汇总规则总数以及通过、警告、不通过和未运行的数量,并在规则列表中显示各规则的运行状态、执行方式和运行时间。检查状态反映当前数据与已配置规则的符合情况,具体结果会随数据和规则阈值变化。
查看数据质量规则运行结果
在运行中心查看项目数据质量
完成当前数据的规则检查后,可从顶部【运行中心】进入【数据质量】。运行中心按项目汇总数据集的质量状态,并提供数据集列表,便于查看各数据集的状态、规则数量、最近运行时间及运行入口。概览数值取决于当前项目中的数据集和规则运行记录。
从运行中心进入数据质量
运行中心的数据质量概览
数据更新后重新构建与自动检查
当数据库在后续日期更新后,返回「流程」,选中需要更新的数据集节点并点击【构建】,重新运行整个流程,使更新后的数据进入目标数据集。
在流程中重新构建数据集
如果规则已开启自动检查,构建完成后会自动触发这些规则,对构建生成的数据进行检查。之后可在数据集的「数据质量」页签查看检查状态,也可在「运行中心」的【数据质量】页面查看项目汇总及数据集最近的运行状态。未开启自动检查的规则不会随构建自动执行,可在数据质量页面手动运行。
查看运行历史
在数据集的「数据质量」页面中,可切换【时间线】或【历史记录】查看不同时点的规则运行状态和记录,用于对比数据更新前后的检查结果。
查看数据质量运行历史
提取不合格行
对于逐条校验规则,可在规则运行列表的对应行点击【提取不合格行】,提取未通过该规则校验的数据行。聚合校验检查的是聚合后的结果,不对应具体数据行,因此不支持提取不合格行。
提取逐条校验规则的不合格行
也可以在「流程」中选中目标数据集,在右侧「通用方法」中选择【提取不合格行】。该方法用于逐条校验规则;聚合校验规则不能用于提取不合格行。
流程中的提取不合格行方法
