【データひんしつ】
データ品質(Data Quality) とは?
最終更新:
💡 データが使う目的にどれだけ合っているかという質
データが利用する目的にどれだけ適しているかを表す質。正確性、必要な値がそろっているか、必要な時に使えるかなどを評価する。どの観点を重視するかは、データの用途や利用者によって変わる。
📌 このページのポイント
- データ品質そのものと、品質を管理・改善する取り組みを区別する
- 正確性、完全性、適時性などは評価する観点の例
- 欠損がなく形式も正しくても、事実と合っているとは限らない
- 用途に合う基準で測り、原因を調べて継続的に改善する
データが合っているかどうか、ということ?
正確性は大事だけれど、それだけではないよ。必要な値がそろう完全性、矛盾のない一貫性、必要な時に使える適時性、形式や範囲に合う有効性、重複のない一意性なども観点になる。この6つは評価の例で、用途に合わせて重視するものを決めるんだ。
最新のデータなら品質が高い?
必要な時に使えることが大切だよ。毎日更新が必要なデータもあれば、変わらない事実を記録するデータもある。また、最新で欠損がなくても、記録した値が事実と違うことはある。鮮度や完全性だけで正確性まで保証されるわけではないんだ。
どうやってチェックするの?
例えばIDの重複、必要な列の欠損、値が許容範囲内か、別の表と対応するかを調べるよ。許容する欠損率などの基準は、そのデータの用途に合わせて決めよう。数値が急に変わった場合も、誤りとは限らないので原因を調べるんだ。
dbtのテストも品質確認に使える?
改善はどこから始めればいい?
まず用途と利用者、必要な基準を決めて、現状を測ろう。例えば重複で売上を二重に数えてしまうなら、分析結果にも影響する。値を直すだけでなく、どこで問題が生じたかと対応する担当者を確認し、その後も必要な頻度で測って改善するんだ。
まとめ:ざっくりこれだけ覚えればOK!
「データ品質(Data Quality)」って出てきたら「データが使う目的にどれだけ合っているかという質」と思えばだいたいOK!
📖 おまけ:英語の意味
「Data Quality」 = データの品質・質
💬 Qualityは質という意味だよ。データを何に使うかによって、必要な正確さやタイミングが変わる。すべての用途を一つの点数だけで評価するのではなく、目的に合うかを考えるんだ。