【データひんしつ】

データ品質(Data Quality) とは?

最終更新:
💡 データが使う目的にどれだけ合っているかという質

データが利用する目的にどれだけ適しているかを表す質。正確性、必要な値がそろっているか、必要な時に使えるかなどを評価する。どの観点を重視するかは、データの用途や利用者によって変わる。

📌 このページのポイント
データ品質:目的に合うかを評価 評価する観点の例 正確性 事実と合う 完全性 必要な値がある 一貫性 矛盾がない 適時性 必要な時に使える 有効性 形式・範囲が合う 一意性 重複しない 目的に合わせて、重視する観点を決める
6つの観点は評価の例。用途に合わせて重視するものを決める。欠損がなく形式が正しくても、記録した値が事実と合っているとは限らない。
ひよこ ひよこ
データが合っているかどうか、ということ?
ペンギン先生 ペンギン先生
正確性は大事だけれど、それだけではないよ。必要な値がそろう完全性、矛盾のない一貫性、必要な時に使える適時性、形式や範囲に合う有効性、重複のない一意性なども観点になる。この6つは評価の例で、用途に合わせて重視するものを決めるんだ。
ひよこ ひよこ
最新のデータなら品質が高い?
ペンギン先生 ペンギン先生
必要な時に使えることが大切だよ。毎日更新が必要なデータもあれば、変わらない事実を記録するデータもある。また、最新で欠損がなくても、記録した値が事実と違うことはある。鮮度や完全性だけで正確性まで保証されるわけではないんだ。
ひよこ ひよこ
どうやってチェックするの?
ペンギン先生 ペンギン先生
例えばIDの重複、必要な列の欠損、値が許容範囲内か、別の表と対応するかを調べるよ。許容する欠損率などの基準は、そのデータの用途に合わせて決めよう。数値が急に変わった場合も、誤りとは限らないので原因を調べるんだ。
ひよこ ひよこ
dbtのテストも品質確認に使える?
ペンギン先生 ペンギン先生
使えるよ。dbtには一意性、欠損、許容値、表同士の関係を調べるテストがあり、SQLで独自の条件も書ける。dbt testでテストだけを実行することもできるよ。ただし、指定した条件を満たすことと、現実の事実に合うことは別なので、必要な確認を組み合わせよう。
ひよこ ひよこ
改善はどこから始めればいい?
ペンギン先生 ペンギン先生
まず用途と利用者、必要な基準を決めて、現状を測ろう。例えば重複で売上を二重に数えてしまうなら、分析結果にも影響する。値を直すだけでなく、どこで問題が生じたかと対応する担当者を確認し、その後も必要な頻度で測って改善するんだ。
ペンギン
まとめ:ざっくりこれだけ覚えればOK!
「データ品質(Data Quality)」って出てきたら「データが使う目的にどれだけ合っているかという質」と思えばだいたいOK!
📖 おまけ:英語の意味
「Data Quality」 = データの品質・質
💬 Qualityは質という意味だよ。データを何に使うかによって、必要な正確さやタイミングが変わる。すべての用途を一つの点数だけで評価するのではなく、目的に合うかを考えるんだ。

参考資料

← 用語集にもどる