【デルタレイク】
Delta Lake(デルタレイク) とは?
最終更新:
💡 データレイクのテーブルの変更を管理
データレイク上のテーブルに、トランザクションやスキーマ管理、過去の状態を読む機能などを提供するオープンソースの技術。データファイルと変更を管理するログを組み合わせる。
📌 このページのポイント
普通のファイル置き場と何が違うの?
ログには全部のデータが入っているの?
過去の状態は、いつでも読める?
タイムトラベルには、その版を再現できるログとデータファイルの両方が必要だよ。古いログの整理やVACUUMで必要なファイルがなくなれば読めなくなる。全履歴が無期限に残る監査帳や、バックアップの代わりと考えないようにしよう
スキーマ検査があれば、不正なデータは全部防げる?
Icebergとの互換性もあるの?
📖 おまけ:英語の意味
「Delta Lake」 = デルタレイク
💬 データレイク上のテーブルに変更管理などを加える技術名だよ。データファイルだけでなく、テーブルの状態を管理する情報も扱うんだ