潜在空間（Latent Space） とは？

データを内部の数値で表す「特徴の地図」と考えてみよう。例えばオートエンコーダーは、画像などの入力をエンコーダーで内部の表現へ変換する。地図の点はその表現だけれど、人間が分かる意味の名前が全てに付くわけではないよ。

入力より少ない次元へ圧縮するモデルはあるけれど、それだけではないよ。入力と同じ次元や、それより大きな内部表現を使うオートエンコーダーもある。何を学ばせるか、どう制約するかも大切なんだ。

モデルが学んだ特徴に沿って近くなることはあるけれど、必ず猫は猫、犬は犬ときれいに分かれる保証はないよ。学習データや目的によって、背景など別の特徴が表現されることもある。「近いから人間にも同じ意味」と決めつけないでね。

VAEなどでは、潜在変数を選び、デコーダーで画像へ変換できるよ。VAEのエンコーダーは分布のパラメーターを求め、そこから潜在変数をサンプリングする。元の画像を完全に戻す保証や、任意の点から望みどおりの画像が出る保証ではないんだ。

図は理解用に2次元へ単純化した例だよ。実際にはもっと多くの次元を持つことがあるし、各軸が「猫らしさ」など一つの意味に対応するとは限らない。図の距離や分類だけから、実際のモデルの性能を判断しないでね。