PCA（主成分分析） とは？

データの項目数、つまり次元を減らすためによく使う方法だよ。Principal Component Analysisの略で、主成分分析というんだ。データのばらつきが大きい方向を新しい軸にして、その軸に沿った値で表すよ。

各項目の平均を引いて中心をそろえ、最も分散が大きい方向を第1主成分にするんだ。第2主成分は第1と直交する方向のうち、分散が最も大きい方向になるよ。このように主成分の軸を作り、上位のいくつかだけ残せば次元を減らせるんだ。

2項目を散布図にしたとき、点が斜めに細長く広がっていれば、その長い方向の位置1つで大まかな違いを表せるよ。細長い帯の幅にあたる違いは失われるんだ。単に2つの軸を別の2つの軸に変えるだけなら、まだ次元削減にはならないよ。

PCAが残しやすいのは分散が大きい方向で、目的にとっての重要性とは別だよ。例えば分類したいラベルを使って軸を決める方法ではないので、よく残せたからといって予測精度が高いとは限らないんだ。残した分散の割合と、実際の用途での評価を分けて考えよう。

項目の単位や尺度が違うと、大きな数値のばらつきを持つ項目が軸に強く影響することがあるよ。各項目の分散をそろえる標準化は有用だけれど、必須とは限らないんだ。小さなノイズも相対的に強めることがあるので、項目の意味や目的に合わせて選ぼう。

元の項目の組み合わせなので、係数を見て意味を考えられる場合はあるよ。ただし軸が自動で体力や学力のような意味になるわけではないんだ。PCAは直線的な方向で表す方法なので、曲がった形の構造を少ない軸できれいに残せない場合もあるよ。