【かいきぶんせき】

回帰分析 とは?

最終更新:
💡 ばらつくデータの関係を、式で表して考える方法

回帰分析は、説明に使う変数と数値の関係をモデルで表し、関係の分析や予測に使う手法です。回帰直線・誤差の見方、予測の限界、因果関係との違いを説明します。

📌 このページのポイント
点のばらつきを、モデルで考える架空の広告費と売上の例売上広告費(万円)024612345差=残差実測値モデルの予測関係があることと、原因であることは別
架空のデータで、直線は売上=0.9×広告費+1.3(万円)。点と直線の差が残差です。外れ値や範囲外の予測に注意し、因果関係はこの図だけでは判断できません。
ひよこ ひよこ
回帰分析は未来を当てる方法?
ペンギン先生 ペンギン先生
関係をモデルで表し、分析や予測に使う方法だよ。たとえば広告費と売上のデータの傾向を調べる。ただし、季節や価格など別の要因もあるので、広告費を増やせば必ずその分売れると断定するものではないんだ。
ひよこ ひよこ
線形回帰なら、いつも直線?
ペンギン先生 ペンギン先生
説明変数が一つの単純な線形回帰なら、予測値を直線で表せるよ。「線形」は厳密には係数に対して線形という意味なので、xの二乗などを使う多項式回帰も線形モデルに含められる。入力との形が直線かどうかだけでは決まらないんだ。
ひよこ ひよこ
点が直線からずれていてよいの?
ペンギン先生 ペンギン先生
実測値にはばらつきがあるよ。実測値とモデルの予測値との差を残差と呼ぶ。最小二乗法は、この差の二乗の合計を小さくするように係数を求める方法だね。図の点と線は説明用の架空のデータだよ。
ひよこ ひよこ
精度はどう確かめる?
ペンギン先生 ペンギン先生
学習に使わなかったデータでも、実測値と予測値を比較しよう。MSEは誤差の二乗の平均、RMSEはその平方根で、予測対象と同じ単位になる。外れ値や、元のデータの範囲外の予測にも注意するんだ。
ひよこ ひよこ
変数を増やすほどよい?
ペンギン先生 ペンギン先生
必ずよくなるとは限らないよ。学習データに合わせすぎる過学習や、互いによく似た変数で係数が不安定になる多重共線性がある。必要な変数の選択や正則化、別のデータでの検証を考えよう。
ペンギン
まとめ:ざっくりこれだけ覚えればOK!
「回帰分析」って出てきたら「データの関係を式にして、数値を考える方法」と思えばだいたいOK!
📖 おまけ:英語の意味
「Regression Analysis」 = 回帰分析
💬 現在の統計では、ある変数とほかの変数との関係をモデルで分析する手法を指すよ。未来の値だけでなく、観測済みデータの関係を調べるときにも使うんだ。

参考資料

← 用語集にもどる