【あんさんぶるがくしゅう】

アンサンブル学習 とは?

最終更新:
💡 複数の予測を組み合わせ、よりよい答えを狙う

複数の機械学習モデルの予測を組み合わせる方法の総称。多数決・平均、バギング、ブースティング、スタッキングの違いと、組み合わせの効果や運用コストを確認する考え方を説明します。

📌 このページのポイント
アンサンブル:複数の予測をまとめる同じ写真を分類するモデルA予測:猫モデルB予測:犬モデルC予測:猫多数決の結果:猫猫が正解かは、別に確かめる
多数決による分類の説明用の例。ほかに平均やまとめ方を学ぶ方式もあり、組み合わせれば必ず正解になるわけではありません。
ひよこ ひよこ
アンサンブル学習は、モデル同士の多数決?
ペンギン先生 ペンギン先生
それも一つの方法だよ。例えば分類で3つのモデルが「猫・犬・猫」と予測したら、多数決は「猫」になる。回帰で数値の平均を取ったり、分類の確率をまとめたりする方法もあるんだ。
ひよこ ひよこ
バギングとブースティングも、この仲間?
ペンギン先生 ペンギン先生
そうだよ。バギングはデータを選び直して複数のモデルを学習し、予測をまとめる。ブースティングは前の予測で足りない部分を補うように、モデルを順に加える考え方だよ。どちらが良いかは、使う手法やデータで変わるんだ。
ひよこ ひよこ
スタッキングって何?
ペンギン先生 ペンギン先生
複数のモデルの予測を入力にして、それらを組み合わせる別のモデルを学習する方法だよ。多数決のように決まったルールでまとめる方法と、まとめ方自体を学ぶ方法を分けると理解しやすいね。
ひよこ ひよこ
精度が高いモデルを集めれば、必ず良くなる?
ペンギン先生 ペンギン先生
似た間違いばかりなら、組み合わせても改善が小さいことがあるよ。学習に使わないデータで確かめることが大切。モデルが増えるとメモリや計算量、運用の手間も増えるので、精度だけでなく予測にかかる時間も測ろう。時間が単純に台数倍になるとは限らないんだ。
ペンギン
まとめ:ざっくりこれだけ覚えればOK!
「アンサンブル学習」って出てきたら「複数のモデルの予測を組み合わせる方法」と思えばだいたいOK!
📖 おまけ:英語の意味
「Ensemble learning」 = 複数のモデルを組み合わせる学習
💬 Ensembleには、まとまりや合奏という意味があります。複数の楽器を合わせるように、複数のモデルを組み合わせるイメージです。

参考資料

← 用語集にもどる