【はいぱーぱらめーた】
ハイパーパラメータ とは？
最終更新:
💡 AIの学習方針を決める「調理のレシピ設定」
モデルの学習方法や構成を調整する設定値。学習で得られる重みなどとは区別され、学習率・バッチサイズ・層の数などがある。
📌 このページのポイント
ひよこ 普通のパラメータと何が違うの？
ペンギン先生 ニューラルネットワークの重みやバイアスは、学習データを使って更新されるパラメータだよ。ハイパーパラメータは学習率や層の数など、学習方法や構成を調整する設定。人が選ぶことも、探索プログラムが候補を選ぶこともあるんだ。
ひよこ 学習率って何？
ペンギン先生 重みを更新するときの変化の大きさを調整する値だよ。大きすぎると学習が不安定になり、小さすぎると進み方が遅くなることがある。適した値はモデルやデータ、最適化手法によって変わるよ。
ひよこ よい設定はどう見つけるの？
ペンギン先生 ひよこ 設定を変えれば必ず精度が上がる？
ペンギン先生 必ずではないよ。学習の安定性、予測性能、計算時間などに影響するので、目的に合わせて比較する。訓練データでの成績だけを見ると、未知のデータへの性能を見誤ることもあるね。
ひよこ 自動探索なら、人が決めることはない？
ペンギン先生 自動で候補を選べても、探索する設定と範囲、評価指標、試行回数や計算予算などは決める必要があるよ。何をよい設定とするかを明確にして、その条件で得た結果を評価しよう。
まとめ：ざっくりこれだけ覚えればOK！
「ハイパーパラメータ」って出てきたら「モデルの学習方法や構成を調整する設定値」と思えばだいたいOK！
📖 おまけ：英語の意味
「Hyperparameter」 ＝ 超パラメータ
💬 「Hyper（上位の・超）」+「Parameter（パラメータ）」。モデルのパラメータを制御する上位のパラメータという意味だよ