【らんだむさーち】
ランダムサーチ とは?
💡 全部試すより、サイコロを振った方が早いことがある
📌 このページのポイント
ランダムサーチって、ただの当てずっぽうなの?
一見そう見えるけど、理論的な根拠があるんだよ。ハイパーパラメータの中には精度への影響が大きいものと小さいものがあって、ランダムに選ぶと重要な軸を高確率でカバーできるんだ。
グリッドサーチと何が違うの?
ランダムだから毎回結果が変わるんだね!
そうだよ。だから乱数シードを固定して再現性を確保するのが大切だね。scikit-learnのRandomizedSearchCVでは`random_state`を指定するのがベストプラクティスだよ。
ベイズ最適化の方が賢そうなのに、なんでランダムサーチも使われるの?
実装が圧倒的にシンプルで並列実行しやすいのが強みだよ。ベイズ最適化は次に試す点を逐次的に決めるからスケールしにくい場面もあるんだ。まず素早く試したいときや、次元数が多いときにはランダムサーチが現実的な選択になるよ。
まとめ:ざっくりこれだけ覚えればOK!
「ランダムサーチ」って出てきたら「ランダムにハイパーパラメータを試して良い組み合わせを探す手法」と思えればだいたいOK!
📖 おまけ:英語の意味
「Random Search」 = ランダム探索
💬 「ランダム(無作為)」に探索空間を「サーチ(探索)」するシンプルな名前だよ。2012年のBergstraらの論文で、グリッドサーチより効率的だと示されて注目を集めたんだ