【ぼるつまんましん】
ボルツマンマシン とは?
最終更新:
💡 熱力学の知恵を借りた、確率で考えるニューラルネット
確率的に動作するニューラルネットワークの一種で、エネルギー関数に基づいてデータの確率分布を学習する。ディープラーニングの歴史的基盤の一つ。
📌 このページのポイント
ボルツマンマシンって、物理学の機械なの?
物理学の考え方を取り入れたニューラルネットワークだよ。ノードの状態の組み合わせに「エネルギー」という数値を割り当て、どの組み合わせがどれくらい出やすいかを表すんだ。
エネルギーって電力のこと?
ここではネットワークの状態を評価する数値で、消費電力ではないよ。同じモデルではエネルギーが低い状態ほど高い確率を持つ。ただし、いつも一番低い状態だけが出るわけではなく、状態を確率的に更新するんだ。
何を学習するの?
結合の重みなどを調整して、学習データの出やすさに近い確率分布を作るよ。たとえば画像の画素を可視ノードで表し、観測しない隠れノードを使って、データに含まれる関係を表現できるんだ。
制限ボルツマンマシンは何を制限するの?
ディープラーニングとの関係は?
2006年にHinton、Osindero、Tehが発表したディープビリーフネットワークの学習法では、RBMを使って層を順に学習したよ。深いネットワークの学習を進めた研究の一つだね。今のすべてのニューラルネットワークがRBMを使う、という意味ではないよ。
まとめ:ざっくりこれだけ覚えればOK!
「ボルツマンマシン」って出てきたら「状態の出やすさをエネルギーで表す確率モデル」と思えばだいたいOK!
📖 おまけ:英語の意味
「Boltzmann Machine」 = ボルツマン機械
💬 統計力学のボルツマン分布を使うモデルで、名称は物理学者ルートヴィヒ・ボルツマンに由来するよ。