【ぼるつまんましん】

ボルツマンマシン とは?

最終更新:
💡 熱力学の知恵を借りた、確率で考えるニューラルネット

確率的に動作するニューラルネットワークの一種で、エネルギー関数に基づいてデータの確率分布を学習する。ディープラーニングの歴史的基盤の一つ。

📌 このページのポイント
結合を制限するRBM 一般のモデル隠れノード可視ノード(データ)同じ層も結べる制限版(RBM)隠れノード可視ノード(データ)層の間だけを結ぶ線は対称的な重みを持つ結合低いエネルギーの状態ほど出やすい
丸はノード、線は結合の例。RBMでは同じ層の中をつながない。
ひよこ ひよこ
ボルツマンマシンって、物理学の機械なの?
ペンギン先生 ペンギン先生
物理学の考え方を取り入れたニューラルネットワークだよ。ノードの状態の組み合わせに「エネルギー」という数値を割り当て、どの組み合わせがどれくらい出やすいかを表すんだ。
ひよこ ひよこ
エネルギーって電力のこと?
ペンギン先生 ペンギン先生
ここではネットワークの状態を評価する数値で、消費電力ではないよ。同じモデルではエネルギーが低い状態ほど高い確率を持つ。ただし、いつも一番低い状態だけが出るわけではなく、状態を確率的に更新するんだ。
ひよこ ひよこ
何を学習するの?
ペンギン先生 ペンギン先生
結合の重みなどを調整して、学習データの出やすさに近い確率分布を作るよ。たとえば画像の画素を可視ノードで表し、観測しない隠れノードを使って、データに含まれる関係を表現できるんだ。
ひよこ ひよこ
制限ボルツマンマシンは何を制限するの?
ペンギン先生 ペンギン先生
RBMでは可視層と隠れ層の間にだけ結合を置き、同じ層の中はつながないよ。一般のボルツマンマシンではそうした結合も持てる。制限することで、一方の層の状態からもう一方の層を更新する計算を扱いやすくするんだ。
ひよこ ひよこ
ディープラーニングとの関係は?
ペンギン先生 ペンギン先生
2006年にHinton、Osindero、Tehが発表したディープビリーフネットワークの学習法では、RBMを使って層を順に学習したよ。深いネットワークの学習を進めた研究の一つだね。今のすべてのニューラルネットワークがRBMを使う、という意味ではないよ。
ペンギン
まとめ:ざっくりこれだけ覚えればOK!
「ボルツマンマシン」って出てきたら「状態の出やすさをエネルギーで表す確率モデル」と思えばだいたいOK!
📖 おまけ:英語の意味
「Boltzmann Machine」 = ボルツマン機械
💬 統計力学のボルツマン分布を使うモデルで、名称は物理学者ルートヴィヒ・ボルツマンに由来するよ。

参考資料

← 用語集にもどる