【せいやくつきぼるつまんましん】

制約付きボルツマンマシン(RBM) とは?

💡 見える世界と隠れた世界を2層だけでつなぐ、シンプルな学習マシン
📌 このページのポイント
制約付きボルツマンマシン(RBM)の構造 隠れ層 (Hidden) h₁ h₂ h₃ h₄ 層内結合 なし! 可視層 (Visible) v₁ v₂ v₃ v₄ v₅ 層間は全結合 / 同じ層内のノード同士はつながらない(=制約)
制約付きボルツマンマシンの2層構造
ひよこ ひよこ

ボルツマンマシンって名前がかっこいいけど、何が「制約付き」なの?

ペンギン先生 ペンギン先生

元のボルツマンマシンは全部のニューロンが互いにつながっていて計算がめちゃくちゃ大変だったんだ。それを「同じ層の中ではつながない」という制約を付けて扱いやすくしたのがRBMだよ

ひよこ ひよこ

可視層と隠れ層って何をしてるの?

ペンギン先生 ペンギン先生

可視層は入力データそのもの、たとえば画像のピクセル値が入る層だね。隠れ層はそのデータの裏にある特徴やパターンを表現する層で、2つの層の間だけで情報をやり取りするんだ

ひよこ ひよこ

今でも使われてるの?

ペンギン先生 ペンギン先生

正直、今はTransformerやVAEが主流だからRBMを直接使う場面は少ないね。でも2006年頃にヒントンがRBMを積み重ねてディープビリーフネットワークを作り、ディープラーニングブームの火付け役になった歴史的に重要なモデルだよ

ひよこ ひよこ

ディープラーニングの始まりに関わってたんだね!学習はどうやるの?

ペンギン先生 ペンギン先生

コントラスティブ・ダイバージェンス(CD法)という近似的な学習アルゴリズムを使うよ。厳密な計算は難しいけど、CDで実用的な速度で学習できるようになったんだ。この発想は後の生成モデル研究にも大きな影響を与えたんだよ

ペンギン
まとめ:ざっくりこれだけ覚えればOK!
制約付きボルツマンマシン」って出てきたら「同じ層同士はつながない2層構造の確率的ネットワーク」と思えればだいたいOK!
📖 おまけ:英語の意味
「Restricted Boltzmann Machine」 = 制約付きボルツマンマシン
💬 Restrictedは「制限された」という意味で、元のボルツマンマシンから層内結合を制限(除去)したことに由来するよ。ボルツマンは統計力学の物理学者ルートヴィヒ・ボルツマンの名前だよ
← 用語集にもどる