【ユニファイドメモリ】

ユニファイドメモリ とは?

最終更新:
💡 CPUとGPUから、同じデータを扱えるように
📌 このページのポイント
物理的な共有と、CUDAの機能メモリが別々の例物理メモリを共有CPUGPUCPUGPURAMVRAM共有メモリコピーで受け渡し同じデータを利用CUDA Unified MemoryCPU/GPUから管理対象メモリを扱う移動・アクセスの仕組みは構成で異なる上の線は、使うメモリとの関係
右上はApple siliconなどの共有構成のイメージです。CUDAでは物理メモリの場所やデータの移動などが構成によって異なります。
ひよこ ひよこ
ユニファイドメモリって、特別な部品?
ペンギン先生 ペンギン先生
部品の名前というより、CPUとGPUなどから同じデータを扱うための仕組みを指すよ。Apple siliconのメモリ構成の話でも、CUDAのプログラミング機能の話でも、この言葉が出てくるんだ。
ひよこ ひよこ
Macの説明ではどんな意味なの?
ペンギン先生 ペンギン先生
Apple siliconのユニファイドメモリでは、CPUやGPUなどが一つの物理メモリのプールを共有するよ。別々のメモリへ同じデータをコピーする手間を減らせる。CPUの回路とメモリが同じ半導体の一枚にある、という意味ではないんだ。
ひよこ ひよこ
CUDAのUnified Memoryも同じ?
ペンギン先生 ペンギン先生
CUDAでは、管理対象のメモリ領域をCPU上とGPU上のコードから使えるようにする機能だよ。別々の物理メモリの間でデータを移動させる構成もあれば、ハードウェアの仕組みを使ってアクセスできる構成もある。OSやGPU、接続方式によって挙動が違うんだ。
ひよこ ひよこ
共有なら、コピーが全部なくなる?
ペンギン先生 ペンギン先生
すべての処理でなくなるとは限らないよ。Appleの共有構成では別のプールへのコピーを減らせるし、CUDAでは自分でコピーを書く手間を減らせる場合がある。ただしCUDAの内部で移動が起きる場合もあるので、名前だけで転送ゼロとは判断しないでね。
ひよこ ひよこ
じゃあ普通より必ず速い?
ペンギン先生 ペンギン先生
必ずではないよ。容量や帯域、アクセスする場所や処理の内容が影響する。便利な使い方と性能は分けて考え、実際に動かす処理で確かめよう。資料ではAppleの共有構成かCUDAの機能かを区別して読むと理解しやすいね。
もっと詳しく知りたい人へ

CUDAなら、いつもCPUとGPUのメモリ間でデータが移動するの?

いつも同じ挙動ではありません。ソフトウェアによる整合性の管理やページの移動を使う構成もあれば、ハードウェアの整合性や接続機能を使う構成もあります。CUDAの公式資料では、OS・GPU・CPUとの接続方式やデバイス属性で対応の違いを確認するよう説明しています。

物理メモリの共有と、仮想アドレスが共通なことは同じ?

同じではありません。物理メモリを共有するのは、実際の記憶領域を共に利用することです。仮想アドレスが共通でも、物理メモリは分かれていることがあります。CUDAのUnified Virtual Address Spaceと、CPU/GPUから管理対象メモリへアクセスするUnified Memoryの機能も区別します。

ペンギン
まとめ:ざっくりこれだけ覚えればOK!
「ユニファイドメモリ」って出てきたら「CPUとGPUから同じメモリ領域を扱える仕組み」と思えばだいたいOK!
📖 おまけ:英語の意味
「Unified Memory」 = 統合されたメモリ
💬 Unifiedは「統合された」。Appleのハードウェア構成とCUDAの機能では仕組みが異なるので、どちらの文脈かも確認しよう。

参考資料

← 用語集にもどる