【にゅーらるえんじん】

Neural Engine とは?

公開:
💡 Appleのチップで、機械学習の計算を受け持つ係

Neural Engineは、Appleのチップに搭載される機械学習向けの演算エンジン。対応するモデルの推論を端末内で効率よく処理するために使われ、CPUやGPUと役割を分担します。

📌 このページのポイント
AIの計算を、得意な回路へ振り分ける Core MLなどの仕組みCPUGPUNeuralEngineモデルや処理に応じて分担
Appleの端末内で計算を分担するイメージ。AI処理がすべてNeural Engineだけで動くとは限りません。
ひよこ ひよこ
ペンギン先生、Neural EngineがあるとAIが使えるの?
ペンギン先生 ペンギン先生
対応する機械学習の計算を端末内で効率よく処理するためのエンジンだよ。CPUやGPUとは別の役割を持ち、Appleの対応するチップに組み込まれているんだ。
ひよこ ひよこ
じゃあ、AIの計算は全部ここに任せる?
ペンギン先生 ペンギン先生
全部ではないよ。Core MLは、機種やモデルに合わせてCPU・GPU・Neural Engineを組み合わせる。処理の一部だけがNeural Engineで動くこともあるんだ。
ひよこ ひよこ
Neural Engineが多ければ、どんなAIも同じ倍率で速くなる?
ペンギン先生 ペンギン先生
性能はモデルの計算内容やデータの形、メモリの扱いにも左右されるよ。チップの演算性能の数字だけで、アプリ全体の速さや特定のAIの実行時間は決まらないんだ。
ひよこ ひよこ
クラウドのAIを使うときにも動くの?
ペンギン先生 ペンギン先生
サーバーに任せる推論は、そのサーバー側で計算されるよ。Neural Engineが助けるのは端末側で実行する対応処理なんだ。端末内とクラウドのどこで計算するかを分けて考えよう。
もっと詳しく知りたい人へ

GPU内のNeural Acceleratorsと同じもの?

AppleがGPUに組み込むニューラルアクセラレータと、Neural Engineは別の演算資源です。製品の性能説明ではどちらの処理を比較しているかを確認し、一方の仕様からもう一方の速度を推定しないようにします。

ペンギン
まとめ:ざっくりこれだけ覚えればOK!
「Neural Engine」って出てきたら「Appleのチップで機械学習の推論を助ける専用エンジン」と思えばだいたいOK!
📖 おまけ:英語の意味
「Apple Neural Engine」 = Appleのニューラルネットワーク向け演算エンジン
💬 Neuralは神経に由来し、ニューラルネットワークの計算を意識した名前だよ。Appleの製品名で、すべてのメーカーのNPUをこう呼ぶわけではないんだ。

参考資料

← 用語集にもどる