【ひみつけいさんえーあい】

秘密計算AI(Confidential AI) とは?

最終更新:
💡 AIが計算している最中のデータも、保護領域で守る

Confidential ComputingをAIに適用し、学習や推論で使用中のデータやモデルを保護する取り組み。TEE(信頼できる実行環境)で処理を隔離する方式では、その保護領域の内側で復号して計算する。

📌 このページのポイント
AIの処理中も、保護領域で守る 入力 暗号化 データ TEEの保護領域 内側で復号 AIの学習・推論 出力も暗号化して送る 利用前に 実行環境を 検証する 準同型暗号の「復号せず演算」とは別の方式
TEEを用いる構成例。保護範囲は構成に依存し、利用者へ渡す出力やログにも配慮が必要です。
ひよこ ひよこ
AIに渡す機密データはどう守るの?
ペンギン先生 ペンギン先生
Confidential AIでは、保存中や通信中に加えて、AIが使っている最中のデータやモデルも保護するよ。代表的なのが、ハードウェアで隔離されたTEEの中で学習や推論を行う方式なんだ。
ひよこ ひよこ
暗号化したまま計算するの?
ペンギン先生 ペンギン先生
TEEを使う方式では、保護領域の内側で復号して処理するよ。外側のソフトウェアなどから、その中のデータを読まれないようにする仕組みなんだ。暗号文に対して復号せず演算する準同型暗号とは区別しよう。
ひよこ ひよこ
どういう場面で使われるの?
ペンギン先生 ペンギン先生
機密データを使ったモデルの学習や、秘密の質問を送る推論などだよ。利用者の入力だけでなく、提供者のモデルの重みを保護したい場合にも使われるんだ。
ひよこ ひよこ
クラウドでも使えるの?
ペンギン先生 ペンギン先生
対応するCPUやGPUなどを使うサービスで利用できるよ。ただし、適切な構成が前提。アテステーションという仕組みで実行環境の証拠を検証し、条件を満たした環境へデータや鍵を渡すことが大切なんだ。
ひよこ ひよこ
速さや安全性はどれも同じ?
ペンギン先生 ペンギン先生
違うよ。性能への影響はハードウェアや処理内容などによるし、保護される範囲も構成で変わる。TEEの外へ出す回答やログに秘密が含まれないか、アプリのアクセス制御が適切かも確認する必要があるんだ。
ひよこ ひよこ
連合学習とはどう違うの?
ペンギン先生 ペンギン先生
連合学習は、各参加者が手元のデータで学習し、更新情報を集める方式だよ。Confidential AIは実行中の処理の保護に注目する。たとえば更新情報を集約する処理をTEEで守るように、組み合わせることもできるんだ。
ペンギン
まとめ:ざっくりこれだけ覚えればOK!
「秘密計算AI(Confidential AI)」って出てきたら「AIの処理中のデータやモデルを保護する仕組み」と思えばだいたいOK!
📖 おまけ:英語の意味
「Confidential AI」 = 機密性を保護するAI
💬 Confidentialは「機密の」という意味。このページの日本語名だけから、必ず暗号文のまま計算すると考えないようにしよう。

参考資料

← 用語集にもどる