MicrosoftがローカルAI実行環境「Foundry Local」を正式リリース — クラウド不要でAIが動く時代へ

ひとことで言うと、自分のパソコンの上でAIモデルを動かせるツールだよ。クラウドに接続しなくても、チャットAIや音声認識がローカルで使えるんだ。

厳密には同じモデルではなくて、MicrosoftのPhi-4などオープンソースのLLMを使うんだ。でも仕組みは同じで、テキスト生成や質問応答ができるよ。しかもトークンごとの課金が発生しないのが大きいね。

Foundry Localは内部でONNX Runtimeを使っていて、GPU・CPU・NPUを自動で切り替えてくれるんだ。もちろんGPUがあれば速いけど、CPUだけでも動くよ。Windows・Mac・Linuxの3プラットフォームに対応しているのもポイントだね。

基本的には開発者向けのツールで、Python・JavaScript・C#・RustのSDKが用意されているよ。たとえばデスクトップアプリにAI機能を組み込んだり、オフラインでも動く業務ツールを作ったりするのに使うイメージだね。

大きく3つあるよ。まずプライバシー。データが外部に送信されないから、医療や金融など機密データを扱う場面で安心だよね。次にコスト。API課金が不要だから、大量にAIを使うほど安くなる。最後にレイテンシ。ネットワークを経由しないから応答が速いんだ。

そうだね。さらにFoundry Localはアプリのインストーラーにバンドルできるほどコンパクトに作られているんだ。つまり、ユーザーが特別な設定をしなくても、アプリを入れるだけでAI機能が使える。これは開発者にとってかなり画期的だよ。

クラウドAIがなくなるわけではなくて、使い分けの時代になると思うよ。高度な推論や最新の大規模モデルはクラウド、プライバシー重視やオフライン対応はローカル、という棲み分けだね。Microsoftも今後、リアルタイム音声文字起こしやRAG対応など機能拡張を予定しているから、ローカルAIの選択肢はどんどん広がっていくよ。

そのとおり。AIを使うのに毎回インターネット接続が必要、という常識が変わり始めているんだ。自分のマシンでAIが動く世界は、もうすぐそこまで来ているよ。