机の上にAIサーバー！？ リコー×CTCが超小型オンプレミスAIを発売

いい質問だね。普通、AIを動かすサーバーって大きなラックに入ってサーバールームに置くものなんだけど、今回のはデスクの横に置ける超小型サイズなんだ。しかも270億パラメータのLLMが最初からインストールされてるから、届いたらすぐにAIが使えるんだよ。

ChatGPTの最新モデルは数千億〜数兆パラメータと言われているから、規模では小さいね。でも270億パラメータでも、社内の問い合わせ対応や文書の要約、議事録の作成なんかには十分な性能があるんだ。大事なのは「何に使うか」で、すべての用途に巨大モデルが必要なわけじゃないんだよ。

そこがこの製品の最大のポイントだね。クラウドのAIサービスを使うと、データがインターネットを通じて外部に送られるよね。でも企業には「社外に出せないデータ」がたくさんあるんだ。顧客情報、特許関連の資料、医療データ…こういう機密データをAIで処理したいときに、オンプレミス ―― つまり自社内で完結できるAIサーバーが重要になるんだよ。

DifyはオープンソースのAIアプリ開発プラットフォームだよ。プログラミングの知識がなくても、ドラッグ＆ドロップのような操作でAIを使ったアプリやチャットボットが作れるんだ。たとえば「社内マニュアルを読み込ませて質問に答えるボット」なんかを、エンジニアじゃなくても作れるようになるんだよ。

そういうこと。最近は「市民開発」って呼ばれていて、IT部門じゃない人がノーコードツールで業務アプリを作る動きが広がっているんだ。Difyがプリインストールされていることで、AIの市民開発がさらにハードルが下がるわけだね。

実は今回のサーバーは「デスクサイドに置ける超小型」っていうのがミソなんだ。大きなサーバールームがなくても導入できるし、専任のインフラエンジニアがいなくてもセットアップ済みで届くから、中小企業でも導入しやすい設計になっているんだよ。価格帯にもよるけど、クラウドのAIサービスを毎月払い続けるよりコスト面で有利になるケースもあるんだ。

それはオンプレミスの課題の一つだね。自分でモデルを更新する必要があるし、ハードウェアの性能以上のモデルには載せ替えられない。だから実際には「機密データの処理はオンプレミス、それ以外はクラウド」というハイブリッドな使い分けが現実的なんだ。

そのとおり。今回のニュースが面白いのは、「AIを使うにはクラウドが必須」という常識が変わりつつあるってことなんだ。手元にAIがある時代が、いよいよ現実になってきたんだよ。企業のデータ主権を守りながらAIを活用する流れは、今後ますます加速するだろうね。