中国Moonshot AIが「世界最大のオープンソースAI」を公開 — Kimi K3の2.8兆パラメーターが変えるAI競争の常識
この記事は時点のニュースです。現在の提供状況とは異なる場合があります。誤りの訂正は随時行います。
2.8兆個のパラメーターって、どれくらい大きいの?
2.8兆全部を一度に動かすって、すごく重そうだよね?
そこが賢いところで、「Mixture of Experts」という仕組みを使っているんだ。896個の専門家チームの中から毎回16個だけを選んで動かすから、実際に使う計算量はずっと小さくて済むんだよ。
専門家を選んで使うって、どういうイメージなの?
料理に例えると、「フランス語に翻訳して」と頼まれたら語学の専門チームが、「コードを書いて」と頼まれたらプログラミングの専門チームが起動する感じだよ。タスクに合わせて最適な部分だけが動くから、巨大なモデルでも効率よく処理できるんだ。
自分のサーバーで動かすと何が良いの?
オープンソースで世界最大の規模、しかも性能もトップクラス…普通の人でも使えるの?