Kimi K3の実行に1億円超サーバーは必要なのか

判定：高額クラスタは現実的な一例だが、公式必須条件ではない

公式に確認できるモデル仕様

Hugging Faceでは96個のsafetensorsへ分割され、リポジトリ全体が1.56TBと表示されています。MXFP4は公式の量子化対応学習による重みです。「2.8兆パラメータならFP16で5.6TB」という単純計算を、そのまま公開版の容量に使うのは誤りです。

H200 12基は重みが収まる下限に近い計算

この表は141GB×台数の概算です。実際にはGPUごとの分割効率、予約領域、通信方式、コンテキスト長、バッチ、画像入力、ランタイムで利用可能量が変わります。12基で必ず起動する、16基なら100万トークンを実用速度で処理できるという保証ではありません。

1億～2億円は「モデル価格」ではなくシステム見積もり

GPU本体以外に、CPU、数TB級RAM、NVMe、InfiniBandまたはNVLink系の接続、シャーシ、電源、冷却、設置、保守が必要です。完成品サーバーとGPU単体調達、国内代理店と海外クラウド、保守契約の有無で金額は大きく変わります。

Moonshot AIの公式資料は「1億～2億円」や「H200 12～16基」を最低要件として示していません。1.56TBをGPUへ置き、実用速度と余裕を持たせる構成から報道側が推定した値と読むのが安全です。

104B活性でも、104Bモデル用GPUだけでは足りない

MoEでは計算に使う専門家をトークンごとに絞るため、演算量は総2.8Tの密モデルより小さくなります。しかし、どの専門家が選ばれるかは入力で変わります。全896エキスパートの重みをGPU、CPU RAM、NVMeなどのどこかへ配置し、必要時に高速アクセスしなければなりません。

CPU・NVMeへのオフロードでGPU数を減らすことは可能でも、転送がボトルネックになりやすく、対話速度や同時処理性能が落ちます。

購入前に選べる現実的な経路

1. 公式API：kimi-k3を選び、品質とトークン量を測る。
2. 認定推論事業者：自前で1.56TBを配布・保守せず利用する。
3. 時間貸しGPU：公式ウェイトの再現評価や改変を期間限定で行う。
4. コミュニティ量子化：容量を減らす代わりに精度、機能、速度を再測定する。
5. 小型モデル：業務要件に2.8Tが本当に必要か比較する。

自由に使えるが、独自の商用条件がある

Kimi K3 Licenseは利用・改変・配布を広く認めます。ただし、年間売上2000万ドル超のMaaS事業者は別契約が必要です。月間1億人超または月間売上2000万ドル超の商用製品・サービスには「Kimi K3」の表示条件があります。内部利用と公式・認定パートナー経由には例外があります。

したがって「ウェイトをダウンロードできるから、どの規模でも無条件に商用API化できる」とは言えません。

関連ページ

確認した公式資料

• Moonshot AI：Kimi K3公式リポジトリ
• Hugging Face：moonshotai/Kimi-K3
• Kimi K3 Technical Report（arXiv）
• Kimi K3 License