Kimi K3 のセルフホスティングは、2026年7月27日に Moonshot AI が 2.8兆パラメータモデルの重みを本番向け推論サポートとともに公開したことで、技術的に可能になりました。多くの組織はそのニュースを読み、これでフロンティア級の推論を自社ハードウェアで動かし、トークン単位の支払いをやめられると結論づけました。 その結論はたいてい間違っていますが、多くの人が思う理由によってではありません。エンジニアリングは達成可能です。大半のプロジェクトを打ち負かすのは計算のほうであり、しかも予算承認から数か月後に静かに打ち負かします。 端的な答え: MXFP4 精度では、2.8兆パラメータはキーバリュー...
Kimi K3
Moonshot AI のオープンウェイト 2.8兆パラメータ推論モデル Kimi K3 に関するガイド、ベンチマーク、API 利用とセルフホスティングの実装メモ。
Kimi K3 API は珍しい組み合わせを携えて登場しました。フロンティア級に迫るベンチマーク結果、攻めた価格設定、そしてダウンロード可能な重みです。Moonshot AI は 2026年7月27日にその重みを公開し、これにより K3 はこれまでに公開された中で最大のオープンモデルとなり、この規模のモデルを原理的に自前で動かせる初めての事例となりました。 すでにフロンティア系プロバイダーに料金を支払っている人にとって、これは哲学的な問いではなく実務的な問いを突きつけます。このモデルは自社スタックに居場所があるのか、そしてトラフィックの一部を移したとき実際に何が変わるのか。本記事ではコスト計算、統合作業、そして公開された数値が本番環...