ローカルでモデルを動かしている人にとって、今週の Kimi K3 のウェイト公開は判断が要る話になる。2.8兆パラメータ、ダウンロードサイズ約594GB、実験用途でも H100 80GB が4〜8枚。公開日は2026年7月27日。「オープンウェイトだから手元で動く」という前提が、この規模では成立しない。
目次
公開されるものの規模
Moonshot AI が公開する Kimi K3 の主な数字を並べる。MoE(Mixture-of-Experts)構成で、パラメータ総数は大きいが1トークンあたりに使われるのは一部だけという設計だ。
| 項目 | 値 |
|---|---|
| 総パラメータ | 2.8兆(MoE・896エキスパート、1トークンあたり16個が有効) |
| 1回の推論で動く量 | およそ500億パラメータ相当 |
| ダウンロードサイズ | 約594GB(形式の表記は報道により BF16 とも MXFP4 とも異なる。配布ページで要確認) |
| ライセンス | Modified MIT の見込み(条文が重み公開と同時に出ていないため確認が前提) |
| コンテキスト | 100万トークン |
| その他 | ネイティブに画像入力へ対応 |
| 最低ハードウェア要注意 | H100 80GB × 4〜8枚(実験用途の目安) |
「1回の推論で動くのは500億パラメータ相当」という点は誤解を招きやすい。推論時に動く量が少なくても、重みは全部メモリに載っている必要がある。どのエキスパートが選ばれるかは入力ごとに変わるので、使わないぶんだけ置いておかない、という運用はできない。
594GB を自分の環境に置くということ
筆者はローカルモデルを E: ドライブに一元管理している。同じモデルをプロジェクトごとにコピーすると、あっという間にディスクが埋まるからだ。環境変数とジャンクションで保存先を1箇所へ寄せて、実体は常に1つだけ持つ形にしてある。
その運用をしている前提で言うと、594GB は「置ける」けれど「気軽には置けない」サイズだ。手元の回線で落とすのに何時間かかるか、途中で切れたら再開できるか、置いた後にバックアップ対象から外すのか。動かす前の段取りだけで一仕事になる。
量子化すれば軽くなる、という期待はある。コミュニティ製の Q4 量子化が出れば300〜400GB程度まで落ちる見込みだ。落ちても、RTX 4090 や Mac Studio といった個人向けの機材には載らない。量子化は「入る/入らない」の線を越えさせてくれないのが今回の規模感になる。
落とす前に決めておくこと
594GB を落とす作業自体にも段取りがいる。筆者が過去に大きなモデルを移したときは、コピーして終わりにせず、実測で検証してから元を消し、読み取りまで確認する手順を踏んだ。数百GB規模は、失敗したときのやり直しが重い。
具体的には、置き場所(プロジェクト内に置かず一元管理の場所へ)、再開可能なダウンロード手段、バックアップ対象からの除外設定。この3つを先に決めておく。特に最後は忘れやすく、クラウド同期の対象フォルダに置いてしまうと、同期が延々と走り続けることになる。
自前ホストとAPIの分岐点は稼働時間で決まる
「オープンウェイトだから安い」は、GPUを自分で用意する費用を無視した話になる。買うか借りるかで性質が変わるので、借りる場合の考え方を書く。
計算式はこれだけだ。
自前ホストの月額 = GPU1枚の時間単価 × 枚数 × 1日の稼働時間 × 稼働日数
例(前提: 1枚 $2.5/h と仮定・8枚構成)
24時間×30日 常時起動 : 2.5 × 8 × 24 × 30 = $14,400/月
1日2時間だけ起動 : 2.5 × 8 × 2 × 30 = $1,200/月
1日30分だけ起動 : 2.5 × 8 × 0.5 × 30 = $300/月
単価は契約先と時期で動くので、実際の見積もりでは自分の契約価格に置き換えてほしい。ここで見たいのは費用が何で決まるかの構造だ。自前ホストの請求額は、起動していた時間だけで決まる。その間にリクエストを1件も投げなくても同じ額になる。
ここが個人開発者にとっていちばん危ない箇所になる。試したい日は月に数回でも、GPU を落とし忘れれば常時起動と同じ請求が来る。筆者は自動停止の設定を入れないまま検証環境を借りることはしない。落とし忘れは必ず起きる前提で組む。
API は逆で、投げたトークン量だけ払う。両者を並べると分岐点はこうなる。
| 使い方 | 向いている形 | 理由 |
|---|---|---|
| 思いついたときに数回試す | API | 起動していない時間に払う費用がゼロ |
| 1日数時間、断続的に使う | API | アイドル時間ぶんの GPU 課金が無駄になる |
| 常時稼働で大量に投げ続ける | 自前ホスト | 時間課金が使用量課金を下回る領域に入る |
| データを外に出せない例外 | 自前ホスト | 要件で決まる。金額比較の外側にある |
最後の行だけは計算の外にある。筆者はできる処理をローカル完結で組むのが好みで、背景除去も文字起こしもオフラインで動く形にしてきた。機密を含むデータを外に出さない構成は、費用が高くても選ぶ理由になる。ただしその理由が無いのに自前ホストを選ぶと、ただ高いだけになる。
ライセンスは条文を見てから使う
Modified MIT という表記は、過去の Kimi 系モデルと同じ扱いになる見込みだ。ここで気をつけたいのは、重みの公開と同時に条文が出ていない点で、商用利用の条件がどう書かれているかは配布ページで確認するまで確定しない。
筆者は依存するモデルのライセンスを一次情報で確認して記事に明記する運用にしている。名前が MIT に似ていても、Modified が付く場合は追加条件が入っているのが普通だ。再配布の可否、派生物の扱い、帰属表示の要求。この3点を条文で読んでから使う判断をすればいい。
公開ページに条文が置かれていないうちは、試すのは自由でも成果物を配る形にはしないのが無難だ。Whisper で文字起こしアプリを作った回でも、モデルの同梱と配布は条件を読んでから決めた。
筆者ならこう扱う
今回のモデルは、当面 API 経由で触る。理由は順番の問題だ。自分の課題で使い物になるかを確かめる前に、GPU の段取りをしたくない。有料の環境を用意するのは、無料枠や API で回して価値が見えてからでいい。
確かめる項目は3つに絞っている。日本語で長い文章を扱ったときの崩れ方、100万トークン枠に実際どれだけ入るか、画像入力の精度。どれも API で測れる。ここで手応えが無ければ、594GB を落とす作業自体が不要になる。
# 判断に使う3項目を API で測る(自前ホストの検討はこれを通ってから)
# 1) 日本語の長文が崩れないか: 手元の記事1本を丸ごと投げて要約させる
wc -c article.md # 何文字投げたかを先に記録しておく
# 2) 長いコンテキストに実際どれだけ入るか: 入力トークンを応答のメタから読む
# "入るはず" ではなく、投げて返ってきた usage を見る
# 3) 画像入力: 手元のスクリーンショットで表の読み取りを試す
# 日本語UIのスクショは、モデルによって崩れ方の差が大きい
この3つで手応えがあった場合だけ、次の質問に進む。「これを毎日何時間動かすのか」。ここに具体的な数字が入らないうちは、自前ホストの試算表を作っても意味のある答えは出ない。
逆に「常時稼働で投げ続ける使い方」に育ったなら、その時点で自前ホストの試算に入る。その順番を守らないと、動かすこと自体が目的になって、置き場所と電気代の話で終わる。開発の進め方で書いたのと同じで、動く最小構成で価値を確かめてから規模を上げるほうが手戻りが少ない。
「オープンウェイト」の意味が用途で変わる
今回の公開で分かるのは、同じ「オープンウェイト」という言葉が、立場によって別のものを指すという点だ。研究室やオンプレ環境を持つ企業にとっては、重みが手に入ることが検証と改造の自由につながる。GPU を8枚並べられる前提があるからだ。
個人開発者にとっては、重みが公開されても手元の機材で動かない以上、実質は「誰かがホストしてくれるのを待つ」状態になる。推論を提供する事業者が乗せてくれれば使えるし、乗らなければ使えない。この意味では、API 限定のモデルとの距離はそれほど大きくない。
ここを混同すると、「オープンだから安心」という判断を、実際にはホスト事業者に依存した構成に対して下すことになる。筆者はローカル完結を好むが、それは自分の機材で動く範囲に限った話だと切り分けている。
よくある疑問
ローカルで動かせないなら公開の意味は薄いのか。研究や企業のオンプレ用途では意味がある。個人開発者の手元で動くかどうかは、公開の価値とは別の軸になる。
Q4 量子化を待てば個人でも動くか。300〜400GB でも個人向けGPUには載らない。複数GPUを束ねる構成が前提になる。
CPU とメモリだけで動かす手はあるか。物理的には可能でも、1トークンあたりの生成速度が実用から外れる。試すこと自体を目的にする場合に限られる。
今から準備しておくことはあるか。落とす前提で回線と保管先を用意するより、手元の課題を1つ言語化しておくほうが効く。何を解かせたいかが決まっていれば、API で30分触れば判断がつく。
まとめ
594GB の公開は、「動かせる人が増えた」よりも「動かせない線がどこにあるか、はっきりした」という出来事だった。個人開発者としての判断は、まず API で自分の課題に効くかを測り、常時稼働で投げ続ける使い方に育ってから自前ホストを試算する。順番を逆にすると、置き場所と時間課金の話だけが残る。
今日できることは、自分の使い方が「思いついたときに数回」なのか「常時稼働」なのかを確かめることだ。過去1か月に同種のモデルへ投げた回数を数えれば、答えはすぐ出る。