瑭宜の視点

Qwen3.8-Max と Qwen3.8-27B は 25 倍違う。私たちは一度選び間違えた

林政賢 · 2026-08-27

この記事の第一版は、読者に 2.4 兆パラメータのモデルをゲーミング PC に入れさせるところだった。気づいたのは公開三十秒前。だからこの記事は「私たちがどう選び間違えたか」から始める。

名前に「Max」が付くモデルを、ゲーミング PC に入れてはいけない理由

命名というものは、動くかどうかを判断しやすくするためにあるのではない。製品ラインの上下を並べるためにある。「Max」「Ultra」「Pro」は、その会社の陣容で最上位の一つ——パラメータが最も多く、能力が最も高く、同時に民生用グラフィックカードに最も収まりにくい。

Qwen3.8-Max がまさにそれだ。アリババが 2026 年 8 月 2 日に発表した、2.4 兆パラメータの MoE モデル。推論ごとに約 950 億パラメータが動き、コンテキストは最長 100 万トークン。もともとサーバー室、サーバーが一列並んだ環境で回す設計だ。一週間以内に公式が重みまで公開したが、重みが公開されたからといって、あなたの家で動くわけではない。

問題はこの名前が魅力的すぎることだ。「どうせ自分のマシンで回すなら、最強を選ぶに決まっている」と無意識に思わせる。この直感は間違っている。ローカルで動くかどうかは、モデルの強さとは一切関係がない。関係あるのは一つだけ。ファイルが VRAM に収まるかどうか。

だからルールは単純で、見る数字は二つだけ。

前者が後者以下で、初めて次の話ができる。パラメータ数、ベンチマーク、公式サイトの文章の美しさ——ローカルではすべてノイズだ。見れば選び間違えるだけで、正しく選ぶ助けにはならない。

カードの GB が、どの版を回せるかを決める

本当に見るべきは Qwen3.8-27B だ。2026 年 8 月 14 日に重みが公開された、277.8 億パラメータの密（dense）モデル。Apache 2.0 ライセンス、画像と動画の入力にネイティブ対応、コンテキストは 262,144 トークン。Qwen-Max 級の能力が、民生用カード一枚で回るサイズに入ったのはこれが初めてだ。

27B 自体にも複数の圧縮版があり、それぞれ異なる VRAM に対応する。8 月末にダウンロードページで見たファイルサイズでは：

名前の数字が小さいほど圧縮が強く、ファイルは小さく、モデルは馬鹿になる——賢さを空間と引き換えているのであって、例外はない。

VRAM をぴったり満杯にしてはいけない。ナレッジベースを動かすには、会話の文脈と検索用の小さなモデルを置く場所も要る。実際は七〜八割まで使うのが安全だ。残りはシステムのためのもので、もう一つモデルを載せるためのものではない。

LM Studio には GPU Offload という設定がある。モデルの層をいくつグラフィックカードに載せるかという意味だ。多くの解説が「最大まで上げろ」と言うが、これは間違い——収まるなら最大でいい。収まらないのに最大にすれば、落ちるか使い物にならないほど遅くなるだけだ。正しいやり方は上へ調整していき、LM Studio 自身の見積もりがあなたの VRAM のすぐ下に来たところで止めること。

Mac ユーザーはルールが違う。Apple Silicon のメモリは CPU と GPU が共有するユニファイドメモリで、27B を回すには 32GB 以上が必要だ。PC の対照表をそのまま当ててはいけない。

モデルを入れただけでは空っぽの殻。RAG があなたの資料を読む方法だ

カードを入れ、モデルを動かした。それはまだ、博識な空っぽの殻だ。あなたのメモを見たことはないし、先月結んだ契約書がどんなものかも知らない。読めるようにする技術が RAG（Retrieval-Augmented Generation、検索拡張生成）だ。質問すると、システムがまずあなたのフォルダから関連する段落を拾い、質問と一緒にモデルに渡し、その段落に沿って答えさせる。モデル自体は変わらない。変わるのは、答える前に何を見るかだ。

初心者は AnythingLLM を直接使うのが一番速い。ローカルのフォルダを指定すれば、文書を自動でベクトル索引に変換する。だが出来上がりが使えるかどうかは三つのことで決まる。

• 形式は清潔に。プレーンテキストと、文字が選択できる PDF が最良。スキャン画像は変換時に一枚の絵としてしか読まれず、何も拾えない——必ず先に OCR を通す。
• 分割サイズは 500〜1,000 文字。小さすぎると拾った断片が文脈を失い、大きすぎると無関係な内容が増えて要点が薄まる。
• 重複量は 10%〜15%。隣り合う二つの塊の間に重複部分を残し、一文がちょうど二つに切られて両側とも不完全になるのを防ぐ。

もう一つ、初心者が最もやりがちな誤り。すべてのファイルを一つのナレッジベースに放り込んではいけない。主題がかけ離れた文書が混ざると、検索時に互いに干渉する。プロジェクトや主題ごとに分けて作るほうが、ごった煮よりはるかに効果が高い。

AI の答えが本物で、でっち上げではないとどう分かるか

システム指示で境界をはっきり引き、「見つからなければ見つからないと言え」と明示する。モデルが捏造するのは、あなたを騙したいからではない。あなたの資料に答えがないとき、汎用知識の中から「一番それらしく聞こえるもの」を自動で埋めるからだ。実務で効くシステム指示はこういう形だ。

指示は短くなくていい。明確であればいい。ネットには「指示は短いほど性能が良い」という説があるが、その影響は無視できるほど小さい——成否を決めるのは「知らないときは知らないと言え」をはっきり書いたかどうかだ。

次の点は多くの人が誤解している。AI に出典文書を付けさせるのは有用だ。どのファイルを開けばいいか分かる。だが「出典が付いているか」を真偽の判定基準にしてはいけない——モデルは出典ごとでっち上げられるし、形式は完全に正常に見える。本当の検証は一つだけ。その文書を開き、その一節が本当にそこにあるかを確認すること。

私たちは Content Copilot（自社のコンテンツ生産システム）を作る際、モデルの自己申告を信じるのではなく、検証を工程の一部にした。映像モジュールはまだ開発中で、テキストモジュールはこの原則で動いている。モデルがそれでも頻繁に脱線するなら、急いでモデルを替える前に、たいていは分割の問題だ——重複量を上げるか、その文書だけ取り出して小さなナレッジベースを作れば、だいたい直る。

今すぐできる一つのこと：三十秒の確認で、一晩を救う

まず、あなたのグラフィックカードが何 GB か確認する。Windows は Ctrl + Shift + Esc でタスクマネージャーを開き、「パフォーマンス」タブで左の GPU を選び、「専用 GPU メモリ」を見る。Mac は「この Mac について」のメモリ容量を見る。32GB 以上が回せる線だ。

16GB 以上あれば LM Studio を入れ、まずモデルを動かして少し会話し、速度が許容範囲か確認してから、AnythingLLM を入れてナレッジベースをつなぐ。順序を逆にしてはいけない。モデルの問題か検索の問題か区別がつかなくなる。

ダウンロードの前に公式ページでファイルサイズが本当にカードに収まるか確認する。二次的にまとめられた解説記事は、どれほど断定的に書かれていても信じない。この一手は三十秒もかからず、一晩を救ってくれる——私たちはまさにこれでこの記事の第一版を止め、Qwen3.8-Max を Qwen3.8-27B に差し替えた。

ローカルモデルを実際の生産ラインにどうつないでいるかは、AI デモに完全な分解がある。

著者：林政賢（監督 · Gen AI クリエイター兼エンジニア · 瑭宜影像創意工作室 創業者）