見出し画像

【LM Studio】新機能「MTP」でローカルLLMは本当に速くなるのか？検証と活用のコツ

TakkunBlue

「LM Studio」がバージョン0.4.14にアップデートされ、目玉機能として「MTP投機的デコーディング（MTP Speculative Decoding）」の安定版が実装されました。
「生成速度が最大2倍近くになる」とも噂されるこの技術ですが、実は条件次第では逆に遅くなってしまうという意外な落とし穴もありそうです。
今回は、MTPの仕組みから、実機検証で見えた「日本語ユーザーが注意すべきポイント」を解説します。


1. MTP投機的デコーディングとは？

「投機的デコーディング（Speculative Decoding）」とは、一言で言えば**AIによる「先読み計算」**です。
通常、LLMは1文字ずつ順番に計算を行いますが、この技術ではAIが次に続く言葉をあらかじめ「予想」して下書きを作成します。その下書きをメインのAIが検証し、「正解」であればそのまま採用することで、1回の計算で複数の文字を同時に出力し、スピードを劇的に向上させます。
特にMTP（Multi-Token Prediction）は、モデル自体にこの「先読み専用の頭（MTPヘッド）」が組み込まれているのが特徴で、Gemma 4やDeepSeek V3、Qwen 3.6などの対応モデルで利用可能です。

2. LM Studioでの設定方法

LM Studio 0.4.14以降では、モデルのロード時やサイドバーの「Advanced Configuration」から設定できます。

  • MTP Speculative Decoding:
    主電源です。対応モデルならONにします。

  • MTP Max Draft Tokens:
    AIが何手先までフライングして下書きするかを決めます
    （デフォルトは2）。

  • MTP Min Draft Tokens:
    検証に必要な最低トークン数です（デフォルトは0）。

基本的には**デフォルト（ON / 2 / 0）**が最もバランスの良い黄金設定とされています。

3. 【重要】「採択率」が低いと逆に遅くなる！？

ここが一番の注意点です。実機検証の結果、「MTPをONにした方が、OFFの時よりトークン生成速度が落ちる」という現象が確認されています。
その原因は、下書きの「採択率（Draft Tokens Accepted）」にあります。AIの先読みが的中していれば速くなりますが、外れた場合は「ハズレの下書きを検証・破棄して、メインモデルが計算し直す」という二度手間（オーバーヘッド）が発生します。

一般的に、速度向上のためには採択率が60%〜70%以上必要とされています。もし検証結果がそれ以下であれば、やり直しコストのせいでOFFの方が速くなってしまうのです。

4. 検証内容

検証は、qwen3.5-4b-mtp、qwen3.5-9b-mtp を使い、以下のプロンプトで、MTP=ON、OFFのときのトークン数/秒、採択率を確認しました。

Pythonで「ユーザーから1から100までの数字を入力させ、数当てゲームを行うプログラム」を記述してください。
初心者向けに、各行のコードに対して詳細な日本語のコメントを必ず入れて、200行以上の丁寧な解説コードにしてください。
余計な挨拶や前置きは一切不要です。コードのみを出力してください。

ケース1

システム障害が発生し、顧客への復旧報告と謝罪を行うためのビジネスメールのテンプレートを、状況別（初期対応、中間報告、完全復旧）で3パターン作成してください。
それぞれのパターンについて、件名、本文、今後の対策を含め、フォーマルで丁寧な長文のビジネス文書として出力してください。

ケース２

「桃太郎」の物語のあらすじを、起承転結に分けて非常に詳細に解説してください。
特に、おじいさんとおばあさんの日常、桃が流れてくるシーン、仲間を集めるシーン、鬼ヶ島での戦いを、それぞれ中身の濃い長文で描写し、全体で大ボリュームのテキストになるように出力してください。

ケース3

5. 検証結果

検証の結果、
トークン数/秒は若干OFFの方が大きい
ONのときの採択率は約55％
でした。今回のプロンプトでは、MTPの効果が得られにくいことが分かりました。

# qwen3.5-4b-mtp
## ケース1
* ON ：161.01 トークン/秒、53.7% draft tokens accepted
* OFF：169.61 トークン/秒
## ケース2
* ON ：165.04 トークン/秒、55.0% draft tokens accepted
* OFF：170.10 トークン/秒
## ケース3
* ON ：146.08 トークン/秒、48.8% draft tokens accepted
* OFF：170.26 トークン/秒

# qwen3.5-9b-mtp
## ケース1
* ON ：120.19 トークン/秒、54.7% draft tokens accepted
* OFF：120.02 トークン/秒
## ケース2
* ON ：118.22 トークン/秒、54.1% draft tokens accepted
* OFF：119.40 トークン/秒
## ケース3
* ON ：120.77 トークン/秒、54.7% draft tokens accepted
* OFF：119.66 トークン/秒

  • 日本語の文章生成: 現在の多くのモデルは英語やコードを中心に学習されているため、日本語の予測的中率は下がる傾向にある？

  • 自由度の高い（創造的な）文章: 次の単語の選択肢が無数にある文脈では、AIの予測が外れやすくなる？

まとめ：MTPは「魔法の杖」ではない

MTPは非常に夢のある技術ですが、現時点の日本語環境においては、「実験的な機能」という側面が強いです。

まずはLM Studioのステータス画面で、自分の環境の「Draft Tokens Accepted（採択率）」をチェックしてみてください。50%を切るようなら、潔くOFFにするのが、今のところの賢い使い方と言えそうですが、それほどの違いはないので、私はデフォルトで過ごします。


いいなと思ったら応援しよう！

TakkunBlue よろしければ応援お願いします！