DiffusionGemmaとは何か 〜拡散モデルによるテキスト生成〜
2026年6月、GoogleがDiffusionGemmaを発表しました。テキストを「拡散（diffusion）」の仕組みで生成する実験的なオープンモデルで、Apache 2.0ライセンスで重みが公開されています。
従来のLLMと比べて、DiffusionGemmaは4倍高速という点が最大の特徴です。以下の記事が面白かったので、まとめました。
1. これまでのテキスト生成の仕組み
ChatGPTをはじめ、ほとんどの大規模言語モデルは、文章を左から右へ1トークンずつ順番に生成します。単語を1つ生成するたびに次を待つため、時間効率が非常に悪い、という問題がありました。
2. DiffusionGemmaで可能になったこと
DiffusionGemmaは、拡散モデルが基盤にあるため、単語を順番に予測するのではなく、トークン全体を一度に下書きします。
最大4倍高速。
省ハードウェア。26BのMoEながら推論時は3.8Bのみ活性化し、量子化すれば18GB VRAMのコンシューマーGPUに収まる。
自己修正。ブロック全体を見ながら誤りを実時間で修正できる。
3. 拡散モデルによるテキスト生成の仕組み
仕組みは、画像生成の拡散モデルと同様と考えていただければ良いです。
全体を見渡しながら生成できるため、複雑なマークダウンを破綻なく閉じたり、コードをほぼリアルタイムで生成・描画したりできます。
ランダムな文字列を用意する
複数回の処理で正しい文字を確定させ、それを手がかりに残りを整える
最終的に高品質な出力へ収束する
4. 使いどころと、向かない領域
品質：速度と並列生成を優先した結果、出力品質は標準のGemma 4より低くなります。
実行環境：高速化の恩恵はローカル・低並列の推論に限られます。高負荷なクラウドサービングでは自己回帰モデルのほうが効率的です。
想定ユーザー：インライン編集、高速な反復生成、コード補完など、速度が重要なインタラクティブ用途を探求する研究者・開発者向けです。
なお、拡散モデルの詳しい解説については、岡野原さんの本をおすすめします（アフィリエイトリンクです）。