【速度4倍】DeepMindの「DiffusionGemma」がテキスト生成の常識を変える

DeepMindが2026年6月10日、テキスト生成の仕組みをゼロから見直した実験的オープンモデル「DiffusionGemma」を公開した。従来の大規模言語モデルが1トークンずつ順番に文章を生成するのに対し、DiffusionGemmaは256トークンを一度に並列生成することで、専用GPUでは最大4倍の推論速度を実現している。Apache 2.0ライセンスで公開されており、研究者や開発者が自由に使い始めることができる。

背景：従来の言語モデルが抱えていた「待ち時間」の問題

ChatGPTやGeminiをはじめとする大半の大規模言語モデルは、「自己回帰（オートリグレッシブ）」と呼ばれる仕組みで動いている。タイプライターが1文字ずつ打つように、左から右へ1トークン（単語や文字のかたまり）ずつ順番に生成する方式だ。

クラウド環境では、サーバーが何千ものユーザーのリクエストをまとめて処理できるため、このトークンバイトークンの方式でもGPUを効率よく稼働させられる。しかし、ローカル環境で1人のユーザーが使う場合は話が変わる。GPUは次の「キーストローク」を待ち続けるだけで、処理能力の大部分が遊んでしまう。DeepMindの公式記事はこの状態を「タイプライターが次の一打を待っている」と表現しており、ローカル推論における最大のボトルネックだった。

画像生成AIの世界では、ランダムなノイズから徐々に画像を洗練させていく「拡散（ディフュージョン）」モデルが主流になって久しい。テキスト生成にも同様のアプローチを適用する研究は以前から行われてきたが、大規模モデルへの実装は困難な課題として残っていた。DiffusionGemmaはその壁を突破しようとする試みだ。