見出し画像

「一文字ずつ」は終わるのか——Google DiffusionGemma−−画像の発想でテキストを刷る

ぶちょう

タイプライターと、印刷機。

文章を世に出す道具として、両者の違いは「一文字ずつ打つか、ページごと刷るか」にあります。

実はいま、AIのテキスト生成で同じ転換が起きようとしています。

Googleが発表した実験的オープンモデル「DiffusionGemma」は、ChatGPTをはじめ現在のAIが採用する「一語ずつ書く」方式を捨て、画像生成AIで天下を取った「拡散モデル」の発想でテキストを生成します。

結果、生成速度は最大4倍。

「画像的な処理をテキストに持ち込んだということ？」——本記事は、この素朴な問いを軸に、発表の中身と背景、そしてこの技術が何を変えうるのかを、なるべく平易に解説します。

何が発表されたのか——DiffusionGemmaの概要

DiffusionGemmaは、Googleのオープンモデル「Gemma」ファミリーの実験版です。骨格は26B（260億）パラメータのMixture of Experts構成で、推論時に動くのはそのうち3.8Bだけ。Apache 2.0ライセンスで公開され、Hugging Faceから重みをダウンロードできます。

数字で目を引くのは速度です。GPUでのテキスト生成が従来比で最大4倍、NVIDIA H100では毎秒1,000トークン超、ゲーミングGPUのRTX 5090でも毎秒700トークン超と謳われています。量子化すれば18GBのVRAMに収まるため、ハイエンドの個人PCでローカルに動かせる設計です。

つまりこれは「クラウドの巨大モデル」ではなく、手元のマシンで爆速に動く実験機としての発表です。

そもそも「拡散モデル」とは——画像生成で天下を取った発想

背景から押さえましょう。Stable DiffusionやDALL-Eなど、画像生成AIの主流は「拡散モデル（Diffusion Model）」と呼ばれる方式です。

仕組みを一言でいえば、「砂嵐から絵を彫り出す」です。

まず完全なノイズ（砂嵐のような画像）から始め、「ここはおそらく空」「ここは猫の耳」と、何度も繰り返しノイズを取り除きながら、徐々に絵を浮かび上がらせていく。一筆ずつ描くのではなく、画面全体を粗いスケッチから完成品へと段階的に磨き上げるのが特徴です。

この方式が画像で大成功した理由のひとつは、「全体を見ながら作れる」ことです。

右上の空の色と左下の影の付き方を、同時に整合させられる。部分を順番に描く方式では難しい芸当です。

それをテキストでやるとは——「伏せ字の原稿」を開けていく

では、この発想をテキストに持ち込むとどうなるか。

冒頭の問いへの答えは「発想はまさにその持ち込み。ただし少しやり方が変わる」です。

画像のピクセルは連続的な数値なので「ノイズを足す・引く」が素直にできます。

一方、テキストは単語（トークン）という離散的な記号の列で、「単語に少しだけノイズを足す」ことができません。そこでテキスト版の拡散では、ノイズの代わりに伏せ字を使います。

DiffusionGemmaの生成過程はこうです。

まず256トークン分の「全部伏せ字の原稿」を用意する。モデルは原稿全体を眺めて、自信のある箇所から伏せ字を確定させていく。確定した単語は次のパスで文脈として使われ、残りの伏せ字がさらに埋まる。これを数回繰り返すと、原稿全体が一気に完成する——。

重要なのは、このときモデルが双方向の注意を使えることです。

従来の方式は「これまでに書いた文章」しか見られませんが、拡散方式では「これから書く予定の後ろの部分」も見ながら前の部分を決められる。

Googleはこれを「タイプライターと印刷機」の違いに例えています。一文字ずつ打つか、ページ全体を一度に刷って磨くか、です。

なぜ速いのか——「逐次の呪い」を解く

現在主流の方式は「自己回帰型」と呼ばれます。

次の一語を予測し、それを足してまた次の一語を予測する。この方式の宿命は、どれだけ高性能なGPUでも、一語ずつしか進めないことです。

GPUは本来、数万の計算を同時にこなす並列マシンなのに、テキスト生成では行列のレジに一人ずつ並ばせているような使い方になっていました。

拡散方式は256トークンを同時に生成するため、GPUの並列性を本来の形で使えます。Googleが「ハードウェアの使い方そのものを変える」と表現しているのはこの点です。

なお、この潮流はDiffusionGemmaが初めてではありません。

2025年にInception Labsが初の商用拡散言語モデル「Mercury」を出し（H100で毎秒1,000トークン超を実証）、Google自身もGoogle I/O 2025で「Gemini Diffusion」をデモしています。今回の発表の新しさは、この方式を誰でも触れるオープンモデルとして、ローカルPCで動く形で出してきたことにあります。

速さ以外の、本当の意味——「書き直せる」生成

速度の数字に目が行きますが、実務的に面白いのはむしろ生成の「性質」の変化です。

自己回帰型は、原理的に「書いた文章を後から直せない」方式です。

一方、拡散型は全体を反復的に磨き上げるので、文章の途中だけを書き直す・穴埋めする操作が自然にできます。Googleが挙げるユースケースも、インラインのテキスト編集、コードの補完、さらには数式のグラフ構造やアミノ酸配列のような「左から右へ」ではない非線形なデータの生成です。

人間に例えるなら、自己回帰型は「一発書きの達人」、拡散型は「まずラフを書いて推敲する書き手」です。文章を書く私たちの実感として、後者の方が自然な知的作業だ、という見方もできるでしょう。

注意点——まだ「実験機」である

期待値の調整も必要です。

Google自身が明記しているとおり、DiffusionGemmaの出力品質は標準のGemma 4には及ばず、本番用途には標準版が推奨されています。

また、ローカル・低並行性の用途に向けた設計で、大量リクエストを捌くクラウド配置では効率が落ちる可能性や、Apple Siliconでは高速化が出にくい可能性も注記されています。

つまり現時点では「主役交代」ではなく、「新しいエンジンの公開実験」です。ただし、画像生成も最初は粗いデモから2年で実用になりました。品質が追いついたとき、速度4倍の意味は一気に重くなります。

既視感のある構図——AlphaGoも「画像の眼」で勝った

この「別分野の発想の持ち込み」という構図、AIの歴史を追ってきた方には既視感があるはずです。

2016年、DeepMindのAlphaGoが囲碁のトップ棋士を破ったとき、その中核にあったのは、画像認識のために発展した畳み込みニューラルネットワーク（CNN）でした。

19路の碁盤を一枚の「画像」として読み込み、次の一手の候補（ポリシーネットワーク）と形勢の評価（バリューネットワーク）を、画像認識の要領で判断する。従来の囲碁AIが「手を先読みする探索」の改良を競っていたところへ、「盤面を見る眼」を持ち込んだことが革命の正体でした。

厳密に言えば、向きは逆です。AlphaGoが借りたのは画像を「見て評価する」側の技術、DiffusionGemmaが借りたのは画像を「作る」側の技術。しかし、ある分野で圧勝した手法を、別分野の問題に持ち込んで解き直すというメタな構図は、まったく同じです。

しかもこの往復運動は続いています。

テキストで勝ったTransformerは画像認識に逆輸入され（Vision Transformer）、画像で勝った拡散モデルは動画や音声、さらにはタンパク質の立体構造予測にまで展開されました（AlphaFold 3は構造を生成する部分に拡散モデルを採用しています）。

AIの進化は、分野の中の漸進だけでなく、手法が分野の壁を越える瞬間に段差がつく——AlphaGoからDiffusionGemmaまで、一本の線でつながる教訓です。

ビジネスの目で見ると

最後に、実務家としての受け取り方を二つだけ。

第一に、「AIは一文字ずつ考えて打つもの」という、私たちが当然視してきた前提が崩れ始めています。生成が一瞬になれば、補完・翻訳・要約のような道具のUXは「待つ」から「即座に差し替わる」へ変わります。応答速度はそれ自体が機能です。体感が変わると、使われ方が変わります。

第二に、技術の主流は一つではない、という当たり前の教訓です。自己回帰型の一強に見えた言語モデルの世界に、画像で勝った別の発想が逆輸入され、本家Googleがそれをオープンに配る。どの方式が勝つかを当てる必要はありませんが、「いまの常識は実装の一形態にすぎない」と知っておくことは、技術投資の判断で効いてきます。

まとめ

  • GoogleがテキストをDiffusion（拡散）方式で生成する実験的オープンモデル「DiffusionGemma」を公開。26B MoE（推論時3.8B）、Apache 2.0

  • 生成速度は最大4倍。H100で毎秒1,000トークン超、量子化で18GB VRAMに収まりローカル実行可

  • 画像生成の「全体を段階的に磨く」発想のテキスト版。ノイズ除去の代わりに「伏せ字の原稿」を反復で埋め、256トークンを同時生成、双方向の文脈を利用

  • 速さに加え「途中の書き直し・穴埋め」が自然にできるのが本質的な違い。コード補完や非線形データに有望

  • 品質は標準Gemma 4未満の実験段階。ただし「一文字ずつ」という前提を崩す潮流（Mercury、Gemini Diffusion）は本物

  • 「他分野の必勝手法の持ち込み」はAlphaGo（画像認識の眼で囲碁を制した）以来の定番の構図。技術は分野の壁を越える瞬間に段差がつく

さらに深く知りたい方へ

拡散モデルと言語モデル、二つの世界の仕組みを地続きで理解しておくと、この種のニュースの「何がすごいのか」が自分で判断できるようになります。生成AIの内部の仕組みを平易に解説した定評ある一冊を、手元に置いておくのがおすすめです。


#DiffusionGemma #Gemma #生成AI #拡散モデル #Google

参考文献

※本記事にはアフィリエイトリンク（Amazonアソシエイト）が含まれます。Amazonのアソシエイトとして、適格販売により収入を得ることがあります。リンク経由での購入が読者の負担を増やすことはありません。

いいなと思ったら応援しよう！