【論文瞬読】1ステップで高品質テキスト生成画像——MeanFlowをクラスラベルからテキストへ拡張する鍵は「テキストエンコーダの識別性と離散性」だった

こんにちは！株式会社AI Nestです。

関連する論文の解説は、こちらでも読めます。

拡散モデルの画像生成は数十ステップの逐次デノイズが必要で、推論コストの高さが実用化のボトルネックになってきました。これを解決する有力な方向性が「Few-step Generation」、なかでも理想は1ステップで高品質画像を生成すること。MeanFlow（Geng+, 2025）はこの夢を「平均速度の予測」という美しい定式化で実現しつつあるアプローチで、ImageNetのクラスラベル条件付き生成では既存手法に肩を並べる成果を出しました。

ただし——MeanFlowをテキスト条件（T2I）に拡張する研究はほとんど存在しませんでした。クラスラベルからテキストへの拡張は「ImageNetの1000クラスから無限の自然言語へ」という質的に異なる問題で、単純に既存のT2I訓練ロスを当てはめてもうまくいかないのです。

南開大学とAlibaba AMAPのチームが今回発表した論文は、この壁を正面から突破した一本です。彼らはMeanFlowを初めて成功裏にT2I生成に拡張し、4ステップでBLIP3o-NEXTの30ステップに匹敵する品質を達成しました。鍵となったのは、テキストエンコーダが持つべき2つの性質——識別性（Discriminability）と離散性（Disentanglement）——を見抜いたことです。今回はこの論文を読み解いていきましょう。

図1は、提案手法（Ours = EMF）と現行最強の蒸留型1-stepモデル「SANA-Sprint」の4-step出力比較です。「ヴィンテージ電球の中の小都市」「インクと煙でできた指揮者の肖像」「火山噴火を見下ろす高層気球」「氷で彫られたバイオリン」「秋の落ち葉の鎧の侍」「月面の温室」など、複雑なプロンプトに対してEMFは細部の正確さと意味的忠実度で明確に上回っています。青字の語は、SANA-Sprintが拾えなかった指示要素です。

MeanFlowとは何か——「平均速度」を予測する革新

本題に入る前に、MeanFlow（Geng+, 2025）の基本を押さえておきましょう。

通常の拡散モデルやFlow Matchingは、「各時刻における瞬時速度」を予測してODEを積分することで画像を生成します。これは正確ですが、積分のために多くのステップ（通常20-50回）が必要です。MeanFlowはこの考え方を反転させ、時刻tからrまでの「平均速度」を直接予測することで、原理的に1ステップでの生成を可能にしました。

具体的には、フローマップ uθ(zt, t, r) が「zt から zr への遷移」を直接予測します。つまり zr = zt + (r - t)・uθ(zt, t, r) という関係です。これを学習するため、平均速度と瞬時速度の関係を微分方程式で結び、JVP（Jacobian-Vector Product）で効率的に計算可能な訓練目的関数を導出します。

この発想によって、MeanFlowはConsistency Modelのようなヒューリスティックを使わず、原理的に少ステップ生成を達成しました。クラスラベル条件付き生成（ImageNet 256x256など）では既にFIDで競争力ある成果を上げており、後続研究も多数生まれています。しかし、テキスト条件への拡張は手付かずだったのです。

なぜクラスラベルとテキストはこんなに違うのか

クラスラベルからテキストへの拡張は、見た目以上に難しい問題です。

クラスラベルは離散的かつ離れた埋め込み空間を持ちます。「犬」「猫」「車」は埋め込み空間で疎に分布し、互いに大きなマージンを保ちます。MeanFlowの観点では、これは「デノイジング軌道が滑らかになる」ことを意味します。各時刻の瞬時速度が平均速度と近く整列するため、平均速度の予測が容易です。少ステップ生成でも安定した結果が得られる構造的理由がここにあります。

一方、自然言語のテキスト埋め込みは密で連続的です。意味的に近い表現（例：「青い急須」と「赤い急須」）は埋め込み空間で隣り合い、細かい属性差を区別する必要があります。これによりデノイジング軌道は曲がりくねった経路になり、瞬時速度と平均速度の乖離が大きくなります。著者らはこれを「意味ドリフト」と呼んでおり、少ステップ生成では補正の機会が限られるため致命的な問題になります。

加えて、自然言語は「複数の属性・物体・空間関係を含むプロンプト」（例：「赤いチューリップが入った青い陶器ティーポットが、木製テーブルの上に置かれている」）が日常茶飯事です。少ステップでこうした複合的な指示を処理するには、テキスト表現自体が「サブ要素を分離して保持」できる必要があります。

鍵となる2つの性質：識別性と離散性

著者らは丁寧な分析を経て、MeanFlowベースのT2I生成を成功させるテキストエンコーダの必須条件を2つ特定しました。

第一は識別性（Discriminability）です。これは「異なるプロンプトが、対応する画像と適切にアラインメントされた、互いに区別可能な埋め込みを生成できる」性質です。検証方法はクロスモーダル検索：COCO 2017の118kペアでテキストエンコーダのプロンプト埋め込みを計算し、画像埋め込みとのコサイン類似度上位を取得。検索された画像をDINOv3でエンコードして元クエリ画像との類似度を測ります。結果はBLIP3o-NEXT 0.734 > CLIP 0.730 > Gemma 0.713 > T5 0.634。T5（純粋言語モデル）が最低で、画像-テキスト対比学習のあるBLIP3o-NEXTやCLIPが上位に来ています。

第二は離散性（Disentanglement）です。「完全プロンプトとそのサブシーケンスの埋め込み距離が小さく、線形構造が保たれている」性質を意味します。DPG-Benchの全プロンプトで、ランダムに一部を削除した版とフル版の埋め込みコサイン距離を測定。スコアはBLIP3o-NEXT 0.999 > Gemma 0.987 > CLIP 0.967 > T5 0.893。LLMベースのテキストエンコーダが優位で、特に画像-テキスト対比学習を経たBLIP3o-NEXTが圧勝しています。

これら2つの性質が両立することで、MeanFlowは少ステップでも安定した平均速度を学習でき、複雑なプロンプトを忠実に画像化できるのです。

EMFの設計：BLIP3o-NEXTを土台にしたMeanFlow拡張

これらの洞察を踏まえ、著者らはEMF（Extending MeanFlow to T2I）を提案します。

ベースモデルにはBLIP3o-NEXT（3B、3B+）を採用。MeanFlowに必要な2つの時間条件（区間長t-r と区間終端t）を扱えるよう、時間埋め込み層を2つに複製し、φcond(t,r) = φinterval(t-r) + φend(t) という形でフローマップに与えます。テキスト埋め込み ψtext と合わせて速度ネットワーク uθ(zt, t, r, ψtext) を構成する設計です。

訓練データは約170,000サンプル（BLIP3o-60k、shareGPT-4o、Echo-4o）。学習率1e-5、バッチサイズ128、150エポック。学習時刻のサンプリングには工夫があり、Beta分布で「短期と長期の双方を均衡的に学習」する適応的サンプリングを採用しています。

訓練目的関数は標準MeanFlow損失に近く、||uθ(zt, t, r, ψtext) - sg(ũtgt)||² の形ですが、ターゲット ũtgt は「瞬時速度 + 区間誤差項」を含み、Stop-Gradientで安定化されています。

実験結果1：GenEvalで4-stepでも30-step BLIP3o-NEXT並み

それでは実験結果を見ていきましょう。GenEvalは属性に焦点を当てた厳密な指標です。

図4は訓練ステップ数（W単位、1W=10kステップ）に対するGenEvalスコアの推移です。EMFは1-step、2-step、4-stepすべてで急速に改善し、約60kステップで4-step GenEval=0.90に到達。これはBLIP3o-NEXTの30-step版（0.91）にほぼ匹敵する数値です。2-stepでも0.85、1-stepでも0.74と、極端な少ステップでも実用域に達しています。

特筆すべきは「ステップを増やすほど品質が向上する」性質です。ConsistencyベースのモデルではステップとExpenseの増加で品質が劣化する例が知られていますが、EMFは2-stepから4-step、さらに8-stepへと安定して伸びます（DPG-Bench 81.20→81.94）。これは「平均速度を学習している」というMeanFlowの本質的特性が、テキスト条件下でも保たれている証拠と言えます。

実験結果2：SOTAを軒並み上回るDPG-Bench / HPS-v2.1

より複雑な構成プロンプトを評価するDPG-Benchと、人間選好を測るHPS-v2.1での結果も劇的です。

DPG-Benchの1-stepでは、EMFは77.36を記録し、BLIP3o-NEXTの1-step（57.05）から+20.31ポイントの改善。2-stepでも79.44（+12.06）、4-stepで81.20（+3.05）と、少ステップほど改善幅が大きく、4-stepでは30-stepベースライン（82.05）にあと一歩まで迫ります。

HPS-v2.1（人間選好）はさらに鮮明で、1-stepで+7.23、2-stepで+4.76、4-stepで+2.29の改善。Anime、Concept-Art、Paintings、Photoのすべてのカテゴリで一貫した向上が見られ、視覚的訴求力でも大幅改善が確認されました。

絶対値で見ても、3Bパラメータ・4-stepのEMFのGenEvalスコア0.90は、SD3.5-L（8B、28-step、0.71）、FLUX.1-dev（12B、50-step、0.66）、PixArt-α（0.6B、20-step、0.48）、SANA-1.5（4.8B、20-step、0.81）といった主要事前学習モデルを軒並み上回ります。

既存の蒸留型モデルとの比較：すべての蒸留モデルを凌駕

少ステップ生成のもう一つの主流は「Distillation（蒸留）」です。教師モデルから少ステップの生徒モデルを蒸留する手法で、SDXL-LCM、SDXL-Turbo、Hyper-SDXL、SANA-Sprint、rCMなど多数あります。

図5は4-step生成の定性比較です。「月明かりのマングローブで根が音楽の譜面を成し、生体発光のノートが潮に乗って漂う、長時間露光の輝き」「サイボーグの隼が中空でMach circleの蒸気を散らし、超望遠で圧縮される」というSANA-Sprint、Flux.1-Schnell、SDXL-DMD2、SD3.5-L-Turbo、いずれの既存蒸留モデルでも難しいプロンプトに対し、EMFは意味的忠実度と視覚的詳細の両方で明確に優ります。青字は他モデルが失敗した要素です。

定量比較では、EMF（3B、4-step、GenEval=0.90）は最強の蒸留モデルrCM（14B、4-step、0.83）を4.6倍小さいパラメータ数で7ポイント上回る結果を出しています。SANA-Sprint（1.6B、4-step、0.77）、SDXL-DMD2（2.6B、4-step、0.58）といった代表的蒸留モデルとも明確に差をつけました。

推論時間：1.24秒から0.08秒への15.5倍高速化

実用面で最も重要なのが推論速度です。

H200 GPUで同一プロンプトを生成する場合、BLIP3o-NEXTの30-step版は1.24秒。EMFは4-stepで0.22秒、2-stepで0.12秒、1-stepで0.08秒と、最大で15.5倍の高速化を達成しました。1-stepなら15.5倍、4-stepでも5.6倍の速度向上で、品質を維持しながらリアルタイム応答に近い領域に到達しています。

これはAPIサービスやエッジデプロイメントにとって決定的な意味を持ちます。複雑なプロンプトでも100ms以下で1枚生成できれば、対話的な画像編集UIや動画生成への応用が大きく広がります。

アブレーション：SANA-1.5でなぜ失敗するのか

逆方向の検証も興味深いです。著者らはSANA-1.5（CLIPに似たGemmaベースのテキストエンコーダ）でEMFを訓練しようとしましたが、失敗しました。

原因はテキストエンコーダの識別性不足。SANA-1.5のエンコーダをSFTデータで追加微調整しても、Flow Matching（多ステップ）の品質は0.81→0.85に改善するものの、MeanFlow訓練そのものは依然として収束せず、4-stepでGenEval=0.47にとどまります。これは「強力なLLMベースのエンコーダなら何でも良い」わけではなく、画像-テキスト対比学習を経て高い識別性と離散性を獲得したエンコーダだけが、MeanFlowベースのT2Iで機能することを示しています。

OpenUniのテキストエンコーダ（InternVL3ベースのGemma）でも同様の傾向が確認され、Gemmaは離散性は高いが識別性が不十分でMeanFlowベース少ステップ生成では失敗、という結果でした。

まとめ：MeanFlowを実用T2I生成へ押し上げる第一歩

EMFが達成したのは、MeanFlowという理論的に美しいフレームワークを、初めて実用的なT2I生成に持ち込んだことです。

・MeanFlowの初T2I拡張：クラスラベル限定だったMeanFlowを、自然言語条件付き生成に成功させた最初の研究

・識別性と離散性の発見：少ステップ生成を成功させるテキストエンコーダの2つの必須条件を特定

・SOTA級の効率と品質：3Bパラメータ・4-step・GenEval=0.90で、より大きな事前学習モデル・蒸留モデルを軒並み凌駕

・15.5倍の高速化：BLIP3o-NEXTの30-step（1.24秒）→ EMFの1-step（0.08秒）

著者らはコードを公開しており（github.com/AMAP-ML/EMF）、再現性の高さも特徴です。論文は「MeanFlowを実用T2Iに引き上げる」という宿題に対する優れた回答であり、今後の少ステップ生成研究の指針となる一本だと感じます。

「事前学習モデルの選択がすべてを決める」というのは画像生成の常識ですが、本論文はその常識に「いや、テキストエンコーダの識別性と離散性こそが、少ステップ時代の決定要因だ」と
いう新しい視点を加えました。Foundation Modelの設計者・利用者の双方にとって、見落とせない知見になりそうです。

読んだ論文をあとで見返しやすく整理したい人や、チームで共有したい人には、論文管理サービス「スカコン」もおすすめです。研究論文を書く人向けの整理・蓄積にもかなり相性がいいです。