【ComfyUI】nunchaku版Qwen-Imageで高速生成

aiaicreate

2025年9月15日 10:35

最近このnunchakuというのをよく見かけます。

どういうものかあまり分かってないのですが、VRAM削減＋推論高速化できるものだそうです。

実際に使ってみたら生成速度はかなり上がったので、今回はこれを紹介します。

nunchakuとは？

Nunchakuは量子化されたモデルを高速に推論するためのエンジンです。

SVDQuantという量子化技術で「4ビット」に圧縮したモデルをNunchakuを使って推論すると高速生成できるもの。

FluxやQwen-Imageモデルがリリースされており、2～3倍の高速化が実現できるそうです。

github：nunchaku-tech/nunchaku: [ICLR2025 Spotlight] SVDQuant: Absorbing Outliers by Low-Rank Components for 4-Bit Diffusion Models

ComfyUIのインストール

ComfyUIをまだインストールしていない方は以下の記事を参考にしてみてください。

ComfyUI

ComfyUIManager

Nunchakuのインストール

①workflowを使う（ポータブル版）

インストール用のworkflowがあるので、ComfyUIからインストールできます。
以下のリンクからinstall_wheel.jsonをダウンロードしてください。

それをComfyUIに取り込みます。

あとはインストールしたいversionを指定して実行するだけです。

lastedが最新バージョンをインストールするものですが、404とかで実行できなかったので自分で指定した方がいいかもしれません。

stabilitymatrixなのでエラー吐いてますが、バージョン合わせればおそらくインストールできると思います。

②stabilitymatrixはpackage commandを使う

stabilitymatrixを使っている場合はパッケージ一覧→三点リーダ→package command→Install Nunchakuからインストールできます。

③ホイールからインストール

githubのリリースにホイールがあるのでそこからインストールできます。

まず自身の環境を確認します。

例えば私はWindows環境でpython3.11、pytorch version: 2.8.0+cu129です。

※ComfyUIのコンソール

python3.11はcp311、pytorch version: 2.8.0はtorch2.8なので環境に合うホイールをgithubからダウンロードします。

Release Nunchaku v1.0.0 · nunchaku-tech/nunchaku

あとはこれを任意のパスに置いてインストールするだけです。

ポータブル版ならpython_embeddedでcmdを開いて以下を実行します。

python.exe -m pip install "whlのパス"

stabilitymatrixならComfyUIの仮想環境をアクティベートして以下のコマンドでインストールできます。

pip install "whlのパス"

Nunchaku版qwen-imageの使い方

モデルの用意

diffusion_models

svdq-int4～というモデルを使います。
無印が普通のモデルで、LoRA統合されているのが4・8stepとついているものです。

 ComfyUI/models/diffusion_models

text_encoders

qwen_2.5_vl_7b_fp8_scaled.safetensors

ComfyUI/models/text_encoders

VAE

qwen_image_vae.safetensors

ComfyUI/models/vae/

workflow

Civitaiのものをお借りしました。

ComfyUIに取り込んで足りないノードがあればmanager→Install Missing Custom Nodesからインストールしてください。

sage attentionについて

ComfyUI側でsage attentionの引数入れて起動すると、Qwen-Imageは黒い画像を出力します。
なので引数はつけずに起動してください。

ただ今回使うワークフローにはPatch Sage Attention KJというノードが入っていてログに「Patching comfy attention to use sageattn」と表示されます。
なのでComfyUI側オフにしてもSage Attentionは使えてる？みたいです。
黒い画像も出力されませんでした。