ComfyUI～Windows画像生成加速計画～
前置き
！！ComfyUIのポータブル版の最新（確認時：ComfyUI 0.3.30）だとSageAttention2への対応が必須になるので注意！！
ハッピーホワイトデー！
数か月前、風のうわさでsage attentionとかtorch.compileとかtritonとかを使うと速くなるらしいと聞きました
へ～っと思って調べて一応やってみて、実際速くなったのですがtritonっていう一番重要なやつがwindows正式対応しておらず、入れる方法が非常に大変だったのです
面倒で環境作り直してから再対応を放置してました
ところが、久し振りに調べてみると大分簡単になっているということで、備忘録として残すことにしました
ターゲット
Windowsで生成を速くしたい人
ComfyUIを使っている人
StabilityMatrix版／ポータブル版／デスクトップアプリ版
重いモデルを使う人
Fluxや動画モデル
同じ設定でたくさん生成する人
SDXLでもこれに当てはまるなら……
検証時点の情報
ComfyUI v0.3.26（ポータブル版はv0.3.3）
ComfyUI frontend v1.11.8（同v1.17.11）
VRAM16GB
最も簡単で効果的な方法
ComfyUI-TeaCacheのインストール
TorchCompileやSageAttentionも不要！
シンプルにTeaCacheノードを挟むだけで速くなる
rel_l1～はモデル毎の推奨値があるのでリポジトリを見ましょう
Fluxにも動画モデルにも対応しています（SDXLは非対応）
TorchCompileやSageAttentionと違いカスタムノードインストールだけで終わる
同一設定で沢山生成する場合
TorchCompileとSageAttentionをいれます！
ComfyUI毎に対応が変わります
StabilityMatrix版
StabilityMatrixのパッケージメニューを開く
ComfyUIの「…」をクリック
Pythonパッケージ
＋をクリックして以下実行
pip install -U triton-windows
pip install sageattention
こちらのgithubから環境（Pythonのバージョン）に合わせたzipファイルをDL
エクスプローラーでData/Packages/ComfyUI/venvを開く
libsフォルダをvenv直下にコピー
includeフォルダを同venv/Scriptsフォルダにコピー
StabilityMatrixごと再起動して更新
ポータブル版
ComfyUI/user/default/ComfyUI-Managerのconfig.iniを開いてsecurity_level = weakにする
ComfyUIを起動する
ManagerメニューからInstall PIP～を選び以下を実行する
pip install -U triton-windows
pip install sageattention一番下の「SageAttention2への対応」が必要です！
こちらのgithubから環境（Pythonのバージョン）に合わせたzipファイルをDLする
pytyon_embededフォルダにlibsとincludeをコピーする
元々入っていたら一旦避難しておいた方がよい
リスタート＆更新
デスクトップアプリ版
Documents\ComfyUI\user\default\ComfyUI-Managerのconfig.iniを開いてsecurity_level = weakにする
ComfyUIを起動する
ManagerメニューからInstall PIP～を選び以下を実行する
pip install -U triton-windows
pip install sageattention
こちらのgithubから環境（Pythonのバージョン）に合わせたzipファイルをDLする
Documents\ComfyUI\.venvフォルダにlibs、Scriptsフォルダにincludeフォルダをコピーする
リスタート＆更新
TorchCompileを使うには
ComfyUIにTorchCompileノードがあるのでそれを使うか、TeaCacheにも同様のノードがあるのでそれを使えばOK
SageAttentionを使うには
ComfyUI-KJ_nodes
SageAttentionを単体ノードで使いたい場合に必要です
TorchCompileノードはKJにもあり、他のノードに比べて色々な設定値を変えられるので色々試したい人にはおすすめ
ただし、KJベースだとPatch Model Patcher Orderを使わないとLoRAが効かないなど、マニア向けの作りなので注意
SDXLをチョットでも速くしたい
ComfyUI-WaveSpeed
SDXLに対応しているのはこれだけなので試してみたい人向け
Apply First Block Cacheノードを挟むだけですが、residual～はモデル種類ごとに推奨値があるのでリポジトリを見ましょう
ちなみに、これにもTorchCompileがあります
速度安定する気がするので多分あった方が良い
終わり
TeaCacheは強すぎるのでぜひ試して欲しい！
sageattentionがうまく動いているかはログに「Patching comfy attention to use sageattn」とか書いてあるかどうかでわかる
ComfyUIの起動時の引数--use-sage-attentionはKJ氏のノードをつないでいれば不要だそうです
おまけ
詰まったところ
error: include file 'Python.h' not found
導入して実際に動かしたら上のエラーがでました
（Claudeが）エラーをよく読むと、Data\\Packages\\ComfyUI\\venv\\Scripts\\Includeが見つかりませぬが？ということでした
この時、DLしたzipのincludeはlibsと同じでvenv直下に置いてました（ポータブル版がそうだから）
しかし、StabilityMatrixだとvenv/Scriptsフォルダに置かないとダメそうなので、そのように対応しました
ClaudeがincludeじゃなくてIncludeにしておいた方がいいというので従いました（多分Windowsなので不要）
デスクトップアプリ版も同じ対応が必要です
もし同じエラーが出たらLLMに読んでもらえば置き場所が分かると思います。使え！生成AI！！
他のエラーだった場合は知りません、ごめんなさい
この加速化は今話題沸騰のローカル動画生成モデル、wanとかにも使えるみたいですが、私はまだやってないのでわかりません
SageAttention2への対応
最新ポータブルはsage attention v2に上げないと動かない
ふつうにpip install sageattentionで入れるとv1の方が入ります――
が、5/1にComfyUIポータブル版を最新にしたら（ちなみに最新にしたら環境が壊れたので全部入れなおした）エラーで生成不可！
triton-windowsはそのまま入れればいいですが、SageAttentionはそのままいれると1系が入りエラー地獄になるよ。
SageAttention2のビルドされたデータをDLしよう
以下にすでにビルドされたやつがあるよ。便利だね。
ComfyUIにインストールされているtorchのバージョンがあってないと死ぬから気を付けてね。
SageAttention2をインストール
ダウンロードしたらComfyUIポータブルにインストール
ComfyUI_windows_portableのパス/python_embeded/python.exe -m pip install whlファイルのパス終わり！
エラーが出たら諦めよう！
