SkyReels i2v GGUF＆Customized MultiGPU Nodes

SkyReels i2v GGUF

何と言うか、画像データの整理整頓、ストレージの整理整頓も進まぬ内に、SkyReelsだ、Wan2.1だと、この最早言い尽くしたセリフを繰り返しますが、「暴力的な進化の速度」についていけませんて。

Hunyuan Videoも、まだやりたい事をやれてないんですって。

…と言っても、進化するものは仕方ないでしょうよ。

噛り付いてでも、この進化についていかないと、後から追いかけるのは大変なんですよ。

と、言う訳で、まずはSkyReels i2vのGGUF版を上げておきます。

と言っても、実は以下記事で公開しているHunyuan Video GGUF用のi2v.jsonを使い回しているだけです。Q8に対して15GBのdistorchを使用する形で、これもVRAM消費が専用VRAM12GBに収まる組み方をしています。

SkyReels i2vのGGUFに関しては、BF16以外は以下から入手できます。t2vは、safetensorsしかないので自作するしかないですね。

当初、以下で公開されているGGUFはHunyuan Video用のノードではロードできなかったんですが、私の組み方が間違っていたか、或いはKijai殿が後でHunyuan Videoとの互換性を持たせてくれたのか...不明ですが、とにかく今はHunyuan Video GGUF用のノードでロードできます。

SkyReelsのBF16サイズへのGGUF化に関しては、以下記事を参照して下さい。

今現在、別な問題が発生していて、上記事で公開しているHunyuan Video GGUF用のi2vが、肝心のHunyuan Videoで使用できなくなっています。VerⅠは使えますが、v2vと組み合わせたVerⅡの方ですね。

不思議な事に、VerⅡはSkyReels i2v GGUFモデルで使用できるので上で公開しています。
(一方、VerⅠは、逆にSkyReelsで完走しない問題がある)

ある意味本末転倒ですが、Hunyuan Video用のjsonは組み替えた上で、上記事は更新します。どうも、tea cacheが問題を起こしているようです。これから、腰を据えて対策します。

また、今回よりlong-clip-lは以下の新しいモデルを使用していますが、現時点では結局ローダーでトークン数77上限問題があるので、long-clipの威力は発揮できていません。

この問題も、腰を据えて何とかしたいんですが…今は手が回っていません。昨日、Cursor先生と取り組んだ時には見事に挫折しています。

尚マガジン的には、Hunyuan Videoに統合する形で以降更新します。

Customized MultiGPU Nodes

まだWan2.1には手が回っていませんが、GGUF化されたファイルサイズを見るとBF16はもう30GBもあるらしく、MultiGPUノードの初期設定Max24GBでは対応できません。そこで、MultiGPUノードにおけるdistorchの最大ロードサイズを拡大する改造を施しました。

下図のように、24GBを超えるサイズに対してdistorchを適用できるようになります。尤も、こんな事してるとRAM搭載量が64GBでも足りない…とかの話になってしまいそうですが。