ComfyUI +FLUX.1+LoRA+VRAM24GBで遅い場合
Flux.1 devとLoRaを使うと、生成が遅くなる。1枚十数分かかる。
これはLoRaを使うことでVRAM24GBが溢れたことによる。
タスクマネージャでVRAM23.xGBで溢れてないように見えても、通常だと画像生成で負荷がかからない3Dのパーセンテージが上がっている、GPU使用率が高くなっているといったことから確認できる。
これに対応するため、run_nvidia_gpu.batに「–lowvram」を追加すると、VRAMに空きが出来るが、これでも生成が遅くなる。
進捗バーが出てからは15秒程度だが、進捗バーが出るまでに時間がかかり1枚140秒ほどかかる。
対応:
run_nvidia_gpu.batに追加した「–lowvram」は削除
Load Diffusion Modelのwaight_dtypeをfp8_e5m2、
DualCLIPLoaderのclip_name1をfp8に変更する。
これにより連続して生成する場合は、15秒程度で1枚生成出来る。
これで19.5GBほどなので、他の作業をしながら生成が出来る。