【画像生成AI】Stable DiffusionをCPUで動かすFastSD CPUの画像生成時間

Stable DiffusionをCPUで高速に動かすFastSD CPUの画像生成時間がどれくらいかかるのか試してみました。
検証に使っているPCはグラフィックボードを搭載してない（オンボード）のモバイルPCです。

FastSD CPUのページは以下より
https://github.com/rupeshs/fastsdcpu

FastSD CPU画像の生成時間

インストールしてそのまま使ってみたときの画像生成時間ですが、初回のみ初期化やロードで39.29秒でしたが2回目以降は4.89秒、4.86秒、4.74秒と大体4秒程でした。

一時的にCPU使用率が上がっているところが画像生成中です。
ほかのプログラムも動いていますが、FastSD CPU使用中もメモリ利用も20GB程で安定しています。

OpenVINOを利用した場合の生成時間

続いてインテル社の無償で利用できるツールOpenVINO版を試してみまた。モデルでLCM OpenVINOを選択します。これでCPU+GPU+NPUでさらに加速できるはずです。

初回のみ初期化やロードなどで、8.10秒でしたが、２回目以降の画像生成時間は1.37秒、1.35秒、1.36秒と大体が1秒程度で生成可能でした。

GPUの波形は生成中若干変動がありましたが、NPUの波形がピクリともしていないことも気になります。何か設定が悪いのでしょうか・・・

複数枚の画像生成

LCM OpenVINOで画像１０枚の生成時間を測定しました。
初回のみ8.74秒でしたが、その後の３回測定して12.45秒、11.96秒、11.91秒と1枚あたりの生成時間は1秒程度でした。

生成中のパフォーマンス

まとめ

FastSD CPU（v1.0.0 beta 33）を私のパソコンで使ってみた個人の感想です。

・FastSD CPUはグラフィックボードなしで高速な画像生成が可能
・OpenVINOを利用した場合グラボなしでも1秒程度で画像生成ができた
・OpenVINOを利用したが、NPUがうまく動かせなかった

今回使ったマシン

CPU：Core Ultra 7 155H
メモリ：32GB
GPU：Intel Arc Graphics（オンボード）

最後まで読んでいただいてありがとうございます！