見出し画像

Google ColabでGPU別 ComfyUI起動と処理時間をテキトーに計測しました

GoogleColabを使っていると、ComfyUIの起動に時間がかかるのがいつも気になっていました。今回はGoogle Colabを操作してComfyUI起動、停止、画
像生成、ComfyUI再起動、再起動後の画像生成を行なってかかる時間について見てみました。


1.環境

Google Colaboratory
プラン:Colab Pro+
Notebook:ComfyUI 本家のJupyter Notebook  
フロー:animagine-xl-4.0, LoRA:deltamon_official_v1.0.safetensors
    全て同じパラメータで生成

2.確認

すでに、GoogleDrive上にComfyUIが配置されている状態で、各GPUで以下を実行しました。

  1. GoogleDriveマウントとComfyUI起動

  2. 画像生成、ComfyUI停止

  3. ComfyUI再起動

  4. 画像生成

3.結果

 3.1 GoogleDriveマウントとComfyUI起動

 GPUの影響はほとんど受けないと考えられます。ComfyUIの起動で0.1消費しました。 ComfyUIの起動に要する時間は、GPUによって変わることもありませんでした。今回は、ComfyUI環境がGoogleDriveにあるのでダウンロードに要する時間は比較的短いかもしれません。未ダウンロードのモデルファイルがある場合ダウンロードが行われますのでさらに時間がかかります。

結果として、起動に約5分かかっていました。

  • インストールファイルダウンロード 約3分

  • モデルファイル ダウンロード 1秒(すでにダウンロード済なので)

  • ComfyUI起動 約2分

ComfyUI起動でGPUは0.1だけ消費

 3.2画像生成以降の結果

画像生成は、GPUの影響を受けることがわかる結果となりました。

各GPUの生成開始から生成完了までの時間

3.2.1 T4 ハイメモリ

T4 ハイメモリとT4の比較ですが、起動と再起動直後の生成完了までの時間に開きはありましたが、画像生成に着目するとそんなに変わりはない気がします。

T4 ハイメモリに設定
T4 ハイメモリ デルタもんちゃん生成
T4 ハイメモリ デルタもんちゃん生成

3.2.2 T4

起動直後の生成完了までの時間が長いですが、タイミングが悪かったのかなと思っています。少なくとも生成だけの処理時間はハイメモリと変わらないです。

T4 に設定
T4 デルタもんちゃん生成
T4 ComfyUI再起動後のデルタもんちゃん生成

3.3.1 L4

同じ入力なのに、違う結果が出てきたことに驚きました。処理時間はT4の半分の時間で生成できました。

L4 GPU
L4  デルタもんちゃん生成
L4 ComfyUI再起動後のデルタもんちゃん生成


3.3.1 A100

L4と同じ結果が出ました。処理時間はL4の4分の1時間で生成できました。

A100 GPU
A100  デジタもんちゃん生成
A100 ComfyUI再起動後の生成

3.まとめ

 こういうことは本来、テストスクリプトを作ってパラメータ変えて計測するものだと思うんですが、今回はあえてハンドメイドで測定しました。
 実際に操作を行うことで、速度の速さや状況による所要時間を実感することができました。
 いつもはT4でやっているんですが、実際にA100などを使ってみようという気になりました。
 これだけ早い生成速度であれば、パラメータを変えながら一気に生成するといったフローなど、人間の思考時間を挟まないシーンで効率よく利用できると嬉しいと思いました。
 とにかく、起動時間や無駄に動かす時間を減らして有効にリソース活用したいです。
 最後まで読んで頂きありがとうございました。


春までまだ少しありますね。みなさまご自愛ください。


いいなと思ったら応援しよう!