VAEを変えたら絵柄が変わりすぎ
みなさん、VAEをご存知でしょうか?
AIイラストを触っているなら大体の方は知っていると思います
ただ、たまにVAE使ってなさそうなイラストが目に入ることもあるのでどういうものなのか簡単に解説してみたいと思います
1.VAEとは
まずはVAEとはなんぞやということですが、学術的な詳しい話は私も知りません
AIイラストを生成する上で重要となるのは出力の際の色や線の出方に影響するということです
こちらはVAEなしで出力したイラストになります
こちらはVAEありで出力したものです
VAEなしの場合は、全体的にくすんだ色合いをしていますね
このようにVAEの有無によって明確な違いが発生します
VAEはモデルの製作者さんのおすすめのVAEを内蔵している場合もありますが、大半は含まれていないと考えたほうが良いと思います
また、色調を変更したい場合などでもVAEの変更で可能ですのでできるだけ自分で用意するのが良いでしょう
VAEはモデルのように数は多くありません
定番と呼ばれているものもありますので迷ったら定番を使うのが無難だと思います
私のおすすめについては比較検証の後に紹介したいと思います
2.比較検証
今回は私が使っているVAEの中で比較検証を行ってみたいと思います
まずは一覧です
autoencoder_fix_kl-f8-trinart_characters.ckpt
kl-f8-anime.ckpt
kl-f8-anime2.ckpt
clearvae_main.safetensors
vae-ft-ema-560000-ema-pruned.safetensors
vae-ft-mse-840000-ema-pruned.safetensors
下記はとしあきdiffusionにあったVAEです
flat_paint_b.safetensors
flat_paint_b_v2.safetensors
flat_paint_b_v3.safetensors
flat_paint_b4.safetensors
flat_paint_b5.safetensors
proto_1_vae.safetensors
proto_2_vae.safetensors
proto_3_vae.safetensors
proto_4_vae.safetensors
proto_41_vae.safetensors
おそらくAIイラストを触っている方なら知っている定番ばかりだと思います
では、実際に比較してみたいと思います
長くなりますのでおすすめだけ知りたい人は次の項目まで飛ばして下さい
並べ見ると色の違いが分かりますね
デザインにも若干影響があります
では、続いてとしあき製VAEをどうぞ
こちらも差がはっきりと分かりますね
1つずつ特徴を見ていきたたいと思います
・autoencoder_fix_kl-f8-trinart_characters.ckpt
彩度がかなり高いです
鮮やかなアニメ系のモデルに合うと思います
ただし、色が濃くなりすぎるので注意です
・kl-f8-anime.ckpt
こちらは彩度と明度が高いです
より透明感のあるアニメ調モデルに合うと思います
ただし、色合いに若干クセがありますので使いこなすのは難しいかもしれません
・kl-f8-anime2.ckpt
先の2つに比べると落ち着いた雰囲気に感じますね
こちらはアニメ調モデルの定番VAEです
迷ったらこれでいいと思います
・clearvae_main.safetensors
線が細くかなりシャープな雰囲気になります
色合いも透明感がある感じです
私が最近愛用しているVAEになります
このVAEは繊細な画風のイラストにはぴったりだと思います
ただし、このVAEには注意点があります
配布ページにも記載がありますが、このVAEを使用すると結構な頻度で真っ黒な画像が生成されます
1111版のWebUIを使用しているかたはデフォルトのオプションではこのエラーが発生した際に処理が中断されてしまいます
つまり、複数枚出力中に1枚でもエラーがあれば全体が止まってしまいますオプションの設定を行った場合でも20枚に1枚くらいは黒塗りになる印象です
そのため、あまりおすすめは出来ないのですがこのVAE独特な繊細で透明感のある雰囲気が好きな人は使ってみて下さい!
・vae-ft-ema-560000-ema-pruned.safetensors
こちらも定番VAEです
kl-f8-anime2.ckptと似たような色合いだと思います
アニメ向きのようです
・vae-ft-mse-840000-ema-pruned.safetensors
リアル系で定番のVAEとなります
実写に近いモデルはこちらのVAEがおすすめです
・flat_paint_b.safetensors
・flat_paint_b_v2.safetensors
・flat_paint_b_v3.safetensors
・flat_paint_b4.safetensors
・flat_paint_b5.safetensors
名前にフラットと付いてるだけあって全体的に平面化されているようです
ただし、その影響で色々崩れている部分が目立つので私は使っていません
水彩画のような画風なら合うのかもしれません
・proto_1_vae.safetensors
彩度が低く明度が高い感じです
clearvae_main.safetensorsに近い雰囲気ですが、より白みがかっていて幻想的なファンタジーのようなイラストに合うかもしれません
・proto_2_vae.safetensors
彩度が高くはっきりとした線なのでアニメ調に合うと思います
・proto_3_vae.safetensors
彩度が高く赤みがかったように見えます
若干クセがありそうです
・proto_4_vae.safetensors
色が濃いです
重厚感のあるアニメ調のイラストになります
最近見つけたのですが面白いVAEだと思います
こういう感じになります
・proto_41_vae.safetensors
こちらも若干赤みがかっているのでクセがありそうです
こちらのとしあき製VAEシリーズからダウンロードできます
3.おすすめのVAE
比較が長くなりましたがおすすめのVAEをいくつか上げたいと思います
・kl-f8-anime2.ckpt
アニメ系ならこちらがおすすめです
クセがなくどんなイラストでも合うと思います
・vae-ft-mse-840000-ema-pruned.safetensors
リアル系ならこちらがおすすめです
こちらもクセがなく彫りの深いイラストになります
VAEを選ぶのが面倒であれば上記の2つだけでも全然大丈夫だと思います
実際私もAIイラストを初めてからこの2つのみでしばらくはやっていましたが特に不満はありませんでした
その他のおすすめとして
・clearvae_main.safetensors
・proto_4_vae.safetensors
の2点を上げたいと思います
clearvae_main.safetensorsは黒塗りさえなければ非常におすすめできるのですが使いにくいという部分で損をしています
ただし、このVAE独特の透明感のある色合いは魅力的ですので使ってみて下さい
proto_4_vae.safetensorsは色の濃いアニメ調に非常に合いますね
私もこちらはまだあまり使ってないので今後使い込んでみようと思います
4.VAEのインストール
さて、この記事を読んでいる初心者の方がいるかは分かりませんが、一応インストール方法を記載しておきます
比較検証のところでVAEへのリンクを貼っています
また、下記のとしあきdiffusion Wikiのサイトにもリンクまとめがあるので活用して下さい
インストールは簡単でダウンロードしたファイルをWebUIのインストールしたフォルダの
stable-diffusion-webui\models\VAE
上記のパスへ設置してください
解説サイトではたまに拡張子の変更をしたり別のフォルダへの設置をしていたりと若干違いがありますが、恐らく情報が古いと思います
5/3時点では拡張子の変更なし、上記のフォルダへの設置で動いています
5.最後に
VAEを比較してみましたが、実際のイラスト制作の中ではそれほど厳密に使い分ける必要はありません
私も適当に選んでちょっと雰囲気変えたいときとか出力されたイラストにもう一味欲しいときに変えたりする程度です
また、作風によっては合う合わないがありますので、お気に入りのVAEがあればそれを使うのが一番いいと思います