見出し画像

VAEを変えたら絵柄が変わりすぎ

みなさん、VAEをご存知でしょうか?

AIイラストを触っているなら大体の方は知っていると思います

ただ、たまにVAE使ってなさそうなイラストが目に入ることもあるのでどういうものなのか簡単に解説してみたいと思います

1.VAEとは

まずはVAEとはなんぞやということですが、学術的な詳しい話は私も知りません

AIイラストを生成する上で重要となるのは出力の際の色や線の出方に影響するということです

こちらはVAEなしで出力したイラストになります

こちらはVAEありで出力したものです

VAEなしの場合は、全体的にくすんだ色合いをしていますね
このようにVAEの有無によって明確な違いが発生します

VAEはモデルの製作者さんのおすすめのVAEを内蔵している場合もありますが、大半は含まれていないと考えたほうが良いと思います

また、色調を変更したい場合などでもVAEの変更で可能ですのでできるだけ自分で用意するのが良いでしょう

VAEはモデルのように数は多くありません
定番と呼ばれているものもありますので迷ったら定番を使うのが無難だと思います

私のおすすめについては比較検証の後に紹介したいと思います

2.比較検証

今回は私が使っているVAEの中で比較検証を行ってみたいと思います

まずは一覧です

  • autoencoder_fix_kl-f8-trinart_characters.ckpt

  • kl-f8-anime.ckpt

  • kl-f8-anime2.ckpt

  • clearvae_main.safetensors

  • vae-ft-ema-560000-ema-pruned.safetensors

  • vae-ft-mse-840000-ema-pruned.safetensors

下記はとしあきdiffusionにあったVAEです

  • flat_paint_b.safetensors

  • flat_paint_b_v2.safetensors

  • flat_paint_b_v3.safetensors

  • flat_paint_b4.safetensors

  • flat_paint_b5.safetensors

  • proto_1_vae.safetensors

  • proto_2_vae.safetensors

  • proto_3_vae.safetensors

  • proto_4_vae.safetensors

  • proto_41_vae.safetensors

おそらくAIイラストを触っている方なら知っている定番ばかりだと思います

では、実際に比較してみたいと思います

長くなりますのでおすすめだけ知りたい人は次の項目まで飛ばして下さい

並べ見ると色の違いが分かりますね
デザインにも若干影響があります

では、続いてとしあき製VAEをどうぞ

flat
proto

こちらも差がはっきりと分かりますね

1つずつ特徴を見ていきたたいと思います

・autoencoder_fix_kl-f8-trinart_characters.ckpt

彩度がかなり高いです
鮮やかなアニメ系のモデルに合うと思います
ただし、色が濃くなりすぎるので注意です


・kl-f8-anime.ckpt

こちらは彩度と明度が高いです
より透明感のあるアニメ調モデルに合うと思います
ただし、色合いに若干クセがありますので使いこなすのは難しいかもしれません


・kl-f8-anime2.ckpt

先の2つに比べると落ち着いた雰囲気に感じますね
こちらはアニメ調モデルの定番VAEです
迷ったらこれでいいと思います


・clearvae_main.safetensors

線が細くかなりシャープな雰囲気になります
色合いも透明感がある感じです
私が最近愛用しているVAEになります
このVAEは繊細な画風のイラストにはぴったりだと思います

ただし、このVAEには注意点があります
配布ページにも記載がありますが、このVAEを使用すると結構な頻度で真っ黒な画像が生成されます
1111版のWebUIを使用しているかたはデフォルトのオプションではこのエラーが発生した際に処理が中断されてしまいます
つまり、複数枚出力中に1枚でもエラーがあれば全体が止まってしまいますオプションの設定を行った場合でも20枚に1枚くらいは黒塗りになる印象です

そのため、あまりおすすめは出来ないのですがこのVAE独特な繊細で透明感のある雰囲気が好きな人は使ってみて下さい!


・vae-ft-ema-560000-ema-pruned.safetensors

こちらも定番VAEです
kl-f8-anime2.ckptと似たような色合いだと思います
アニメ向きのようです


・vae-ft-mse-840000-ema-pruned.safetensors

リアル系で定番のVAEとなります
実写に近いモデルはこちらのVAEがおすすめです


・flat_paint_b.safetensors

・flat_paint_b_v2.safetensors

・flat_paint_b_v3.safetensors

・flat_paint_b4.safetensors

・flat_paint_b5.safetensors

名前にフラットと付いてるだけあって全体的に平面化されているようです
ただし、その影響で色々崩れている部分が目立つので私は使っていません
水彩画のような画風なら合うのかもしれません


・proto_1_vae.safetensors

彩度が低く明度が高い感じです
clearvae_main.safetensorsに近い雰囲気ですが、より白みがかっていて幻想的なファンタジーのようなイラストに合うかもしれません



・proto_2_vae.safetensors

彩度が高くはっきりとした線なのでアニメ調に合うと思います


・proto_3_vae.safetensors

彩度が高く赤みがかったように見えます
若干クセがありそうです


・proto_4_vae.safetensors

色が濃いです
重厚感のあるアニメ調のイラストになります
最近見つけたのですが面白いVAEだと思います

こういう感じになります


・proto_41_vae.safetensors

こちらも若干赤みがかっているのでクセがありそうです

こちらのとしあき製VAEシリーズからダウンロードできます


3.おすすめのVAE

比較が長くなりましたがおすすめのVAEをいくつか上げたいと思います

・kl-f8-anime2.ckpt
アニメ系ならこちらがおすすめです
クセがなくどんなイラストでも合うと思います

・vae-ft-mse-840000-ema-pruned.safetensors
リアル系ならこちらがおすすめです
こちらもクセがなく彫りの深いイラストになります

VAEを選ぶのが面倒であれば上記の2つだけでも全然大丈夫だと思います

実際私もAIイラストを初めてからこの2つのみでしばらくはやっていましたが特に不満はありませんでした

その他のおすすめとして

・clearvae_main.safetensors
・proto_4_vae.safetensors

の2点を上げたいと思います

clearvae_main.safetensorsは黒塗りさえなければ非常におすすめできるのですが使いにくいという部分で損をしています
ただし、このVAE独特の透明感のある色合いは魅力的ですので使ってみて下さい

proto_4_vae.safetensorsは色の濃いアニメ調に非常に合いますね
私もこちらはまだあまり使ってないので今後使い込んでみようと思います

4.VAEのインストール

さて、この記事を読んでいる初心者の方がいるかは分かりませんが、一応インストール方法を記載しておきます

比較検証のところでVAEへのリンクを貼っています

また、下記のとしあきdiffusion Wikiのサイトにもリンクまとめがあるので活用して下さい

インストールは簡単でダウンロードしたファイルをWebUIのインストールしたフォルダの

stable-diffusion-webui\models\VAE

上記のパスへ設置してください

解説サイトではたまに拡張子の変更をしたり別のフォルダへの設置をしていたりと若干違いがありますが、恐らく情報が古いと思います
5/3時点では拡張子の変更なし、上記のフォルダへの設置で動いています


5.最後に

VAEを比較してみましたが、実際のイラスト制作の中ではそれほど厳密に使い分ける必要はありません

私も適当に選んでちょっと雰囲気変えたいときとか出力されたイラストにもう一味欲しいときに変えたりする程度です

また、作風によっては合う合わないがありますので、お気に入りのVAEがあればそれを使うのが一番いいと思います

いいなと思ったら応援しよう!