LYCORIS＆LOCONだと、絵柄が固定されがち問題

　前回、lohaでLORAつくるときの話で「dim32推薦」とか書きましたが、あれはウソだ。

　というか、素材が多ければ32でもいいんですが、素材数が10点程度で32にすると、結構な確率で

　絵柄が固定されがち。

　という問題が発生しました。
　固定されないまでも、「口を開けっぱ」とか「ポーズがいつも似てる」など強烈に素材の構図に引っ張られがち。
　さらに、学習効果が強烈なのか「LORAやTIとの併用も困難」ということが多かったです。

　解消策はいろいろあるのですが、一番簡単なのは

・dimとalphaを下げる。（16/1とか8/1とか）
・LOCONを外す。
・LOCONのD/Aを小さくする（4/1とか4/0.2とか）。

　あたりでしょうか。
　ただ、どれも再現度自体は下がることになるので、「再現度と自由度」の良い塩梅を探りながら調整していくことになります。

　あと、オプティマイザーはadaFactorにして多STEPで回すのがお手軽（学習時間は長くなりがちですが）。
　loha/Loconは学習率指定に幅がありすぎて、adamWで最適化するのはめんどくさすぎて辛い。