
Core ML Stable Diffusion の SPLIT_EINSUM_V2 サポート
SPLIT_EINSUM_V2 とは
ml-stable-diffusion のv1.0.0で追加されたアテンション実装。Neural Engineのパフォーマンスを30%アップする。
Improved attention implementation (SPLIT_EINSUM_V2) which yields up to 30% improved Neural Engine performance
実際速い。この記事のこのへんに書いたが、指定なし(original)とは処理時間に5倍ぐらいの差があった。SPLIT_EINSUM と比較するとたしかに30%ぐらいかもしれない。
最後まで読んでいただきありがとうございます!もし参考になる部分があれば、スキを押していただけると励みになります。 Twitterもフォローしていただけたら嬉しいです。 https://twitter.com/shu223/