見出し画像

Core ML Stable Diffusion の SPLIT_EINSUM_V2 サポート


SPLIT_EINSUM_V2 とは

ml-stable-diffusion のv1.0.0で追加されたアテンション実装。Neural Engineのパフォーマンスを30%アップする。

Improved attention implementation (SPLIT_EINSUM_V2) which yields up to 30% improved Neural Engine performance

実際速い。この記事このへんに書いたが、指定なし(original)とは処理時間に5倍ぐらいの差があった。SPLIT_EINSUM と比較するとたしかに30%ぐらいかもしれない。

ここから先は

3,308字
文章やサンプルコードは多少荒削りかもしれませんが、ブログや書籍にはまだ書いていないことを日々大量に載せています。たったの400円で、すぐに購読解除してもその月は過去記事もさかのぼって読めるので、少しでも気になる内容がある方にはオトクかと思います。

技術的なメモやサンプルコード、思いついたアイデア、考えたこと、お金の話等々、頭をよぎった諸々を気軽に垂れ流しています。

最後まで読んでいただきありがとうございます!もし参考になる部分があれば、スキを押していただけると励みになります。 Twitterもフォローしていただけたら嬉しいです。 https://twitter.com/shu223/