M2 SSDにしたぜっ
Stable Cascadeなる新しい画像生成がgithubで公開されました
生成速くて綺麗さも上らしいんですがVRAMが20GByte必要なんだとか。RTX4070ti super 狙ってたんですけど16Gbyteだからダメじゃん。
でもってバレンタインの今日はドル円爆安で151円に届きそう。
macなら64GByteもVRAMあるけどPyTorch 遅いしなぁ。cuda特化してるから仕方ないけど。
ここでRTX4090買ってもStable Cascade動作させると余力4GByteしかない。こりゃ当面 GTX1080で頑張るしかないかな。
macはテキストの llmcpp動作させるのに無敵なんだよね。48GbyteのswallowをLM studioで普通に動かして、IntelliJ + vm ubuntuサーバーで開発できるこの余力。いつの時代でもメモリーは正義だなぁ。
我がx86系最強マシン(2013年当時)のスペック
さて我がIntel最速マシンの概要は以下の通り
・Core i7 4770S (省電力45W版)
・GTX1080
・メモリー 32GByte (去年5,000円で増設した)
・SSD SATA接続
でもSDXLのforge版がでたのでソフトパワーで速度が30%アップ！
VRAM使用量減でGTX1080でもハイレゾできちゃうのだ！
できちゃわない時もあるからギリギリだねっ
モデル切り替えすらノロい
最速マシンを持ってしてもXLのモデルを切り替える際 30秒以上かかるんですよ。きっとこれはSSDがSATAだからだそうだそうにちがいない。
RTX4090がゴミ性能だと気づいた(と思い込みたい)のでGPUは先送りだ。
M2 SSDをこいつに奢れば年末くらいまでは幸せに違いないっ。もちろん高くて買えないという理由も少しだけあるのだ。
さっそくamazonでPCI-e M2変換基盤を探してみました。
ほほう、x16専用アダプターとな！
マザーボードはGTX1080をSLIで構成できるように x16 が2個あるんだけど当時は貧乏でSLIなんてできなかった、というか今でもできなかったので x16が1スロット余ってるのでこいつを差し込む事にするっ。
で、翌日届いたので基盤の裏側を見ると…
うーん、なんかPCI-eに接続されてる線、少なくね？
PCI-eは差動ペアだから4本(セット)くらいしか繋がってなくね？
8本くらいは行って欲しかったけど1,500円だしね、仕方ないね。
後で調べたらそもそもM2は4本らしいからこれでいいんだそうな。
残りの12本は物理的に安定固定させる為のただの足のようだ。
蝉パワー
用意したM2 SSDはmacで使っていたお古のSSD。
チップは中華蝉 (HIKSEMI)。元々 iPhoneで使う予定だったけどアメリカ輸出規制で突然使えなくなって投げ売りされてた最新232層の馬鹿力SSDだ。
2TByte Gen4でDRAM積んで1万円くらいだったんだよね。4Tも2万円くらいだからそっちも2本買っちゃってた。いま倍くらいになってるから去年の夏は爆安だったなぁ。
ささっとext4でフォーマットしてマウント！
マザーボードの仕様のせいでブートドライブにはできないけど起動した ら/homeはこっちにしちゃうからいいもんね
速度6倍！
ubuntu の hdparm で簡易的に速度チェック
まずは元の SATA接続のSSD
/dev/sda: 438.80 MB/sec
まぁSATAが6Gbpsだし古いSSDだし健闘はしている
でもって中華蝉！
/dev/nvme0n1p1: 2615.14 MB/sec
うひょー 約6倍速
SSDそのものはGen4なんだけどマザーボードがGen3 だから完全に頭打ちしてるねぇ。Gen4だったら5,000MB/s 近くでる筈。macとThunderboltで繋いでた時は4,800MB/sでした。
いざStable Diffusionでテストだっ
SDXLのモデル切り替えに35秒もかかってたけど、今度は爆速の筈！
予想では5秒、いやまぁ6秒はかかるよね？
…う、ううーん
16秒もかかりました
SSDは速かったんだけど、モデル切り替えをする時はSHA256でデータ破損検出してるので
！！！完全にCPUがボトルネック！！！
でもまぁモデルなんてホイホイ切り替えるもんでもないから。。。
SDの時はモデルが2GByteくらいだったけど、SDXLだと6Gbyteがザラでイライラだったけど、イラっくらいで済むようになった！
1,500円の効果はあったよね、きっと。
