人気の記事一覧

FLUX.1を量子化モデルで遊ぶメモ

3か月前

いつの間にかWindowsでもシンプルに pip install bitsandbytes でbitsandbytesが使えるようになっていた

8か月前

色々なライブラリでLLMを量子化してみる

4か月前

自分の過去ツイートでrinna/japanese-gpt-neox-3.6bをfinetuningして「俺tter」を生成する

1年前

Transformers でサポートされている量子化 bitsandbytes と auto-gptq の比較

1年前

無料版Colabでrinna/bilingual-gpt-neox-4b-instruction-ppoを動かす

1年前