iOSオンデバイスで動くLLMの勉強メモ その1

shu223

前回LLMFarmを動かしてみただけの記事を書いたのだが、

この分野についてもうちょっと知りたいので雑多に記事などを読んだメモ。

今後も続けて調べていきたいので「その1」とした。

iOSオンデバイスでLLMを動かした事例としては、niwさんが作った「AlpacaChat」が最初期だと思われる。

2023年3月、ちょうど約1年前の話。

このAlpacaChatは、Alpaca-LoRAというモデルを（当時の／GGUF移行前の）llama.cppをベースにiOSデバイスで動くようにしたもの、という理解。

以下LLaMA と Alpaca と Alpaca-LoRA と llama.cpp について調べたことの整理：


LLaMA と Alpaca と Alpaca-LoRA と Llama.cpp

ここから先は

1,942字 / 1画像
文章やサンプルコードは多少荒削りかもしれませんが、ブログや書籍にはまだ書いていないことを日々大量に載せています。たったの400円で、すぐに購読解除してもその月は過去記事もさかのぼって読めるので、少しでも気になる内容がある方にはオトクかと思います。

日々の学びメモ

¥400 / 月

技術的なメモやサンプルコード、思いついたアイデア、考えたこと、お金の話等々、頭をよぎった諸々を気軽に垂れ流しています。

ログイン

最後まで読んでいただきありがとうございます！もし参考になる部分があれば、スキを押していただけると励みになります。 Twitterもフォローしていただけたら嬉しいです。 https://twitter.com/shu223/