シェア
shi3z
2024年4月10日 07:00
生成AI以前と以後で、会社のあり方は決定的に変化していくのだと思う。たとえば、昨日はとある会議で、「この(AI)サービスの原価はいくらか」という議論が沸き起こった。AIサービスなのだから、AIの利用料くらいしかかからないかというとそうでもない。実際、AIを動かすためにはAIそのものにかかるお金以外の人件費がかかる。誰かに売る人の人件費や、システム開発のための人件費や、サポートのための人件費だ
ぬこぬこ
2024年4月21日 01:12
概要ローカル LLM 初めましての方でも動かせるチュートリアル最近の公開されている大規模言語モデルの性能向上がすごいOllama を使えば簡単に LLM をローカル環境で動かせるEnchanted や Open WebUI を使えばローカル LLM を ChatGPT を使う感覚で使うことができるquantkit を使えば簡単に LLM を量子化でき、ローカルでも実行可能なサイズに
