Windows Server上でLocal LLMを使ってみた
はじめに少々調べ物をしていたら、Windows Server上でLocal LLMを簡単に使えるアプリケーションがあることがわかったので、実際に試してみました。備忘録もかねて、以下に手順を書いておこうと思います。
環境ハードウェアとOS
仮想マシンになりますが、使っていないWindows Server 2022 Standard Editionが入ったサーバーがあるので、こちらを使うことにしました。
仮想マシンのHWスペックは以下の通りです。
・CPU 4vCPU
・メモ