2023年6月の記事一覧
ChatGPTベストプラクティス&いろいろなモデルの試し方
OpenAIから具体的にどのような聞き方をすれば良いかの指針が公開されています。
尚、この話題の元ネタは以下です。
多分以下の記事を読んだ方が分かりやすいです。
正しい聞き方上記GIGAZINEの記事からの引用です。
ChatGPT-4に聞いた回答が以下です。
とにかくGPT-4を使おうOpenAIのベストプラクティスについては、GPT-4でのみ動作します。とあることから、GPT-4の使用
RWKVを公開データ＋社内データでファインチューニングしてみた
ファインディ株式会社で機械学習エンジニアをしています、笹野です。
ChatGPT発表以降LLMに注目が集まり、手元のマシンでも動くようなLLMも数多く登場し、これらに関する記事も散見されるようになってきています。
情報を仕入れる目的で様々な記事や文献に目を通しますが、オープンデータでのファインチューニング記事は多数公開されています。一方で、元々社内・組織内に蓄積されたデータを使ってファインチュー
text-generation-webui の LoRAファインチューニングのパラメータ調整ガイド
以下の記事で紹介されている、LoRAファインチューニングのパラメータ調整ガイドがわかりやすかったので、簡単にまとめました。
前回1. VRAMはじめに、「VRAM」を考える必要があります。
・一般に、デフォルトパラメータを使用した学習でのVRAM使用量は、デフォルト設定で (1000以上のコンテキストトークンを含む) テキストを生成する時とほぼ同じになります。つまり、テキストを生成できれば、L
text-generation-webui の 設定項目まとめ
「text-generation-webui」にどんな設定項目があるのかをまとめました。
前回1. Text generation タブ「Text generation タブ」は、テキスト生成を行うタブです。
以下の3つのモードがあり、「Inference mode タブ」で切り替えます。
1-1. chatモード
1-2. notebookモード
text-generation-webui で Rinna・OpenCALM・RWKV を試す
「text-generation-webui」で「Rinna」「OpenCALM」「RWKV」を試したので、まとめました。
1. text-generation-webui「text-generation-webui」は、大規模言語モデルを実行するためのWeb UIです。テキスト生成の「AUTOMATIC1111」になることを目標としています。
特徴は、次のとおりです。
2. インストールイ