2023年6月の記事一覧
text-generation-webui の 設定項目まとめ
「text-generation-webui」にどんな設定項目があるのかをまとめました。
前回1. Text generation タブ「Text generation タブ」は、テキスト生成を行うタブです。
以下の3つのモードがあり、「Inference mode タブ」で切り替えます。
1-1. chatモード
1-2. notebookモード
gradio 入門 (3) - Blocks
「gradio」のBlocksの使い方をまとめました。
前回1. Blocksとイベントリスナー1-1. Blocksの構造
「Blocks」は、with gr.Blocks 句で記述します。
コンポーネントは、Interfaceで使用されるものと同じですが、with句内で作成すると自動的にBlocksに追加されます。
click()はイベントリスナーです。
import gradio as
gradio 入門 (2) - Interface
「gradio」のInterfaceの使い方をまとめました。
前回1. Interfaceの状態gradio のInterfaceの状態には、「グローバル状態」と「セッション状態」があります。
1-2. グローバル状態
「グローバル状態」は、関数呼び出しの外で変数を作成し、関数内でその変数にアクセスします。たとえば、大きなモデルを関数外でロードし、それを関数内で使用すると、すべての関数呼び出