hirop

生成系AIに関する情報をお伝えします。本業はC++プログラマーです。

hirop

生成系AIに関する情報をお伝えします。本業はC++プログラマーです。

言語モデルollamaのパラメーター調整

この記事ではローカル環境で使えるollamaのパラメータ調整や便利な使い方についてご紹介します。 ollamaのインストール方法はこちら。 パラメーターの説明は調べても専門用語が多くてよく分からない。 例えば num_ctxは で結局何？ってなりますよね。 そこで、実際にパラメーターを変えながら検証した結果を分かりやすくお伝えします。 parameter設定方法ollamaを起動して /set parameter とするとパラメーター一覧が出てきます。 > olla

hirop

    • X(Twitter)API取得方法

      X(Twitter)をBOT運用するにはAPIキーを取得する必要があります。 この記事では API_KEY API_KEY_SECRET ACCESS_TOKEN ACCESS_TOKEN_SECRET OAuth2の CLIENT_ID CLIENT_SECRET を取得する方法を紹介します。 Google Apps Script（GAS）との連帯を前提としています。 まずはDeveloper Platformにアクセス Developer Portalを選択します

      hirop

      • GGUFフォーマットのAI言語モデルをollamaに変換する方法

        GGUFフォーマットのAI言語モデルHugging Faceに行くとGGUFフォーマットのAi言語モデルが多数公開されています。 今回はGGUFフォーマットをollamaに変換して使用する方法をお伝えします GGUFの入手日本語が使えるGGUFをいくつか紹介します GGUFダウンロード例としてここから rinna-youri-7b-q4_K_M.gguf をダウンロードしてみましょう モデルによって容量が違うの、自分のCPU,GPUに合わせて選んでください。 例として

        hirop

        • ollamaをWebブラウザで動かす

          あらかじめこちらを参考にollamaをインストールしてください。 インストール済の方は飛ばしてください。 Chromeブラウザの拡張機能を使ってollamaを起動するローカル言語モデルのollamaをブラウザ上で動かします。 Chromeの拡張機能を追加します。Chat-GPTのように使えるので便利です。 さっそくインストール方法です。 Chromeウェブストアにアクセスします。 検索でollamaと入力して、下記の拡張機能を探してください。 インストールが終われば

          hirop

        言語モデルollamaのパラメーター調整

        hirop

          【無料】ローカルAI言語モデルのインストールと使い方

          ollamaという言語モデルを使っていきます。この記事では難しい前置や理論は抜きにして、インストールと使い方だけに特化して説明します。 また、筆者が調べたオススメの日本語モデルを紹介します。 Ollamaとはollamaはクラウド上で動くようなサービスではありませんので、ローカルPCで処理を行います。そのため、一度インターネットからモデルをダウンロードすれば、あとは使い放題です。 モデルがいろいろあるので、用途や環境にあったものをダウンロードして使います。 筆者の環境Co

          hirop

          【無料】ローカルAI言語モデルのインストールと使い方

          hirop