マガジンのカバー画像

Libraries / Frameworks / Tools

44
本
運営しているクリエイター
thomas

#生成AI

npaka

npaka

LLMアプリケーションの記録・実験・評価のプラットフォーム Weave を試す

LLMアプリケーションの記録・実験・評価のプラットフォーム Weave を試す

LLMアプリケーションの記録・実験・評価のプラットフォーム「Weave」がリリースされたので、試してみました。

1. Weave「Weave」は、LLMアプリケーションの記録、実験、評価のためのツールです。「Weights & Biases」が提供する機能の1つになります。

主な機能は、次のとおりです。

2. Weave の準備今回は、「Google Colab」で「Weave」を使って「O

もっとみる
npaka

npaka

LangChain の Memory の概要

LangChain の Memory の概要

「LangChain」の「Memory」の概要をまとめました。

1. Memory「Memory」は、将来の推論や行動に役立つ情報を記録し、必要に応じて利用するコンポーネントです。具体的には、会話履歴を保存して、次に何を話すべきかを決める情報として使うことができます。

2. LangChainの準備ColabでのLangChainの準備の手順は、次のとおりです。

(1) パッケージのイン

もっとみる
sergicalsix

sergicalsix

LLaMA-Factoryの論文紹介

LLaMA-Factoryの論文紹介

論文名

LLAMAFACTORY: Unified Efficient Fine-Tuning of 100+ Language Models

arXivリンク

https://arxiv.org/pdf/2403.13372.pdf

ひとこと要約

簡単かつ効率的にLLMのファインチューニングを行うためのフレームワークであるLLaMA-Factoryの紹介

メモ

LLaMA-Fact

もっとみる
shiba*2

shiba*2

Text-generation-webuiを試してみた&LLMモデルの探し方(我流)

Text-generation-webuiを試してみた&LLMモデルの探し方(我流)

Text-generation-webuiに関連した導入話

上のサイトがText-generation-webuiのgithubサイトです。
今回の記事はChat with RTXを触ってみて調べてみたら面白そうだったけど、とっつきにくいところもあるなといった内容です。
Text-generation-webuiのサイトを見ると2023年3月頃からあり、そこそこ前からあります、インストール方法な

もっとみる
npaka

npaka

mac で gemma.cpp を試す

mac で gemma.cpp を試す

macで「gemma.cpp」を試したので、まとめました。

1. gemma.cpp「gemma.cpp」は、Googleの「Gemma」用の軽量スタンドアロンC++推論エンジンです。

2. gemma.cpp のモデル「gemma.cpp」のモデルは、8つ提供されています。

ダウンロード手順は、次のとおりです。

(1) 「the Gemma model page on Kaggle」を開

もっとみる
npaka

npaka

Ollama で Elyza-7B を試す

Ollama で Elyza-7B を試す

「Ollama」の日本語表示が改善されたとのことなので、「Elyza-7B」で試してみました。

1. Ollama「Ollama」はLLMをローカルで簡単に実行できるアプリケーションです。

2. Ollama での Llama2 の実行はじめに、「Ollama」で「Llama2」を試してみます。

(1) Ollamaのサイトからインストーラをダウンロードしてインストール。

(2) モデルの

もっとみる
猩々博士

猩々博士

Windows環境で、Llama.cppを用いてローカルLLMを動作させてみた

Windows環境で、Llama.cppを用いてローカルLLMを動作させてみた

本記事は、2024年1/27にて行われた配信にて、視聴者様とともに試行錯誤しながら、Llama.cppを実行した手段をまとめた記事となります。

下記配信は雑談ベースでローカルLLMの話をしていますので是非視聴してみてください。

配信内容：
「AITuberについて」
「なぜか自作ＰＣの話」
「Janってどうなの？」
「実際にJanを動かしてみる」
「LLama.cppってどうなの？」
「実際に

もっとみる