マガジンのカバー画像

Libraries / Frameworks / Tools

44
本
運営しているクリエイター
thomas

#ChatGPT

npaka

npaka

LLMアプリケーションの記録・実験・評価のプラットフォーム Weave を試す

LLMアプリケーションの記録・実験・評価のプラットフォーム Weave を試す

LLMアプリケーションの記録・実験・評価のプラットフォーム「Weave」がリリースされたので、試してみました。

1. Weave「Weave」は、LLMアプリケーションの記録、実験、評価のためのツールです。「Weights & Biases」が提供する機能の1つになります。

主な機能は、次のとおりです。

2. Weave の準備今回は、「Google Colab」で「Weave」を使って「O

もっとみる
東京 AI 研究所

東京 AI 研究所

純粋なC言語を使用した大規模言語モデルトレーニングツール「llm.c」

純粋なC言語を使用した大規模言語モデルトレーニングツール「llm.c」

LLMのトレーニングを、純粋なC/CUDAでシンプルに行います。245MBのPyTorchや107MBのcPythonは不要です。たとえば、GPT-2（CPU、fp32）のトレーニングは、約1,000行のクリーンなコードで1つのファイルに収められています。コンパイルしてすぐに実行可能で、PyTorchのリファレンス実装と完全に一致します。最初に機能する例としてGPT-2を選んだのは、現代のスタック

もっとみる
npaka

npaka

LangChain の Memory の概要

LangChain の Memory の概要

「LangChain」の「Memory」の概要をまとめました。

1. Memory「Memory」は、将来の推論や行動に役立つ情報を記録し、必要に応じて利用するコンポーネントです。具体的には、会話履歴を保存して、次に何を話すべきかを決める情報として使うことができます。

2. LangChainの準備ColabでのLangChainの準備の手順は、次のとおりです。

(1) パッケージのイン

もっとみる
猩々博士

猩々博士

Windows環境で、Llama.cppを用いてローカルLLMを動作させてみた

Windows環境で、Llama.cppを用いてローカルLLMを動作させてみた

本記事は、2024年1/27にて行われた配信にて、視聴者様とともに試行錯誤しながら、Llama.cppを実行した手段をまとめた記事となります。

下記配信は雑談ベースでローカルLLMの話をしていますので是非視聴してみてください。

配信内容：
「AITuberについて」
「なぜか自作ＰＣの話」
「Janってどうなの？」
「実際にJanを動かしてみる」
「LLama.cppってどうなの？」
「実際に

もっとみる
npaka

npaka

LangChain クイックスタートガイド - Python版

LangChain クイックスタートガイド - Python版

Python版の「LangChain」のクイックスタートガイドをまとめました。

【最新版の情報は以下で紹介】

1. LangChain「LangChain」は、「大規模言語モデル」 (LLM : Large language models) と連携するアプリの開発を支援するライブラリです。

「LLM」という革新的テクノロジーによって、開発者は今まで不可能だったことが可能になりました。しかし、

もっとみる
npaka

npaka

自律言語エージェントを構築するためのフレームワーク Agents を試す

自律言語エージェントを構築するためのフレームワーク Agents を試す

自律言語エージェントを構築するためのフレームワーク「Agents」を試してみたので、まとめました。

1. Agents の概要「Agents」は、自律言語エージェントを構築するためのフレームワークです。

「コンフィグファイル」に自然言語で設定を記述するだけで、「言語エージェント」または「マルチエージェントシステム」をカスタマイズし、「ターミナル」「Gradio」「バックエンドサービス」にデプロ

もっとみる