2023年12月の記事一覧
![[活用例]Local-LLM+Topic model+Langchain+ChromaDB](https://assets.st-note.com/production/uploads/images/125226437/rectangle_large_type_2_ffdcc0de4669aecf99c1fb4f9af87c37.png?width=800)
[活用例]Local-LLM+Topic model+Langchain+ChromaDB
今回は集めた特許データをTopic modelで分類し、分類したtopicごとにChromaDBでデータベースを作成、Langchainを使ってRAGを設定し、Local-LLMに回答してもらうフローを整理しました。
フローは上のイメージ図の通り、下記の手順で進めます。
1. 特許からコンセプトを抽出
2. 抽出したコンセプトを分類
3. トピック毎にデータベースを作成
4. RAGの設定
130億パラメータの「Llama 2」をベースとした日本語LLM「ELYZA-japanese-Llama-2-13b」を公開しました（商用利用可）
本記事のサマリーELYZA は「Llama 2 13B」をベースとした商用利用可能な日本語LLMである「ELYZA-japanese-Llama-2-13b」シリーズを一般公開しました。前回公開の 7B シリーズからベースモデルおよび学習データの大規模化を図ることで、既存のオープンな日本語LLMの中で最高性能、GPT-3.5 （text-davinci-003） も上回る性能となりました。また、推
もっとみる
Google Colab で Gemini API を試す
「Google Colab」で「Gemini API」を試したので、まとめました。
1. Gemini API「Gemini API」は、「Google DeepMind」が開発したマルチモーダル大規模言語モデル「Gemini」を利用するためのAPIです。
2. Gemini API の利用料金「Gemini API」の利用料金は、以下を参照。
3. Gemini API の準備Colabで
2023年末： ChatGPT / LLM とチャット UI と社会実装のカタチを考える
早いもので今年もあと1ヶ月を切ったらしい。私個人としては今年度末に完成させねばならないスタートアップ案件の開発をひとりで抱えていて全然終わっておらずヒーヒー言っているのだが、それはさておき。
このアカウントは元々アニメの話をするために作ったものなのだが、言語化したい欲はありつつも記事まで完成させられるほどのモチベがなく（加えてこういう記事は特に見てもらえなかったりして、結局自己満足以外にリターン
実践LLMエンジニアリングセミナーに参加してきました。
イベントの詳細生成AIに関する豊富な知識や経験を持つ方々を招いて開催する生成AI Conf 主催イベント第1回目が開催されました。今回は、プロンプト関連が多かったように感じました。
イベントの詳細は、以下です。
セミナーLLMエンジニアリングを加速させるソフトウェアアーキテクチャ
シゴラクAIの方の発表でした。
以下の不確実性があるとお話をされていました。
1.技術的な不確実性
2.規制