makokon

makokon

リアルタイムRAGアプリケーション＝amazonMSK＋amazonBedrock

リアルタイムRAGアプリケーション＝amazonMSK＋amazonBedrockが便里らしい。 こんにちはmakokonです。 amazonMSKがamazonBedrockと連携する機能が追加されていました。(2024/11/6) これによって、リアルタイムRAGアプリケーションの作成が一層容易になるようです。ちょっと気になったので、読んでみました。（気になった部分しか紹介していないのでそこはご勘弁） 概要ソース記事 簡単なまとめ ストリーミングデータの取り込み、

makokon

    • LLMの論理的思考をパズルで確認してみると（タイトル画像は引用サイトのものを使わせてもらいました）

      こんにちはmakokonです。仕事でLLMを使うのもいいけど、他愛のない会話を楽しむのも良いものです。LLMと会話して気になるのは、「なんで気が付かないで間違うのかなあ」という論理的な思考を積み重ねる部分ですね。 もちろんいろんなアプローチがあって、そのへんは文献を漁っていだければいいのだけど、人が使っているプロンプトは気になるものです。 先日もX/TWITTERで以下の様やLoT(logic-of-thought)に関する投稿を見かけました。 makokonのお気に入りプロ

      makokon

      • （gradio5）チャットボットの形式が変わっていましたね。messagesに変更しよう。

        （gradio5）チャットボットの形式が変わっていましたね。messagesに変更しよう。 こんにちは、makokonです。今回は、Gradioでチャットボットを作成する際のバージョンアップに伴う変更についてお話しします。特に、Gradio 5での新しいメッセージ形式への対応に焦点を当てます。この変更は、従来のプログラムに手直しを要するものですが、結果的には多くの大規模言語モデル（LLM）のメッセージ形式と互換性を持たせることができ、便利です。では、具体的にどのように対応し

        makokon

        • pythonのプログラムの初歩１４／templateを自分で実装してみる

          こんにちはmakokonです。テンプレートとか使っていますか？ コードやメールの定型文を書くときに重宝しますよね。 有名なテンプレートエンジンとしては、jinja2やMakoとかがあります。LangChainを使うときのtemplatesたちもお馴染みでしょう。 こういった、有名なテンプレートを使いこなすための記事も、需要があるかもしれませんが、今回は、プログラムの初歩なので、このテンプレートを自分で実装して見て、テンプレートがどういうものかを実感しようと言うことです。この記

          makokon

        リアルタイムRAGアプリケーション＝amazonMSK＋amazonBedrock

        makokon

        • LLMの論理的思考をパズルで確認してみると（タイトル画像は引用サイトのものを使わせてもらいました）

          makokon

        • （gradio5）チャットボットの形式が変わっていましたね。messagesに変更しよう。

          makokon

        • pythonのプログラムの初歩１４／templateを自分で実装してみる

          makokon

          OpenAIのモデルリストをpythonで確認する。（小ワザ）

          こんにちはmakokonです。秒進分歩のAIの世界ですが、普段使いしているOpenAIのモデルも常に新しいものがリリースされています。公式ページを見に行ってもいいのですが、python中で確認できると便利だと思い、実装してみました。 公式ページでのモデルの確認方法まずは普通に、現在のモデルを確認できるページを紹介しておきます。 このページにアクセスすれば、現在使用可能なモデルを確認することができます。 https://platform.openai.com/docs/mo

          makokon

          OpenAIのモデルリストをpythonで確認する。（小ワザ）

          makokon

          pythonログラムの初歩１３／チャット履歴の手動実装

          こんにちはmakokonです。今日はgpt-4o-miniを使ったチャットにメモリ機能を手動で実装します。どうして今頃手動実装なのでしょうか？実はここのところLangChainの新しいチャット履歴管理のRunnableWithMessageHistoryを試しているのですが、安心して使えるような芳しい結果が得られていません。そこで、安心して使えるチャット履歴を試してみます。 まあ、そうは言っても難しい実装ではないので、pythonプログラムの初歩シリーズにしておきます。 チ

          makokon

          pythonログラムの初歩１３／チャット履歴の手動実装

          makokon

          未解決なエラー／どうしようかな。LangChainの新しいチャット履歴管理RunnableWithMessageHistory

          こんにちはmakokonです。先日LangChainの新しいチャット履歴管理として、今後はRunnableWithMessageHistoryはこれを使おうといったばかりなのですが、よくわからないエラーに悩んでいます。スッキリした解決がないので、記事にしても仕方ないのですが、現在の状況に対するこの問題を忘れないためにメモとして残しています。 遭遇したエラー この２つ Error in RootListenersTracer.on_chain_end callback: V

          makokon

          未解決なエラー／どうしようかな。LangChainの新しいチャット履歴管理RunnableWithMessageHistory

          makokon

          LangChainの新しいチャット履歴管理RunnableWithMessageHistory

          こんにちはmakokonです。 毎日チャットしてますか。 makokonは、毎日自作チャットアプリで、毎日マブダチのgpt-4XXXたちと友情を深めています。 そんな中で、langchainを用いたチャット履歴の変更があったようなワーニングが出ていたので、確認してみたという話。 すでにいろいろ試した記事はあるようですけど、自分で試さないとわからなくなりますので。 いつものチャットにエラーが出た。pythonライブラリを更新して、今日もいつもの楽しいおしゃべりをしていると、な

          makokon

          LangChainの新しいチャット履歴管理RunnableWithMessageHistory

          makokon

          gpt-4o-mini本当に早いのか？

          こんにちはmakokonです。 再びgpt-4o-miniの話です。この4o-mini爆速との評判ですが、ベンチマークを見ても実感できないですよね。 今回は、普通にある程度長い日本語要約でその速度を測ってみました。 準備入力素材 青空文庫から文庫から「吾輩ハ猫デアル」の全文をダウンロードしてwagahai.txtを作成しました。 ３７，３７４文字ということでまずまずの長さでしょう。 $ wc wagahai.txt 61 538 37374 wag

          makokon

          gpt-4o-mini本当に早いのか？

          makokon

          pythonプログラムの初歩１２／ファイルアクセス権限を確認しよう。

          こんにちはmakokonです。 今日はファイルのアクセス権限を確認するpythonプログラムです。 今日のエラーはこれ。めったに出ないのですが、出ると鬱陶しいし、たいていは容赦なくプログラムが止まるのでとても迷惑ですね。 PermissionError: [Errno 13] Permission denied: 　ファイルの名前 ファイルのアクセス権限とは？概要ファイルのアクセス権限は、誰がどのようにファイルにアクセスできるかを制御するための設定です。 アクセス権限の

          makokon

          pythonプログラムの初歩１２／ファイルアクセス権限を確認しよう。

          makokon

          （雑学）いただきもののキュウリが時々すごく苦いから、簡単に調べてみたい。

          こんにちは、makokonです。 先日、ご近所の方から自家栽培のキュウリをいただきました。そのまま食べても美味しく感謝していたのですが、一本だけ非常に苦いキュウリがありました。 ご近所の方も「今年は暑いから、苦いキュウリが混ざっているかもしれない」と言っていました。 暑さとキュウリの苦味にどんな関係があるのか、興味が湧いてきました。そこで、キュウリの苦味について少し調べてみることにしました。 「暑いから苦くなる？？？」 今回の結論キュウリの苦味成分はククルビタシンＣである。

          makokon

          （雑学）いただきもののキュウリが時々すごく苦いから、簡単に調べてみたい。

          makokon

          GPT-4o miniを早速試してみよう

          こんにちはmakokonです。 2024/7/18にGPT-4o miniが発表されていましたね。 https://platform.openai.com/docs/models/gpt-4o-mini GPT-4o mini とは？軽量版のGPT-4o 高精度：GPT-3.5 Turbo よりも高い精度 高速：スピードは同等 多モーダル対応：入力と出力の両方で対応 context size: 128,000tokens であり、GPT-3.5 Turboより

          makokon

          GPT-4o miniを早速試してみよう

          makokon

          Apple intelligenceの解説を読んでみた。（要約記事です）

          2024.6.10　Worldwide Developers ConferenceでApple Intelligenceが発表されましたね。思ったより新しくなかったのが残念だけど、流石によくまとまっていました。せっかくなので、その技術資料をまとめておきます。 Introducing Apple’s On-Device and Server Foundation Models - Apple Machine Learning Research ほぼこの資料の要点を整理しただけ

          makokon

          Apple intelligenceの解説を読んでみた。（要約記事です）

          makokon

          気がつくと色々新しい/Open_AI:gpt-4o,Google:gemini1.5pro,gemini1.5flash

          こんにちはmakokonです。すっかり投稿もご無沙汰でした。 しばらく、オープンなＬＬＭを触っていたのですが、気がつくとOpenAI、Googleが相次いで新しいモデルを発表したようですね。 関連記事がすでに大量に出ていて驚きました。 2024/5/13にOpenAIから"Hello GPT-4o"が、翌日5/14にGoogleから、"Gemini 1.5 Pro updates, 1.5 Flash debut and 2 new Gemma models"が発表されていま

          makokon

          気がつくと色々新しい/Open_AI:gpt-4o,Google:gemini1.5pro,gemini1.5flash

          makokon

          pythonプログラム初歩の初歩１１／関数とスコープ

          タイトル：pythonプログラム初歩の初歩１１／ 関数とスコープ こんにちはmakokonです。プログラム書いていますか？ 今日のテーマは関数とスコープです。スコープとは変数や関数などの名前がプログラム内で参照できる範囲のことです。 つまり、ある変数がプログラムのどこで利用できるかが決まっているということです。 そんなのが何の役に立つのでしょうか？利用できる範囲が決まっているならば別の関数を書いたときに、同じ名前を使ってもお互いに干渉しないということなんです。 本当に基本的な

          makokon

          pythonプログラム初歩の初歩１１／関数とスコープ

          makokon

          ニュースCall for High School ProjectsMachine Learning for Social Impact

          タイトル： ニュースCall for High School ProjectsMachine Learning for Social Impact こんにちは、makokonです。今日は気になった発表の紹介です。 ＡＩ学会であるNeurIPS（Neural Information Processing Systems）が高校生向けのプロジェクトを発表しました。NeurIPSは、機械学習、神経科学、コンピュータビジョン、統計学、自然言語処理など、幅広い分野の研究者が集まる国際

          makokon

          ニュースCall for High School ProjectsMachine Learning for Social Impact

          makokon