#AIとやってみた
覚え書き：Hugging face 上でモデルの量子化が実行できそうです
昨日、Ollamaの説明を下記の見てました。
リンク先のGuideをさらに見てみたら、こんなノートがありました。
なんとHugging face 上で量子化ができるとのことです！
Create your own GGUF Quants, blazingly fast ⚡!
ログインして許可を与えると、こんなページです。
簡単な英語ですが、訳すると「このスペースは HF リポジトリを入力として
ローカルLLM（Llama-3,gemma-2）でAIアバター「えーあいそーだんいん」の観光案内セリフを作ってみた！
少しご無沙汰しております！横須賀市生成AI推進チームのM田です！
2024年4月27日から5月31日にかけて、メタバースプラットフォームVRChat上で、AIアバター「えーあいそーだんいん」の試験運用を行いました！
これは、もち山金魚さんのかわいい3Dアバター「まめひなた」に、スカジャンを着てもらって、GPT-4と魂のプロンプトを吹き込んだ、音声で会話を楽しんだり観光案内をしたりしてくれるAI
2024年7月にMicrosoftから一般公開されたGraphRAG(OSS)を爆速で検証してみた！！
こんにちは。アバナードの廣瀬です！
GraphRAGのオープンソース化に伴い、その使用感を紹介していきます！
GraphRagとは？既存RAGとの違い既存のRAG（Retrieval-Augmented Generation）はドキュメントの検索と生成を組み合わせて情報を提供しますが、GraphRAGはこれに加えて、グラフ構造を用いてデータ間の関係を明確にする方法になります。
これにより、複雑な
自動でプロンプトエンジニアリングする『APE（Automatic Prompt Engineering）』を試す。LangGraph
こんばんは、IZAIエンジニアリングチームです。今回は、自動プロンプトエンジニア(APE)についての論文のアイディアをもとに、遺伝的アルゴリズムチックにプロンプトを自動で調整する方法を試してみました。
APE（Automatic Prompt Engineering）とはAPEはAutomatic Prompt Engineeringの略で、その名の通り自動でプロンプトエンジニアリングを行うアル
LangChainを使った3つのLLM文書要約手法「Stuff, Map Reduce, Refine」を検証してみた。
こんにちは！株式会社IZAI、エンジニアチームです。
今回は、LLMのタスクとして活用の場面が多い文章要約の3つの手法「Stuff, Map Reduce, Refine」について検証して、その精度を比較していきます。
LangChainとは？LangChainとは自然言語処理の分野で活躍を期待されているオープンソースのライブラリで、チャットボットや自動要約アプリなどのAIアプリケーションの開発
Fugaku-llm-13BをMacで動かしてみる
昨日プレスリリースが発表された富岳を使った日本製LLMをMacで動かしてみました。
さて、以下からお試しができるようなのですが、登録が単に面倒なため、ローカルで動かしてみました。
まずは、mlx環境で、mlx-lmを使って動かないかを試しました。
mlx_lm.generate --model Fugaku-LLM/Fugaku-LLM-13B-instruct --prompt "以下は、
エンジニア経験の無い一般人男性が、AIマンガアシスタントを作っちゃう話（生成AIなんでも展示会ふりかえり）
2024年4月21日（日）、渋谷Abema Towers内、CyberAgent様のスペースで開催された、生成AIの個人開発者の展示会「生成AIなんでも展示会」に出展させていただきました。
私は、生成AI（主にLLM）を用いて、マンガの制作を助けるツールを作って、そのデモや成果物を展示しました。
当日は、たくさんの方にブースにお越しいただいて、事前に用意していたプレゼンテーションをほとんど使用せ
LoRAに関する論文をなんJ風に解説してまとめてみた
はじめに論文をなんJ風に解説してもらうと驚くほどわかりやすくなるようなので、LoRAに関する論文（LoRA改良版など）で試してみました。今回は、Claude 3とChatGPT4を使ってまとめと比較表を作成します。
こちらは論文を読むのが苦手な方に向けた記事です。ClaudeおよびChatGPTは間違いを犯すことがありますので、正確な情報は参照論文を確認してください。
なんJ風のプロンプトは、
【GPT-4とClaude3】キャラクター再現が上手なのはどっち？ずんだもんで検証
AIVtuberシロハナちゃん開発とAIヒロイン研究Pをしているyukiです。
今回はタイトルの通り、GPT-4と最近リリースされたClaude3(Opus)を比較してみようと思います。
ただ、普通に比較するだけなら他の方がしっかりまとめているので、AIヒロイン研究Pとして、キャラクター再現にフォーカスを合わせてまとめたいと思います。
YouTubeでもシロハナちゃんが本記事と同じような内容で
メモリープロンプト：ChatGPTに長期記憶を与えるAI共創NEO式プロンプトエンジニアリング
今回はChatGPTの長期記憶についてをGPTsアプリを用いて形成していこうと思います。それによって一貫した文脈で長文を自動生成することが可能となります。
書籍や小説など、長文を書く人向けのAIプロンプトエンジニアリングです。
AIが自動的にプロンプトエンジニアリングを行う『AI共創NEO式』のプロンプトエンジニアリングも学べますので、是非、最後までご覧ください。
↓早い話、こんなイメージの
Text generation web UI で Xwin-LM-13B-V0.1-GPTQ を試す。
「Text generation web UI」で「Xwin-LM-13B-V0.1-GPTQ」を試したので、まとめました。
1. Xwin-LM-13B-V0.1-GPTQnpaka 大先生が Google Colab で Xwin-LM を動かしていたので、私はローカルの Text generation web UI で Xwin-LM を動かしてみるチャレンジです。
shi3z さんは