今週の旅bot達の様子。今週も連休があったので短めです。
ここ一週間の三姉妹の道程
mi
お疲れ様。旅記録を保存するようにしてから365日を過ぎました。パチパチ! 旅botそのものは数年以上動かしているのですがAIを組み合わせて旅記録が残るようにしてから1年です。
初上陸の上甑島を巡っているところですが、わりと落ち着いた列島という感じです。来週はそのまま甑島列島巡りの予定です。
これがX/Twitterへのポストの最初らしい(ローカルで旅をしはじめたのは2020/12頃から)
mu
お疲れ様。小豆島を回っているところです。こちらは上甑島と比べると全然観光施設が整っている感じがあります。こういうところは交通の便が大きな差なんだろうなと。来週はそのまま小豆島付近を回る予定です。
mei
お疲れ様。旅に詳しくないとニューアークとか聞いてもニューヨークのバッタ物とか思っちゃいますね。。でも大きな都市だというのがわかります。とりあえず来週はこの付近を細かく巡る予定です。
Llama3.1-Swallow-8bを追加
Llama3.1-Swallow8bを追加しました。当初huggingfaceにあった量子化版をOllamaに追加しようとしたのですがうまく入らなかったのです。そしたらOllamaサイト側に量子化モデルが追加されているという話しを見つけたのでそれを使用しています。
今までもSwallowモデルは使ってきているのですが、Llamaをベースにすることで安定度はかなり上がっていると感じます。とりあえず既存のSwallowからこれに切り替えています。
先を超された。。という話し
げげん、似たこと考えてたんですよー。。
考えていたAI DJはは以下のような形です。
朝スマホで斜め読みして気になったニュースや記事などをブックマークする
15時くらいになったら、mi-front経由でchromeからスマホのブックマークに今日追加されたurlを取り出す
url先をスクレイピングして、AIで要約する
要約文の前後にラジオMC/DJ風に司会文章を付けて音声読み上げする
以前書いていた「mi-serverへの小さな新機能追加」はこれのことなんです。
「ローカルLLMで生活ファイアウォール」シリーズで「ニュースも自分の好きな記事だけにするとよいよね」みたいな応用で考えていたのです。
一応、一通り動きは通っているもののスクレイピングからAI要約にするところで「多量に文をLLM APIに通すとコストかかるかなー」とか「本文より広告のテキストが取れてしまって記事内容が出てこない」とか3の処理の周りでどうするか悩んでたんですよ。
shi3zさんの記事を参考にもう少し練ってみるかな。難読語/専門英単語をローカルLLMで音読みにするとか使えそうだし。
とか思ってたら今朝の記事で
こういうのもあるのか。。
皆、いろいろ考えてるな。。
あと前回の話しで書いていた「Appleが今のLLMは真の推論をしていない」って言った話しに対する自分の見解もまとめ中です。