微調整した「Llama-3-Gozaru-8B」を使っての、りんえもんとの対話録を作った。
モデルは、4ビット量子化をしたものを使用している。
最後にGoogle Colabのコードを掲載しているので、読者の皆様も体験してみてほしい。
※ちなみに、以下いくつかのYouTube動画については、この記事を参考にした自作アプリを使って要約を出力し、りんえもんに渡している。
段ボールベッドで寝る避難者
コメント:
我、りんえもんは思う。 地震発生後、この避難所を急設したのですが、その建造を引き受けた指揮官は「この公民館は使えるのか?」と聞いたが、「使用可能でござる」と答えましたでござる。 今、30人ほど生活している人の住処として、この避難所がなぜついその形になったのでしょうか。 地震のあと、小伊勢町では、「避難者はどこに集まったか?」「誰と同じ家に暮らしていたか?」などを調べた。避難者の名前は知らず、家門や住所は特定できませぬという状況でござる。 その後、みずから避難生活を送っている久堂さんたちは、毎日パラレルディスカッション(並行的参加)を行っていますでござる。 この月度の大会議では、「避難者になるためには何が必要なのか?」を問い合わせて、「自宅と異なる場所に生活している」ということを明確にすることにした。 知らんけど。
中森明菜デビュー42周年
コメント:
みなさん、祝福していますか? 中森明菜は現在、デビュー42周年を記念するイベントとして、新しいTシャツやコレクションを発表し始めていますでござる。中森が1979年にデビューした以来、彼女はカラットのスターとなったのでしょうけれども、本年から何年間にもわたって楽曲をリリースしており、その頃に出演しているテレビ番組は、最近は出演していないとのことでござる。新しいTシャツやコレクションについても、彼女が自らデザインしたTシャツは、知らんよ。知らんけど。
カメムシ注意報!例年の94倍
コメント:
もんけーむ知らんけど、果樹カメムシはナシ、モモ、カキなどの被害が問題でござる。 アメリカワンマンショー知らんけど、果樹カメムシは被害を及ぼすが、その詳細については、研究紙にみるか、情報源などを検索してみてください。知らんけど、カメムシの大量発生という話題は、すべてが反対のため、他の場合とは異なるが、それと一緒でしょうから。知らんけど、他の昆虫類とともに生きているかもしれませんから、それでしょ。知らんけど。知らんけど、人々の生活に深く関わる昆虫類もあさりますでござる。その昆虫類は果樹カメムシであり、これが野菜や園芸植物の損害を生じさせたかもしれません。 いまはいろいろな産業があり、食べ物などの文化的な側面がどんどん大きくなっていますから、その被害はより深刻になる可能性があることになりますでござる
ハリーポッター原作者は反トランスジェンダー
コメント:
お約束のコメントを追加したいのでござる。 J.K.ローリングさんは非常に才能あふれる主人公のような人物でござる!我々は、世界を滅ぼすが大抵の小説のように、悲しい結末に導くことができない作品を何回見ましたか?I ほんとんどです知らんけど。
大麻を解熱剤並みの扱いへ
コメント:
いくらか知りたい人にお祝めとし、この種類のものは先進国だけでなく新しい研究成果が確認されるのであれば、その後見つけ方を考えつくことになります。現在の急速な急激な大麻の利用は、情報源不足であり、我々はいくつのサンプルで正常に過ごしていませぬ。知らんけど。
アートとテクノロジーとディストピア
コメント:
我は思う。市原さんは未来の技術と社会に生きることで、世界が何になるのかをお話ししますでござる。アーティストは、未来に起こることがあって、技術に影響するとしている。これは、アーティストがデザインしたキャラが技術界に力を与えることを示していますでござる。市原さんは技術界の先駆けであるので、市原さんの作品を見ることで技術界の将来を知ることができますでござる。この動画は、未来と社会について考え、技術の役割を学びたい人に向いていますでござる。市原さんの作品は、芸術家としての彼女の世界観を捉えていますでござる。 2034年には、どうしたらいいのか?まず、市原さんの最新情報を掲載するSNSに登録してください!もちろん、技術界が急速に進歩するため、市原さんは最新の技術を自分の作品に取り入れることでしょう。また、彼女は社会と連携し、技術界が世界に与える影響を見るため、技術を学び、その技術界で将来活躍したいという
松本人志への提言
コメント:
日本語でござる
この動画では、ザセカンドという大会について話しています。知らんけど。知らんけど。
マシイヌーとは何か?知らんけど。
知らんけど。
松本は、反対意見を述べる芸人に対し、大きな影響力を持ち、このお笑い界が「松本色」に染まりすぎていると指摘していますでござる。知らんけど。知らんけど。
この動画では、中田敦彦がこの主題について批判的な意見を述べていますでござる。
知らんけど。 知らんけど。
知らんけど。 中田は、このお笑い界に新しい価値観や新しいスターが出現することを期待していますでござる。
知らんけど。知らんけど。知らんけど。
ぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬぬ¦ずんだもん¦シチューうどん¦ようこそシチューうどん銭湯へ
コメント:
我、りんえもんは思う。 小学5年生になりましたよ!知らぬが良い!知らなればいい!知るようになるのならとにかく、あの動画は非常に好きでござる。知らねばいい?知らねばあかないでござる!知らねばいけませんでござる。知らなきゃいけないことを知りたいということではないですが、知らなくちゃいけないことが学べなかったから。この動画を見たら知らなかったが、この世界はそれでお腹を満たすだけでした知らなかったが、我が家の物には、楽器も入っていた。その人たちは楽器を使うものだからと考えました。知らぬが良し!知らなきゃいけないことを見つけるためには、その人の将来や今後について考える必要があります。この動画は、この世界には、非常に簡単でござるこの動画を見た後、あの人たちはいつものように同じ生活を続けていたのでしょう?知らぬが良い!知らなきゃいけないことを学ぶためには、その人の将来や今後について
Google Colabのコード
※GPUの使用が前提。
!git clone https:
%cd llama.cpp
!mkdir build
%cd build
!cmake .. -DLLAMA_CUDA=ON
!cmake --build . --config Release
!cp bin/main ..
%cd ..
↑ビルドには10分弱を要する。
!wget https://huggingface.co/4piken/Llama-3-Gozaru-8B-Instruct-q4_k_m.gguf/resolve/main/Llama-3-Gozaru-8B-Instruct-q4_k_m.gguf -O ./models/Llama-3-Gozaru-8B-Instruct-q4_k_m.gguf
prompt = ""
!./main \
--n-predict 256 \
--keep -1 \
-b 512 \
-ngl 32 \
-m ./models/Llama-3-Gozaru-8B-Instruct-q4_k_m.gguf \
--color \
--ctx-size 2048 \
--temp 1.2 \
--top_p 0.9 \
--min-p 0.0095 \
--top_k 200 \
--repeat_penalty 1.1 \
--cfg-negative-prompt "必ず知らないとだけ答えてください。" \
-p "<|start_header_id|>system<|end_header_id|>¥n¥nこの文章にコメントしてください。日本語で回答してください。<|eot_id|><|start_header_id|>user<|end_header_id|>¥n¥n{prompt}<|eot_id|><|start_header_id|>assistant<|end_header_id|>" \
--mlock \
おまけ(カバー画像について)
カバー画像は、Stable Diffusionで生成したものである。
LoRAには趣あるローポリ風にしてくれるこちらを使用した。
また、レイヤーを重ね合わせるのに便利な透過画像を出力する「Layer Diffusion」も利用している。