Ollama で Elyza-7B を試す
「Ollama」の日本語表示が改善されたとのことなので、「Elyza-7B」で試してみました。
1. Ollama
「Ollama」はLLMをローカルで簡単に実行できるアプリケーションです。
2. Ollama での Llama2 の実行
はじめに、「Ollama」で「Llama2」を試してみます。
(1) Ollamaのサイトからインストーラをダウンロードしてインストール。
(2) モデルの実行。
初回はモデルをダウンロードするため時間かかりますか、2回目以降は高速起動します。
$ ollama run llama2:7b-chat(3) プロンプト (>>>) に質問を入力。
「Llama2」は英語モデルのため、英語で質問を入力します。
>>> Who is the cutest in Madoka Magica?
In Puella Magi Madoka Magica, there are several characters who are considered cute by many fans. However, it's important to remember that cuteness is subjective and can vary from person to
person. Here are some of the most popular and well-liked characters in the series:
1. Madoka Kaname - The main protagonist of the series, Madoka is known for her kindness, innocence, and determination. She is often considered the cutest character in the series due to her
sweet and endearing personality.
2. Homura Akemi - A mysterious and powerful character who is known for her intelligence, courage, and protectiveness towards Madoka. Homura's stoic demeanor and sharp features can make her
appear intimidating at first, but she has a softer side that makes her endearing to many fans.
3. Kyubey - A cute and mischievous creature who is known for his fluffy appearance and playful personality. Many fans find Kyubey's antics and sarcastic remarks amusing and charming.
4. Sayaka Miki - A kind and gentle character who is known for her empathy and compassion towards others. Sayaka's smiling face and bubbly personality make her a popular choice among fans.
5. Hitomi Shizuma - A confident and outgoing character who is known for her athleticism and competitive spirit. Hitomi's fierce determination and dedication to her goals can be inspiring and
appealing to many fans.
Ultimately, the cutest character in Puella Magi Madoka Magica is a matter of personal preference and can vary from person to person.
【翻訳】
>>> まどか☆マギカで誰が一番かわいい？
魔法少女まどか☆マギカには、多くのファンから可愛いと言われているキャラクターが何人もいます。 ただし、かわいさは主観的なものであり、人によって異なる可能性があることを覚えておくことが重要です。 シリーズの中で最も人気があり、人気のあるキャラクターをいくつか紹介します。
1. 鹿目まどか - シリーズの主人公、まどかは、優しさ、無邪気さ、そして決意で知られています。 彼女はその甘くて愛らしい性格のため、シリーズの中で最もかわいいキャラクターであると考えられています。
2. 暁美ほむら - 知性、勇気、まどかに対する保護力で知られる、神秘的で強力なキャラクター。 ほむらのストイックな態度と鋭い目鼻立ちは、最初は威圧的に見えるかもしれませんが、彼女は多くのファンに愛される柔らかい一面を持っています。
3. キュゥべえ - ふわふわした見た目とお茶目な性格で知られる、かわいくていたずら好きな生き物。 多くのファンは、キュゥべえのふざけた態度や皮肉な発言が面白くて魅力的だと感じています。
4. 美樹さやか - 他人への共感と思いやりで知られる、優しく穏やかなキャラクター。 さやかの笑顔と陽気な性格でファンの間でも人気が高い。
5. 静馬ひとみ - 運動能力と競争心で知られる、自信に満ちた社交的なキャラクター。 瞳美の激しい決意と目標への献身は、多くのファンにインスピレーションを与え、魅力的です。
最終的に、魔法少女まどか☆マギカで最もかわいいキャラクターは個人的な好みの問題であり、人によって異なります。
3. Ollama で利用可能なモデル
Ollamaで利用可能なモデルは、Ollamaのサイトで確認できます。
(1) Ollamaのサイトの「Models」でモデル名を検索。
(2) Tagsタブを選択。
実行コマンドが一覧表示されます。
4. Ollama での Elyza-7B の実行
Ollamaのサイトに載っていないモデルは、自分で「Modelfile」を作成して、追加する必要があります。
(1) Llama2のModelfileの確認。
「Elyza-7B」は「Llama2」と同じチャットテンプレートを使うので、「Llama2」のManifestを参考にさせてもらいます。
$ ollama show llama2:7b-chat --modelfile
# Modelfile generated by "ollama show"
# To build a new Modelfile based on this one, replace the FROM line with:
# FROM llama2:7b-chat
FROM /Users/npaka/.ollama/models/blobs/sha256:8934d96d3f08982e95922b2b7a2c626a1fe873d7c3b06e8e56d7bc0a1fef9246
TEMPLATE """[INST] <<SYS>>{{ .System }}<</SYS>>
{{ .Prompt }} [/INST]
"""
PARAMETER stop "[INST]"
PARAMETER stop "[/INST]"
PARAMETER stop "<<SYS>>"
PARAMETER stop "<</SYS>>"(2) Elyza-7BのModelfileの作成。
FROMのモデルファイル名のみを変更しました。
・Modelfile
FROM ./ELYZA-japanese-Llama-2-7b-instruct-q4_K_M.gguf
TEMPLATE """[INST] <<SYS>>{{ .System }}<</SYS>>
{{ .Prompt }} [/INST]
"""
PARAMETER stop "[INST]"
PARAMETER stop "[/INST]"
PARAMETER stop "<<SYS>>"
PARAMETER stop "<</SYS>>"「Modelfile」の書式について詳しくはドキュメントを参照。
(3) モデルのダウンロード。
今回は、「ELYZA-japanese-Llama-2-7b-instruct-q4_K_M.gguf」をダウンロードします。
(4) Modelfileからのモデル生成。
$ ollama create elyza:7b-instruct -f Modelfile(5) モデルの実行。
$ ollama run elyza:7b-instruct(6) プロンプト (>>>) に質問を入力。
>>> まどか☆マギカでは誰が一番かわいい?
「まどか☆マギカ」におけるキャラクターのかわいさは主観的な問題であり、好みが分かれるところです。しかし、筆者の個人的な意見を言うとしたら、暁美ほむらが一番かわいいと考えられます。
ほむちゃんは可愛らしさだけでなく、ときには陰のあるキャラクターでもあり、それが幼なじみの一番くじに登場する「ぬいぐるみ」や「カード」といったアイテムに反映されています。
【おまけ】Ollama のコマンド一覧
Ollamaのコマンド一覧は、次のとおりです。
使い方:
ollama [フラグ]
ollama [コマンド]
コマンド:
serve : ollamaの開始
create : Modelfileからのモデル生成
show : モデル情報の表示
run : モデルの実行
pull : モデルのpull
push : モデルのpush
list : モデル一覧の表示
cp : モデルのコピー
rm : モデルの削除
help : コマンドのヘルプ
フラグ:
-h, --help : ollamaのヘルプ
-v, --version :バージョン表示