見出し画像

【ローカルLLM】Microsoft Phi-4を試した話【ollama】

Catapp-Art3D

はじめに

MicrosoftのPhi-4がollamaで利用可能になったので試してみました。素の性能が良いという噂は聞いていたのですが、これまでのPhi-3、phi-3.5の日本語性能がイマイチだったのであまり期待していませんでした。

ところがどっこい、今回はかなり日本語を上手く扱えるようです。本気でCopilot+ PCのローカルLLMでの実用的な日本語対応を考えているのかもしれません。

※ ollama + OpenWebUIで利用したレビューです

導入

# ダウンロード
$ ollama pull phi4

# 情報表示 
$ ollama show phi4
Model
    architecture        phi3      
    parameters          14.7B
    context length      16384
    embedding length    5120
    quantization        Q4_K_M

RTX 3060 (12G)上での動作なので、14Bは少しつらいかもしれません。

動作確認

要約用途

Wikipedia「日本の歴史」の要約で試します。次の指示プロンプトで要約させます。

  • Wikipeidaの記事は縄文時代〜江戸時代までの約10万文字

  • num_ctxは12288で実行

  • ollama ps

    • 11 GB 4%/96% CPU/GPU←12GBでは少し溢れていますが実用的な速度でした

あなたは、学術論文の執筆経験が豊富な研究者兼ジャーナリストです。以下の指示に従って、与えられた原文を分析し、学術的な観点から要約してください。
## 要約
指示原文を400-500字の日本語で簡潔に要約してください。
要約では、主要な論点、方法論、結果、および結論を明確に示してください。
学術的な文体を使用し、客観的かつ正確な表現を心がけてください。
専門用語と概念の分析原文に登場する重要な専門用語や概念を5-7個抽出してください。
各用語について、25-40字程度の簡潔な説明を提供してください。
用語の学術的な重要性や、研究分野における位置づけにも言及してください。
重要人物・組織の特定原文に登場する重要な人物や組織を列挙してください。
各人物・組織について、その役割や研究への貢献を1-2文で説明してください。
研究の意義と影響この研究の学術的・社会的意義を2-3文で説明してください。
研究結果が他の分野や将来の研究にどのような影響を与える可能性があるか、簡潔に述べてください。
## 原文
{{wikipediaの文章}}
## 出力形式
要約、専門用語、重要人物・組織、研究の意義と影響の各セクションを明確に分けて記述してください。
Markdown形式を使用し、適切な見出しと箇条書きを用いて構造化してください。
コードブロックや三重引用符は使用せず、テキストを直接記述してください。
## 注意事項
原文の内容を正確に反映しつつ、学術的な洞察を加えてください。
推測や個人的な意見は避け、原文に基づいた客観的な分析を心がけてください。
学術レポートに相応しい、形式的かつ専門的な言葉遣いを使用してください。

以下、Phi-4の回答です。

日本の歴史の概要

要約
日本は多くの歴史的変革を経験し、独自の文化と社会システムを発展させてきました。考古学的証拠によれば、大正時代初期には人類が現在の日本列島に存在していたことが明らかになっています。特に縄文文化や弥生時代は、日本の先史時代を形成する上で重要です。農耕技術の導入や社会階級の発展が進み、仏教の伝来によって文化的転換期を迎えました。その後、平安時代から鎌倉時代へと移行し、武士社会が成立します。

専門用語

  • 縄文人 : 現在の日本列島における先史時代の住民で、約1万3000年前から3千年前まで存在。

  • 弥生時代 : 農耕文化を伴う新たな文化が導入された時期（紀元前400年頃〜250年頃）。

  • 大和政権 : 日本の初期中央集権国家形成の基盤となった政治体制。

  • 律令制 : 大化の改新により導入された日本独自の行政制度。

  • 奈良時代 : 聖武天皇や文武天皇などが治め、平城京を中心とした時代（710年 - 794年）。

  • 平安時代 : 平安京の建設とともに始まり、院政期を経て、平清盛ら鎌倉幕府の成立へと続く時代（794年 - 1185年）。

  • 鎌倉時代 : 平家滅亡後に足利氏が支配を確立し、南北朝時代を経て室町時代へ移行（1185年 - 1573年）。

重要人物・組織

  • 天武天皇 : 大化の改新を推進し、日本の中央集権国家形成に寄与。

  • 聖武天皇 : 奈良時代の中心人物で、仏教文化の発展を促進。

  • 平清盛 : 平安末期から鎌倉初期にかけての政治・軍事的リーダーとして台頭。

  • 源頼朝 : 鎌倉幕府を開くことで武士社会の基礎を築いた重要人物。

  • 足利義満 : 室町時代における政治力を背景に日明貿易を推進。

研究の意義と影響
日本史の研究は、国内外で文化や歴史への理解を深める上で重要です。特に、縄文時代から現在までの長い時間スパンにおける社会的・政治的変遷は、人類学や考古学における基礎データを提供します。また、歴史的な視点から見た現代日本の文化的アイデンティティ形成への影響も大きいです。

このような研究は、特に国際的な学術交流や文化交流を促進する一助となります。さらに、日本の政治体制や社会構造がどのように形成されてきたかを理解することで、現代の問題解決にも応用可能です。歴史的背景を知ることは、未来への展望を考える上でも不可欠です。

このようにして、日本の歴史は単なる過去の記録ではなく、現代および将来社会に対する重要な洞察となっています。

少し、コンテキストが溢れて情報をスキップしているように思いますが、phi-3/3.5のような英語混じりの変な日本を使う事無く、上手く整理できていると思います。

日本文化の知識

まどか☆マギカの読書感想文を200文字程度で作成して

プロンプト

Phi-4の回答
『魔法少女まどか☆マギカ』は、現代社会に根ざした深いテーマを描きながらも、ファンタジックな世界観で魅了します。物語の中心は、一見普通の女子高生・鹿目まどかと彼女が出会う少女たちが「悪夢」を払うために戦う姿です。しかし単なる「魔法少女もの」とは一線を画し、運命や代償といった重く暗い問題を巧みに交えています。特に、「幸せ」を求めることの本質や価値について考えさせられます。「魔法少女」として成長するまどかは、他者への思いやりを持ちながらも自己犠牲の重みを知ることで、真の強さを得ていく。この作品は視聴者に多大な感動を与え、同時に人生そのものへの深い洞察を提供してくれます。

日本アニメBleachの読書感想文を500文字程度で作成して

プロンプト

Phi-4の回答
『BLEACH』は、久保帯人による大人気漫画であり、その後アニメ化もされた作品です。物語の舞台は現代日本で、主人公・黒崎一護が精神世界「霊界」に迷い込んだことから始まります。死神や幽魂たちとの遭遇を通じて、彼は自身の中に宿る「虚」という超常的な力を知ります。

一護の成長が物語の大きなテーマであり、仲間や家族と出会い、試練を乗り越えて自らの運命に立ち向かう姿が描かれます。死神・朽木ルキアや護衛役であるイザナギなど、個性豊かなキャラクターたちとの関係も物語を深めています。

アニメーション面では、戦闘シーンが特に魅力的で、緻密なバトル描写やダイナミックな演出が見どころです。また、世界観の広さも素晴らしく、霊と死神の複雑な社会構造や文化を興味深く描いています。

『BLEACH』は冒険や友情、成長をテーマにした作品であり、多くのファンに愛され続けています。心温まるストーリーとスリル溢れるアクションが絶妙に融合しており、見応え抜群の作品です。

以上が『BLEACH』への簡単な感想です。

知識としてはまだまだですが、日本語LLMとしてはほぼ完璧です。

画像生成用プロンプトの生成

滝を背景にした女性のポートレートの画像生成プロンプト

プロンプト

Prompt:

Create a photorealistic portrait of a woman standing before an awe-inspiring, majestic waterfall. The scene captures the delicate balance between nature and human presence.

  • Setting: A lush, verdant environment envelops her, with water cascading from towering heights into a crystalline pool below. Sunlight filters through dense foliage, casting dappled shadows on the ground and illuminating mist rising from the fall.

  • Subject: The woman stands confidently before this natural wonder, dressed in attire that harmonizes with her surroundings — perhaps light, flowing fabrics that catch the breeze.

  • Emotion & Pose: Her expression is one of serene contemplation or quiet admiration for the grandeur around her. She might have a slight tilt to her head as if listening to the waterfall’s roar, adding an introspective quality to the scene.

  • Details: Pay attention to realistic textures such as the water's movement, the intricate details on her clothing, and subtle reflections in the wet surroundings. Her gaze is directed towards or slightly past the viewer, creating a connection with anyone who sees this portrait.

This photorealistic piece should evoke a sense of tranquility and wonder, capturing both the beauty of nature and the human spirit’s connection to it.

Flux.1(dev)

プログラミング

jupyterlabとpygameライブラリを利用したテトリスゲームを作成して

最初の指示

自動で落下するようにして、かつ各オブジェクトを回転できるように改良して

回転機能なしで、自動で落下せず。二度目の指示

Ctrlキーで回転できるようにして

回転機能はあるようだが、キー割当がなかったので、三度目の指示

できたのがこちら、（回転はするが左右移動できなくなった）

しかし、一度もPythonエラーを出すことがありませんでした。ローカルLLM性能では間違いなく最高性能でしょう。

まとめ

今までのPhiシリーズは英語での性能が悪かったわけではないのですが、ライバルのLlamaやGemmaと比べると日本語性能で大きく劣るイメージがありました。しかしPhi-4では日本語チューニングモデル並の性能を出してるように思います。

一方で、最大コンテキストサイズが16Kなので、新しいモデルにしてはちょっと少ないような気もします。ただし、この規模だと家庭用ローカルPCでは8〜10K程度が物理的な上限なので関係ないのですが。

以下、関連する記事の【PR】です。


いいなと思ったら応援しよう！