見出し画像

【ローカルLLM】DeepSeek-R1-14B(ただし蒸留Qwen2)を使ってみた話②【中国LLM】

はじめに

下記事のつづきです。

他アーキテクチャに蒸留したなんちゃってDeepseek-r1モデルであっても、論理的な推論力はなかなかな実力がありそうです。

しかし、前回の記事の通り、蒸留モデルは何かと日本語の扱いが下手くそなので、そのままではほとんど利用価値がありません。しかし工夫すれば化けました。

OpenWebUIのバージョンを上げる

性能が上がるわけではありませんが、OpenWebUIを最新(0.5.6)にすると、<think></think>タグを認識してo1モデルっぽい表示になります。

thinkタグ

リーズニング部は英語もしくは中国語になるので、デフォルトで非表示になってくれるのは良いと思います。

他モデルで推敲する

OpenWebUIはコンテキスト(文脈)途中で簡単に他モデルに変更できます。deepseek-r1モデルで出力した、中国語になったり、英語になったり、ハングルやアラビア混じりの出力を整形できます。

「@」ショートカットキーでモデルを変更できます

たとえば、最近リリースされたMicrosoft Phi-4モデルで推敲させます。

音声コマンドの最適化
スマートフォンを使って、手を使わずにタスクを完了できるようにカスタムフレーズを設定し、常時リスニングモードを有効にすることで便利さを追求します。
スマートホームの統合
Androidアプリを通じて直接IoTデバイスを制御し、追加のハブなしで家庭管理を自動化するためのルーチン設定が可能です。
健康管理の強化
Google Fitや第三者アプリを活用して包括的な健康データ追跡を行い、ウェアラブルと連携させてスムーズにデータ同期します。
生産性向上のための自動化
AutomateやTaskerなどのツールで定型作業を実行し、ダークモードを自動的に有効にする設定や、手動でバックアップしなくてもファイルが保存されるようにします。
お金管理ソリューション
Android Payと連携した予算管理アプリを使用して費用追跡や節約の自動化を行い、QRコードで安全な支払いが可能です。
エンターテインメントの向上
ストリーミングサービスでピクチャー・イン・ピクチャー機能を活用し、個性に合ったエンタメアプリを通じて新しいコンテンツを発見します。
安全対策
セキュリティ設定を常に最新の状態に保ち、「探す」機能を活用してスマートフォンを見つけ、緊急連絡先を設定することで安全性を高めます。
旅行支援
翻訳アプリでナビゲーションをし、オフラインマップを使ってデータ消費なしの移動が可能です。カレンダーと同期した旅行計画ツールを活用して予約管理も効率的にします。
個人化
ショートカット、ウィジェット、テーマなどを自分好みに設定し、スマートフォン体験をカスタマイズして楽しみます。
学習と発展
Androidアプリを通じて言語学習やオンラインコースに参加し、デバイス間で同期される読書リストを活用して常に学び続けます。

考慮事項:
財務と健康関連のタスクには信頼性が高く安全なアプリを選択します。
電池持ち時間と機能バランスを保つため、明るさやデータ使用量の設定調整も忘れずに行います。
スマートウォッチやイヤフォンなど他のデバイスとAndroidを統合して操作性を向上させ、体験をシンクロします。
デジタルカード用のアプリでチケット管理を行ったり、ARアプリで創造的な使い方を探るなど、珍しい活用法も検討します。


結論:
日常生活にAndroidのツールを取り入れることで、より効率的かつ楽しいライフスタイルが実現可能です。試行錯誤は必要ですが、探求の過程自体も魅力的な経験となるでしょう。

Microsoft Phi-4モデルで推敲

さらにDeepseek-r1に戻して文脈を続ける事も可能です。

「@」で切り替えです。しかし、日本語が下手くそです

同じ事の繰り返しで、出力後にPhi-4で整形します。

Phi-4で再推敲

Android を日常生活に統合するための具体的なアイデア
現代社会において、スマートフォンは多くの人々の生活に欠かせないツールとして位置付けられています。特に Android 搭載端末はその柔軟性と豊富なアプリケーションを背景に、日常生活のさまざまな場面で役立つことができます。以下では、Android をより深く、効果的に日々の暮らしに組み込むための具体的なアイデアを紹介します。

1. 音声コマンドの最適化
音声コマンド機能は、多忙な現代人が手を使わずにさまざまな操作を行うための便利なツールです。Android 搭載端末は Google アシスタントと連携し、カスタムフレーズや常時リスニング機能を活用することで、生活をさらに便利にします。

具体例:「家に帰る」の声掛け: 家に到着した際、自動的に Wi-Fi へ接続し、好みのリラックス音楽を再生する設定。
朝のルーティン: 「おはよう」と声をかけると、アラームがオフになり、天気予報や交通情報が読み上げられる。

メリット:手間を省き、効率的な生活を促進します。
特定の場所で特定のアクションを自動化し、快適さを高めます。

2. スマートホームとの統合
Android 搭載端末はスマートデバイスや IoT 製品との接続が可能であり、家庭内の多くのタスクを自動化することができます。これにより、エネルギー管理や日々の家事効率化が図れます。

具体例:Google Home 連携: 照明や空調を音声で操作し、帰宅時には自動的に環境を整える。
自動ルーチン設定: 定時に電気ポットが湯沸かしを開始し、朝のコーヒーを待っている間に新聞を読む。

メリット:日常生活の自動化により、時間とエネルギーの節約が可能です。
家事や家庭管理が楽しくなり、生活リズムが整う。

3. 健康管理の強化
Android 搭載端末は健康トラッキングアプリと連携し、日々の運動量や睡眠状況を記録することができます。ウェアラブルデバイスも同時に活用すれば、より詳細な健康データを取得可能です。

具体例:運動ログ: 歩数や消費カロリーの記録を通じて毎日の運動量をモニタリング。
睡眠改善アプリ: 睡眠パターンを分析し、快眠を促すための具体的な提案を受け取る。

メリット:自身の健康状態に対する意識が高まります。
習慣形成のサポートが得られ、長期的な健康管理が可能です。

4. 生産性向上を目指した自動化
Android 端末と Tasker のような自動化アプリを活用することで、繰り返し行う作業を効率的に処理することが可能です。特定の条件下で自動的に設定や操作が行われるようにします。

具体例:Wi-Fi 切替: 通勤中の電車内で自動的に Wi-Fi をオンにし、乗り換え時刻に合わせてデータ接続を行う。
ファイルバックアップ: 夜間に自動的に重要なドキュメントをクラウドサービスへアップロード。

メリット:作業効率が向上し、時間の有効活用が可能です。
人為的ミスを減少させることで、仕事や生活全体の質を高めます。

5. 電子決済とお金管理
Android 搭載端末は電子ウォレットとしても利用可能です。Google Wallet や各種 QR コード決済アプリを使うことで、現金不要の安全な支払いが実現します。

具体例:QRコード決済: スーパーやカフェでの支払いに QR コード読み取りを利用し、スムーズなトランザクションを行う。
予算管理アプリとの連携: 銀行口座情報を同期させ、現在の支出状況を一目で把握する。

メリット:金銭管理がよりシンプルかつ効率的になります。
支払いの際の安全性が向上し、ポイント付与や割引も享受できる。

6. 娯楽体験の拡充
エンターテインメント機能は Android 端末の強みです。動画視聴やゲームプレイ、音楽再生などをピクチャー・イン・ピクチャー形式で活用することで、多重作業も可能にします。

具体例:映画鑑賞: ピクチャー・イン・ピクチャーを利用し、視聴しながら同時に他のアプリケーションを操作する。
ライブ配信: サブディスプレイとして使用し、オンラインゲームやコミュニティ参加も同時に行う。

メリット:多様な娯楽体験を提供し、時間の有効活用が可能です。
リラックスしつつ情報収集やコミュニケーションもできる。

7. 安全対策
安全性は日常生活における重要な項目の一つです。Android 搭載端末のセキュリティ機能を最大限に活用することで、個人情報や物理的安全性が向上します。

具体例:ロック画面設定: パターン認証や生体認証(指紋・顔認識)を活用し、スマートフォンの安全を確保。
緊急通知機能: 特定の条件下で自動的に家族や警察に連絡が行える設定。

メリット:スマートフォンの紛失時のデータ漏洩を防ぐことが可能です。
緊急事態発生時に迅速な対応が取れます。

8. トラベル支援
旅行計画から現地でのアクティビティまで、Android 搭載端末は必須の旅行パートナーとなり得ます。様々なアプリケーションを駆使して効率的かつ楽しく旅行を満喫します。

具体例:翻訳アプリ: 外国語の看板やメニューを読み取り、スムーズなコミュニケーションが可能に。
地図アプリ連携: 目的地までの最適ルート案内や現在位置の確認。

メリット:旅行中のストレスを軽減し、安心して目的地を探索することができます。
現地での情報収集や予約管理も容易に行える。

9. 個人化
Android 搭載端末はカスタマイズ性が高く、ユーザーの個性を反映させたデザインや操作感で使用することが可能です。これにより、日常的な使い勝手が向上します。

具体例:ウィジェット活用: 常に確認したい天気予報やカレンダーをホーム画面に配置。
アプリショートカット: 頻繁に使うアプリへのアクセスを容易にするため、ホーム画面にショートカットを置く。

メリット:毎日使用する端末がより自分らしいものになることで、愛着が増します。
必要な情報やツールへのアクセスが迅速化されます。

10. 学びの促進
オンライン教育プラットフォームや言語学習アプリとの連携により、Android 端末は知識の習得を支援します。隙間時間を活用した学びが可能となります。

具体例:オンライン講座: 料理やプログラミングのコース動画を視聴し、スキルアップを図る。
言語学習アプリ: 日々少しずつ外国語を勉強し、旅行などで役立てる。

メリット:学びの機会が増え、知識やスキルの向上に繋がります。
自己啓発のモチベーションが高まり、人生全般での成功をサポートします。

結論
Android 搭載端末は日常生活において多くの可能性を秘めています。上記のアイデアを実践することで、生産性や快適さが飛躍的に向上し、充実した生活を送ることができます。試行錯誤を通じて最適な方法を見つけ、自身のライフスタイルに沿った Android の利用法を確立していくことが重要です。

二度目のPhi-4の推敲

まとめ

画像生成AIと同様に、ローカルでAIを活用する場合、さまざまな言語モデルを自由に切り替えながら、何度でも利用することが可能です。

例えば、内容がプログラミングに関するものであれば、途中でCoderモデルを利用したり、数学的な問題にはMathモデルを使用したりすることができます。また、特定のRAG(Retrieval-Augmented Generation)に基づくモデルに切り替えることも有効です。

生成結果が満足いかない場合は、削除することで文脈をリセットできます。単にプロンプトを修正するだけでなく、複数のモデルを組み合わせることで、目的の生成物を効果的に得られます。

ローカルの強みは、画像生成と同じですね。

以下、関連する記事の【PR】です。


いいなと思ったら応援しよう!