生成AI時代におけるオンプレミスのメリットとデメリットを徹底解説！
企業情報システム部門のみなさん！「ウチはオンプレだから、生成AIは導入できないよ……」と考えていたりはしませんか？
ですが、実はそんなことはありません！生成AIとオンプレミスは意外にも相性抜群。オンプレミスでオープンソースの生成AIを運用することで、「社内情報の流出」「社外からの悪用」等のリスクが軽減できちゃうんです！
ということで当記事では、生成AI時代におけるオンプレミスのメリット・デメリットを紹介。あわせて、オンプレミスでも使える生成AI & 自律型AIエージェントについてもお伝えしていきます。
完読いただくと、生成AI導入・DXの選択肢が広がるかもしれません。
ぜひぜひ、最後までお読みください！
「オンプレ回帰×生成AI」は相性抜群！
テキストや画像等、新しいコンテンツが生み出せる生成AIは、自社システムの運用形態をクラウドからオンプレミスへ逆行させる「オンプレ回帰」との相性に優れています。
まず「オンプレミス / on-premise」は、システムの稼働に欠かせないハードウェアとソフトウェアを自社で保有しておく運用形態のこと。社外のハードウェアをインターネット経由で借用する新しい運用形態「クラウド」と区別する呼称で、時代遅れの産物のように扱われてきました。
ですが、昨今、セキュリティや通信速度の面から、クラウド化を中止してオンプレミスに回帰（オンプレ回帰）する企業が増えてきています。そんなオンプレミスは、ITの最先端技術・生成AIとの補完性も抜群。生成AIが抱える「社内情報の流出」「社外からの悪用」等のリスクをオンプレミスが軽減してくれます。
オンプレミス型のメリット4点
クラウドと比べた際のオンプレミスのメリットは、
カスタマイズ性が高い
セキュリティに優れる
既存システムとの連携が容易
通信速度が安定している
以上の4点で、生成AIに最適です。まずはオンプレミス最大の強み「カスタマイズ性」から、詳しくみていきましょう。
メリット1.カスタマイズ性が高い
オンプレミスでは自社の要件に合わせて、ハードウェアとソフトウェアがそれぞれ自由に選べます。具体的には……
OS
各種ソフトウェア
CPU
GPU
ストレージ
安全装置
付加機能
ネットワークインフラ
セキュリティ周り
…etc.
の全てが自由にカスタマイズできる、というわけです。予算次第ではありますが、生成AIに必要な計算リソースが際限なく追求できます。
またメンテナンスの内容やタイミングについても、社内のスケジュールに合わせて設定が可能。生成AIだけでなくアジャイル型の開発にも柔軟に対応できるでしょう。
メリット2.セキュリティに優れる
オンプレミスの場合、システムの運用は自社ネットワーク内（ローカル）でほぼ完結。外部ネットワークからの影響を受けづらいため、セキュリティ性能に優れているのもオンプレミスの魅力です。
またネットワーク面以外では……
高度な暗号化
ファイルサーバーやNASによるバックアップ
といった対策も採用可。ローカルで使えるオープンソースの生成AIと組み合わせることで、生成AI特有のセキュリティリスクが軽減できます。
メリット3.既存システムとの連携が容易
先述のとおりオンプレミスでは、使用するソフトウェアが自由に選べます。したがって新しいシステムを導入する際には、既存システムとの統合・連携が比較的容易です。例えば、旧来のシステムと生成AIを組み合わせて新たなソリューションを生み出す、といったことも行えます。
メリット4.通信速度が安定している
オンプレミスでは社内のネットワークを利用するため、通信速度が安定しています。先述のメンテナンスを完全自社都合で進められるという点も相まって、いつでも快適な通信環境が用意可能です。したがって……
生成AIの利用
データの転送
バックアップ
等、日常的に恩恵が受けられます。
オンプレミス型のデメリット3点
一方でクラウド化が推し進められてきたように、オンプレミスには以下のデメリットも残っています。
導入コストがかかる
社外からのアクセス性が悪い
災害対策が難しい
まずは中小・ベンチャー企業を阻む「導入コスト」から、詳しくみていきましょう！
デメリット1.導入コストがかかる
オンプレミスを導入する際には、ハードウェア・ソフトウェアの調達からシステムの構築、不具合の修正までを自前で行わなくてはいけません。
結果として、費用・時間の面で多大なコストが発生します。目安としては……
オンプレミス導入にかかる費用：数百万円〜数千万円
オンプレミス導入にかかる期間：数週間〜数ヶ月
以上のとおり。中小・ベンチャー企業にとっては最大の障壁となります。
デメリット2.社外からのアクセス性が悪い
オンプレミスでは、社内のネットワークでシステムを完結させるため、社外からのアクセスが困難。テレワーク・外出・出張時に社内システムへのアクセスを許可するためには、別途設定が必要です。
デメリット3.災害対策が難しい
オンプレミスでは、社内のシステムやデータを自前のハードウェアで管理します。
したがって、地震・雷・火事・洪水等の災害に対しては、自社で対策を立てなくてはいけません。そして万が一、災害によって物理的な故障が発生した場合は……
システムの復旧作業
機材の修理・買い替え
破損したデータの復元
などの対応に追われることになります。こちらについては、仮想化に対応したクラウドに軍配が上がります。
オンプレミスで使えるおすすめ生成AI 5選
ここからは、オンプレミスでおすすめの「ローカル環境で使えるオープンソース生成AI」について紹介していきます。今回はテキスト&ソースコード生成用のLLM 4種と画像生成AI 1種をピックアップ！まずはFacebookとInstagramでおなじみMeta社のLLMから、詳しくみていきましょう。
Llama 3
「Llama 3」はFacebookとInstagramでおなじみのMeta社が送るオープンソースのLLM。パラメータ数80億の「Llama 3 8B」とパラメータ数700億の「Llama 3 70B」がそれぞれ公開されていて、どちらもローカル環境にインストールして使うことができます。
このLlama 3は、現在最強のオープンソースLLMです。大型モデルのLlama 3 70Bは、性能面でGemini Pro 1.5やClaude 3 Sonnetを圧倒。さらに社外トレーニングモデル「Llama-3 8B Gradient Instruct 1048k」は、Gemini Pro 1.5に匹敵する1Mトークンものコンテキストウィンドウを獲得しています。
以上のLlama 3は2024年6月現在、英語のみに対応しています。したがってオンプレミスにLlama 3を導入する場合は、コーディング目的での運用がメインになるでしょう。
LLaVA 1.5
オンプレミス・ローカル環境用マルチモーダルLLMについては「LLaVA 1.5」がおすすめです。また、日本語での入出力に対応済み！他の日本語非対応のマルチモーダルLLMとは一線を画しています。
さらに画像媒体と言語媒体を繋ぐ理解力にも優れていて、画像と無関係な質問を入力した際には、しっかり質問を否定できます。
PLaMo-13B
「PLaMo-13B」は株式会社Preferred Networksが送る純国産・オープンソースの小型LLM。他の小型LLMと比べて、日本語&英語での処理能力に秀でています。オンプレミスでのテキスト生成で活躍してくれるでしょう。
StableLM 2 1.6B
「StableLM 2 1.6B」はStability AI社が送るオープンソースの超小型LLMです。その最大の特徴は、パラメータ数がたったの16億、という点にあります。オンプレミスでも高速処理が実現するはずです。
それでいて性能面も犠牲にはなっておらず、英語 / スペイン語 / ドイツ語 / イタリア語 / フランス語 / ポルトガル語 / オランダ語の多言語でのテキスト生成が可能です。
加えて日本語特化の派生モデル「Japanese Stable LM 2 1.6B」もリリース済み。オンプレミスでのテキスト生成に最適です。
Stable Diffusion
同じくStability AI社からは、オンプレミス・ローカル環境で使える画像生成AI「Stable Diffusion」もリリースされています。こちらでは、「Text-to-Image」すなわち自然言語の命令による画像生成が可能で……
LoRA：画像の特徴の学習
マージ：モデル同士のブレンド
といったオープンソースならではの拡張もできます。
さらに最新モデルの「Stable Diffusion 3」では、文字の生成も破綻なく可能。環境さえあれば、DALL-E 3やMidjourney以上の活躍をみせてくれるはずです。
オンプレミスで使える自律型AIエージェント3選
続いては、オープンソースLLMとの連携でコーディングやPC操作が自動化できる「自律型AIエージェント」3種を紹介！まずは万能選手の「Open Interpreter」から、詳しくみていきましょう。
Open Interpreter
「Open Interpreter」は生成AIとの連携で、データ解析 / PDF生成 / 画像生成 / ブラウザの自動操作 / PCの自動操作…etc.ができる万能選手な自律型AIエージェントです。オープンソースLLMとの連携が可能で、オンプレミス・ローカル環境でもその恩恵が受けられます。
しかもこれだけそろっていて、利用料金はなんと0円！そんなOpen Interpreterは、オンプレミスでのDX・自動化におすすめです。
GPT Engineer
プログラミング用の自律型AIエージェント「GPT Engineer」も、同じくオープンソースLLMとの連携&無料利用が可能。機能としては……
コードベース全体の生成
コードベースの実行
ソースコードの修正
ソースコードの構成の指定
といったものを備えています。オンプレミスでのアプリ開発にうってつけです。
Local GPT
オープンソースLLMを使って社内ヘルプデスクを自動化したいのであれば、「Local GPT」がおすすめです。こちらならオンプレミス・ローカル環境で……
オープンソースLLMによるチャット機能
RAGを使ったデータの引用機能
が実装可。加えて利用料金が無料のため、高セキュリティなチャットボットが低コストで作れます。
オンプレミスは生成AI時代の「古くて新しい選択肢」
当記事では、昨今人気が再熱している「オンプレミス」について、メリット・デメリットをお伝えしました。システムを社内で完結させるオンプレミスの強みは……
カスタマイズ性が高い
セキュリティに優れる
既存システムとの連携が容易
通信速度が安定している
以上のとおり。意外にも、独自のセキュリティリスクを抱える生成AIとの相性に優れていましたね。
そしてすでに、オンプレミスに適したLLM・AIツールが登場しているのは、お話ししたとおりです。以上を総括すると、オンプレミスは生成AI時代の「古くて新しい選択肢」であるといえます。クラウド化以外にもDXの方法がある、ということをお含みおきください。