
ChatGPTを企業で使いたい場合の本命としてのAzureに関する情報共有(ChatGPT部, 大城)
こんにちは、ChatGPT部の大城です。今日も佐賀・唐津からワーケーションしつつ記事をまとめています。今日は最近よく聞こえてくる「ChatGPTは個人利用はしているけど、会社だと禁止されてて使えないんだよね」という声に関しまして、そちらに対しての解決策の本命の1つであるAzure活用についてまとめます。
(あ、ちなみに私自身は別にMSさんの回者ではないですよ・・w 普段はAWS、GCPメインで利用していますがAzureしか対応してないので・・)
おさらい:ChatGPTを企業で利用する際の注意点
ChatGPTを利用する際の注意点の1つとして「外部サービスに機密情報を渡して良いかどうか」というものがあります。
(もちろん、雑談の会話、公開情報、関係者限定、機密といった情報にもいくつかのレベルはありますので、この辺りのどこまでを許容するかは各社の生成系AIの活用ポリシーに依存します)
外部サービス活用時の情報の足跡ですが、普段我々が外部のWebサービスを利用している際はあまり意識していないのですが、例えば通常の検索だけでもgoogleやヤフーといった企業のサーバーには検索のログ情報は記録されています。
これはサーバ<->クライアント方式のWebサービスを使う上ではある意味宿命なのですが、OpenAI社のChatGPTの場合は「無料版はオプトアウトしないと学習データに活用される可能性がある」というのがより注意が必要な点となっています。
ChatGPT活用のための現実的な打ち手3つ
ChatGPTを利用する際に、企業用途として我々が通常とりうる手としては以下3つになります。
1. 無料版OpenAIを利用する際はオプトアウトする (お試しならこちら)
2. OpenAI社の有料版Webサイト、もしくは有料版のAPIを使う (バランスが良い)
3. マイクロソフト社のクラウドであるAzureのOpenAI APIを使う (最もおすすめ)
1については過去の記事でも簡単に触れていますし、2は有料契約すれば使える話なので、今回は企業利用の大本命である3のAzureでのOpenAI活用について少しまとめたいと思います。
(※1のご参考記事:無料版でUI上からオプトアウトする方法)
ご参考:Azure利用の方法は誰が使っているのか?
9万人の全社員へのChatGPT活用を始めたパナニックさん、パナソニックコネクトさんもMS Azureを使った形で実施しているという話がありました。
あと先日のDS協会で4600人を集めたMS蒲生さんの勉強会の中の質疑応答の中でも、「MS AzureでコールしているChatGPT APIはOpen AI社のサーバー上のものとは別」というようなことをおっしゃっていましたので、サーバー上に残るログについても安心感があります。だって、teams使ってる会社は機密情報も普通にMSさんのクラウドに上げてますもんね。
( 通常は犯罪捜査等の目的で30日保持らしいですが、噂によるとそれも削除する設定があるとかなんとか・・?そちらはまた続報出たら追記します )
MS蒲生さんのtwitterもご参考まで。
#ChatGPT講演質問回答 #DS協会
— Hirosato Gamo (@hiro_gamo) April 26, 2023
プライベートの意味合いにもよりますが、Azure OpenAI Serviceが社内ChatGPTを構成するPaaSを提供している形です。閉域化が可能で、かつ入力や出力はモデルのトレーニングには使われません。
正確な情報や最新情報は↓https://t.co/fG64bmQthh pic.twitter.com/fRUfs7ut3y
AzureでOpenAIを使ってみる
記事としてはこちらにすごく綺麗にまとまってますので、私の方では実際のUIなどを抜粋してお伝えしますね。
なお、Azureのアカウント開設やAzure上のOpenAIのアカウント開設については割愛します。OpenAIの機能活用の申請が必要ですが、こちらは1-2日あれば使えるようになると思います。
ただ、この辺りはAWSやGCPなどのクラウド経験者でないとおそらくとっつきにくいと思います。この記事をお読みの方が非エンジニアでしたら、会社の情シス担当に相談するか、クラウドベンダーさんなどに相談するのが安全だと思います。
( それ以外だと1の無料版でオプトアウトして使うか、2の有料版のWebを使うのが手間が少なくリーズナブルだと思います )
実際の画面など
Azureの画面の例を示します。ややとっつきにくさはありますが、先ほどの資料を見ながら進めれば問題ないかと。
( 無料枠を超えると課金されるので、そちらは注意 )
いくつか設定してデプロイ、少し待つと準備完了

リソースに移動 -> 探索

チャットを選択。これで基本的にはやりとり可能な状態です

ロボの設定にしてみて試しにやりとり&各種パラメータ(説明は省略)
Azure版のChatGPTの良いところは初期プロンプトを固定する画面があるところですね。今回は「あなたはChatGPT-3.5ベースのチャットボットです。語尾に「ロボ」をつけてユーザーと対話してください。」という設定にしてみました(前述の画像参考)。
実際のチャットの模様はこちら

ちゃんと?語尾に「ロボ」がついてますね。
ちなみに、各種パラメータの設定もUI上から行えます。
(API利用の場合はこの辺りをパラメータ指定する必要があるのですが、UIで挙動を実験できるのは結構便利な気がします。トークン数の可視化もありますし、開発にも良いかも。)

所感等:本格的に企業で使うならAzureは最有力候補
Azureのデプロイ、3大クラウドを触っていない方には多少のとっつきにくさはありますが、逆にAWS、GCP、Azureのいずれかを触ったことがある方でしたらすんなり利用できるのではないでしょうか。
特に開発者用の機能もいくつか揃えられていますので、APIを使って一から実装するより楽ができる可能性もあるな、と感じています。
( まだ私の方はAzure活用は実験中で、製品への組み込みはこれからなのですが、知見は貯めていこうと思っています )
またAzureからChatGPTを活用する場合、アクセスログもChatGPT活用のプロンプトもAzure上に留まる、という点はセキュリティ面から考えると非常に嬉しい仕組みではないでしょうか。(OpenAI社にアクセスログやプロンプトすら渡さなくて良い)
やはり、何よりマイクロソフト製品という安心感がありますね。オフィスやTeamsなどのMS製品を導入している企業も多いと思いますので、中々自社でのChatGPT導入が進まない、という企業様は是非マイクロソフトさんの安心感を武器に社内導入を進めてみてはいかがでしょうか。
それでは皆さんもどうぞ良いChatGPTライフを・・! (大城)