個人情報を気にしないでChatGPTを使いまくりたい！PrivateChatGPTの取り組み - EdTech GAI Lab

「結局実務の中で扱うデータ、情報資産としてセキュリティレベル高いからワシはAIと一生お話しできへん・・・」というお話を最近は耳にします。
ChatGPTによってAIが一般化している一方で、まだ会社や組織の基準だと手軽に扱うにはガイドラインや仕組み、目線合わせが終わってないケース、めちゃくちゃあると思います。そんなかでも使えるように体制を変えていきたいですよね。そういったケースに向けた各種ソリューションも出始めているので本日はそちらをご紹介します。

Azure ChatGPT

 こちらはAzureを契約していればセットアップすることで比較的手軽に利用できるPrivate ChatGPTとなります。AzureがOpenAIと連携していることで、Privateなネットワーク内で完結してChatGPTのgpt-35-turbo または gpt-4を利用できます。インターフェースや機能は自身で作り込むこともできるし、Microsoftから提供されているUIを使うこともできる。
一方でまだAPI公開されていないようなCode InterpreterやCustom　Instructionsなどの機能は当然利用できない。

ただこちらは前提として

• Azureを契約していること

• その上で構築するエンジニアのリソースがあること

• 保守していく運用体制があること

などが求められます。

Private AI

PrivateGPT: The Privacy Layer for ChatGPT - Private AI

Private AIはChatGPTへ情報を投げるは投げるんですが、独自のアルゴリズムなどを用いて個人情報に該当する情報を削除・変換してChatGPTを利用できるようにするレイヤーを提供するサービスです。

利用の様子

上記のように個人情報（email）を投げようとした時にブロックするような仕組みが動作しているのがわかる。

AWS Marketplace: Private AI: Detect, Redact and Anonymize PII in 49+ Languages (ENGLISH)

クラウドでも利用できそうだが、AWSのmarketplaceにもサービス販売がされているので、独自ネットワーク内に構築もできそう。
ただそもそも個人情報を投げることを制限するようなセキュリティレベルの高い企業が、カナダのスタートアップの企業のプロダクトの導入を積極的にするのか・・・というジレンマもある。

ChatyFine

ChatGPTを活用した法人・行政向け | ChatyFine - ファイルアップロード・YouTube ・URL対応

国産のサービスでも存在する。おそらく上記のようなAzure ChatGPTといったサービスをラップしている国産Saasかなと。

オープンソースなModelを使い独自構築

https://github.com/imartinez/privateGPT

すでにさまざまな取り組みがあり、上記は一例。
HuggingFaceで公開されているようなモデルを参照して、構築するパッケージ。最近では国内産のモデルも増えてきており、またこれをFine Tuningすることでオリジナルなモデルを作る取り組みも増えている。

rinna、日英バイリンガル大規模言語モデルをオープンソースで公開｜rinna株式会社

最近ではrinnaのように積極的に管理・改善されているものも増えてきている。ただもちろん常に工夫改善されているようなOpenAIのようなサービスで使われているモデルと違い、「日本語での精度がでない」「速度が遅い」などの課題があることが想像できる。
AzureだけではなくAWSのようなクラウドでもまだPreview版ではあるがBedrockのような基盤モデルを使ったサービスも出てきている。

基盤モデルによる生成 AI アプリケーションの構築 - Amazon Bedrock - AWS

まとめ

まだまだ手軽に安全にプライベートなChatGPTを利用できる仕組みやサービスはないと言えるでしょう。導入に関してはテクニカルなことをまだまだ求められる、具体的には社内にある程度スキルのあるエンジニアがいる組織や体制がないと難しいと思います。外部発注するにしてもある程度発注側の知識も求められるでしょう。
そのため現時点ではリスク受容するのがまだいいかなと思います。

• オプトアウトさせる設定をすることと

• ガイドラインを適切に使って社内の利用者の教育を適切にすること

がまだまだ当たり前ですが重要ですね。