社内問い合わせ対応を自動化! RAGで実現するchat BOTの進化
皆さんの仕事では、社内問い合わせ対応がどれぐらいのタスク量を占めていますでしょうか?
所属部署でAIを使った効率化及び自動化をするため、各メンバーにタスクの棚卸しをしてもらったところ、意外と多かったのがこの「社内問い合わせ対応」。
例えば、こんな問合せ↓
営業からサービスについての問合せ
各部署から社内規定や申請方法など総務や人事への問合せ
マーケティングからデータベース参照先
多くの会社にとって負担となる業務の一つなのではないでしょうか?
これをAIを使って減らせないかと思っていたのですが、どうやらRAGという技術を使えば出来そうなので、本日はそのRAGについて書いていきます。
※RAGの実装方法を紹介しているわけではないので、それは具体的に手順を書いている記事を参照してみてください。
RAGとは
RAGとは、(Retrieval Augmented Generation)の略で日本語だと「検索拡張生成」と言うそうです。
こういった質問は自分の限られた知識で拙い説明をするよりも、ChatGPT先生に聞いた方が早いですね 笑
プロンプト:RAG(Retrieval Augmented Generation)を中学生にでもわかるように解説してくれますか?
つまりは、標準の生成AIは既に読み込まれた情報を基に回答していたのですが、先に情報を集める→それに基づいて生成する事が可能になります。
そうすると、社内問合せ対応Chat BOTが実現を帯びてきます。
その理由を次に説明していきます。
RAGで実現する社内用問合せChat BOT
では、どうやってRAGで社内問合せ対応Chat BOTを実現するのかと言うと、検索(Retrieval)の時点で必要な情報を先に伝えることで実現します。
検索(Retrieval)する情報を事前にQ&A表などで渡してしまえば、それに基づいて回答を生成してくれるため、特定の情報に特化したプチChat BOTを多数用意する事が可能になります。
例えば、営業からの社内サービスの問い合わせなのであれば、そのサービスのQ&Aを作っておき、読み込ませることで、その情報に基づいた回答が可能になります。
プロンプトの中に「読み込ませた情報のみに基づいて回答してください」と入れておけばハルシネーションも防げる気がしています(まだ100%の保証はないですが…)
お手軽に進化するChat BOT
このchat BOTの便利なところは、お手軽にChat BOTを進化させる事ができる点だと考えています。
例えば、Q&Aにない新しい質問が来た時や商品やサービス、機能が追加された時などは、新たにQ&Aに追加していけばすぐに回答に反映させる。
これは、いちいちシステムをいじることもなく便利ですよね。
常に最新の情報に基づいた回答を提供することが可能となり、情報の属人化を防ぐこともできるのでは?
RAGは、既存のchat GPTではできるのか?
そんな大々的にアピールしてきた肝心のRAGの実装方法ですが、現時点ではchat GPTに具体的にその技術の記載はありません。
ただChat GPT4であれば、プロンプト内に情報を添付することができますので、ある程度の回答は得られます。
しかし、聞きたい側が毎回読み込ませる必要があるので、質問者にその過程をしていただく必要があり少し実用レベルは低いのかと。
また通常のChat GPTだと、社内情報を読み込ませる必要があるため、セキュリティ面では不安が残ります。
(というか、通常社内規定的にアウトですよね…)
RAGをどうやって実装するのか?
ネットで調べてみたところ、少し事前の手間をかけるとクローズなRAGの実装は可能そうです。
こちらGoogle Cloudを使った例です↓
こちらにも紹介されています(言いたい事はわかりますが、ノンエンジニアな自分には、具体的にどう実装するかまではわからないです…)
こんな感じで調べるとRAGの実装方法が沢山出てきます。
ただノンエンジニアが直ぐに実装するには、まだ少し障壁がありそうです。
では、どうするか?
一旦、自分の判断としては、変化の早い生成AIの事ですから、回りくどい事をしなくても、少しするとこの辺も感覚的にできるようになるのではと考えています。
もし社内で気軽に聞けるエンジニアの方がいれば、見せて聞いてみるのもありかもです。
もしくは、簡単にできる方法があれば、コメントで教えてください…!
まとめ
RAGを用いることで、chat BOTの精度を大幅に向上させることができるようになります。
また常に最新の情報をアップデートして、大幅な業務効率化をすることが可能になることが予測されます。
ただ、まだ既存のchat GPTでは十分な機能がないため、別途開発が必要になりそうです。