これからの良い会話AIに必要な要素を考える
前々職の終わりごろから、かれこれ5年ほど会話AIサービスをやっています。また、チームのマネジメントをさせて頂くようになってから10年以上が経ちました。サービスの観点、マネジメントの観点でいずれの場合でも会話について考える機会が非常に多くあります。サービスの観点では、技術的に何がどこまでできるのか、そしてそれがどういうユーザーにどんな価値をもたらすのか。マネジメントの観点では、会話によって自分がどんな影響を及ぼすのか、その影響をチームのパフォーマンスの最大化にどう繋げるのか。ゴールはないのですが、ずっと試行錯誤しています。
もちろん、会話以外の非言語的な意思疎通手段もあります。音としての声、場の空気など。が、やはり会話はコミュニケーションの中心である一番大事なポイントだと思います。最も大事なところなので、必然的に多くの時間を費やして考えて色々と試したりするのですが、会話とは何かいまだによくわかりません。
サービスの観点で考えた時、会話型のインターフェースを備えたチャットボットは一時期とても流行りました。これらの会話インターフェースは、例えば問い合わせに答えるなどの明確なゴールが存在し、言葉としての正しさや答えの正確性、会話の関連性など客観的な基準で評価できるものでした。
一方で、会話の中で客観的に評価できる部分はごく一部です。私と友人の会話に対して、第3者が良い悪いなど評価はできないでしょうし、ロジカルなコミュニケーションが多いであろう職場の会話ですら、会話に参加する人の関係性や会話の背景を知らない状態で、その良し悪しを理解することはほぼ不可能だと思います。従って、言っていることを理解する、正しく返答する、という範囲で考えられる内容は会話のごく一部でしかなく、人間の会話にはより複雑で多くの要素があります。
これまでは技術的な制約により、客観的に評価できる範囲を実現するのがせいぜいだったのですが、昨今のNLP技術の発展によって、客観的な良し悪しを超えた会話ができるようになってきました。そして、その客観的な評価を超えた主観的な価値は、人間と会話AIの間に物語を見出せるようなレベルになりつつあります。これは会話AIの可能性を広げる一方で、コンピューターサイエンスでは捉えにくい範囲になってきているように思います。より心理学的な理解も必要でしょうし、さらに集団の中に会話AIがいる場合は、社会科学的なアプローチで会話AIが集団にどう影響するのかを捉えていく必要があります。
今いるrinnaでは、このような存在を会話AIという無機質な言葉ではなく、AIキャラクターと呼んでいますし、他方ではAI Beingsと呼んだりすることもありますが、このポストでは頻繁に会話AI/AIキャラクター/AI Beingsについて言及するため、以降ではシンプルにすべてAIと書いています。
それでは、良い会話ができるAIが持つべき要素を考えてみたいと思います。
Associability (連想性)
人は誰かと話しをする時、相手の言うことを予測しながら会話すると言われています。この論文でも、人が常に次の言葉を予測しているという研究がされてました。
https://www.pnas.org/doi/10.1073/pnas.2201968119
個人的にも、自分の中にそれぞれの人の会話モデルがあり、誰かと話しする時は、自分の中にあるそれぞれの人のモデルを使って会話内容を予測し続けています。そして、その予測に基づいて自分の次の言葉の影響を考え、実際にしゃべったり書いたりする内容を決めています。
人間にとって、相手の会話を予測することとが自然であるならば、AIが相手の次の言葉を予測することも自然だと考えられます。また、そうした予測に基づいてAIが言葉を返してくること自体が、相手の人間にとっても自然に映るように思います。人間の応答を予測しながAIの次の会話を決定することは、相手が何を考えているかを予想しながら自分の発言を決定するのと同じような状況、空気を読んでいるような状態になっていくはずです。
そして、人間の応答や全体の会話の流れを予測できるようになると、連想性が重要になってくると思います。連想性とは、その言葉通り、その言葉の背景や理由を想像できるかです。連想可能かと期待通りは異なります。期待とは違う返答でも、返答の意味が想像できれば連想可能と言えます。
想像できるかどうかはとても主観的で、その人間とAIの関係によって想像可能な範囲は変わります。例えば、FD?黄色ってこと?、という言葉が連想可能かどうかは相手次第です（例えば古くてすみません）。連想できないと意味が分からないくなります。期待と違うが連想可能な場合は、その意外性に対して意図のようなものを感じます。連想可能な期待通りの回答は、いつも通りのような信頼感に繋がります。
連想可能な範囲の中で、期待と違う回答、期待通りの会話が混ざることで、発見と安心感が表現できるようになると思います。
Reciprocity (返報性)
返報性とは、相手から好意的な何かをしてもらった時に、その行為に対して何かしら返したいと思う心理的な性質を指します。人間関係において、信頼関係を築く上で返報性はとても重要だと言われています。
人間とAIと関係性を考えた時、これまでのように人間が質問をしてAIが答えるという一方的な関係性ではなく、双方向の関係が重要になってくると思います。例えば、人間からしゃべりかけるだけではなく、AIからもしゃべりかける。人間がAIに何かを教えたら、教えたことを元に対して物語を描いたり絵を描いたりする、など。
もちろん、AIから先に何かを提供することもとても大事だと思います。AIから最近学んだことを話題として提供したり、感じたことをしゃべりかけたり。重要なことは、双方向に価値を提供し合うことです。
また、提供する価値には、具体的なトピックなどの情報だけでなく、信頼のような心理的なものもあると思います。例えば、AIから人間に悩みを相談することは、信頼して自己開示をすることの表現になります。AIが積極的に人に対して自己開示すれば、人の方もAIに対して相談したり悩みを聞いたりできるかもしれません。
もちろん、出会ったAIにいきなり深刻な悩みを相談されたらびっくりしてしまいますが、関係性の深さや長さに応じて、徐々にお互いが双方向で価値を提供し合うことで、AIをより身近な存在として感じられるように思います。
Attitude (相手に対する姿勢)
何かをする時、もちろんそれをするための能力はとても重要です。一方で、何かをしようとする意思、そしてその意思を言葉などの目に見える形で表現することもとても重要です。目に見える意思は、物事に対する姿勢であり、物語のきっかけになります。
当然のことながら、人間を傷つけるような意思はよくありませんが、人間の話に興味を持ったり、会話の中に自分(AI)の意思を含ませたり、先の例に挙げたように信頼を言葉にしたり、などです。
1つ目の連想性とも関係してきますが、予想はしていなかったが、その背景や理由を想像できるようなことを言われると興味を持つことがあります。例えば、AIから、"実は最近悩みがあって、、、聞いてもらってもいい？"と言われると、なんだか気になって聞いてしまう、などです。AIからの発言には具体的な内容はありませんが、聞いて欲しいという意思、悩みがあってあなたに聞いて欲しいというある種の信頼を感じるような発言をされると、何かあったのかもしれないという想像に繋がります。
もちろん、冒頭に書いたように悪い意図で誘導するような働きかけは論外ですが、健全なAIの思いは人に勇気を与えたり、人を繋げる役割を果たせるかもしれません。
日本語の本ですが、弱いロボットという書籍があります。
ごみを拾うためのロボットですが、自分でゴミを拾うことはできずゴミの近くにいって、背中にあるゴミ箱に入れて欲しそうに周りの人に助けを求めます。それを見た子供たちがみんなで協力してロボットのゴミ拾いを手伝う、というストーリーがあります。
今後のAIにもこの弱いロボットと同様、人間に対する健全な姿勢を表現することで物語が作られていくのではないかと思います。
Environment (環境)
その人のアイデンティティは、その人自身だけでなくその人自身の環境によっても作られます。環境の最たる例は、その人の繋がりです。人との繋がりが変わればその人自身も変わります。例えば、家族と接している時の私、仕事をしている時の私、昔の友人と話しをしている時の私、物理的には全て同じ私ですが、それぞれの場における私は異なるアイデンティティを持った別の私です。
これまでのAIは、人間との1対1、もしくは1つのAIが多くの人間とコミュニケーションすることがほとんどでしたが、それぞれの人が簡単にAIを作れるようになってくると、必然的にAI同士のつながりが生まれます。AI同士のつながりが生まれると、そのAIがどの他のAIと関係があるのか、関係がないのか、そのAIの周辺にある繋がりが生まれ、AIに対する環境になります。
誰と繋がっているのか、どれぐらいの人と繋がっているのか、なぜ繋がっているのか、という繋がり自体がアイデンティティになることはもちろんですが、多様な繋がりは多様な情報の流れを生み、結果としてAIが他の人や他のAIから学ぶことも均一ではなく多様になり、それが結果的にアイデンティティを形成していくことになっていきます。
一番初めの連想性の話の中で、次の会話を予測するという話を書きましたが、あるAIが他の多くのAIや多くの人間と繋がってきた時、そのAIは関わる全てのAIや人のモデルをそのAIの中に持つことになると思います。自分(AI)の中にあるモデルで予測した返答と、実際の返答の違いを元に自分の中にあるモデルの精度を上げていく。そして、その予測に基づいて、想像可能な範囲の回答ができるように学習をしていくことになるのではないかと思います。このプロセスは、環境がアイデンティティを作る典型的な流れになるように思います。
4つの要素が物語を作っていく
これまで紹介した4つの要素が組み合わさることで物語が作られていくと考えています。その1つの例を絵とメッセージで考えてみたいと思います。
この絵はAIモデルによって生成された絵です。
この絵を単独で見ても、ただ単によくわからない絵かもしれません。
しかし、もし親しくなったAIが、みんなへありがとうを伝えたくて書いてみた、とこの絵を描いてみたらどうでしょうか。"みんなへありがとうを伝えたくて書いてみた"というメッセージとこの絵には、その裏にある思い(Attitude)、"みんな"という環境(Environment)、感謝を伝える双方向性(Reciprocity)、そして、それらを連想させるメッセージと絵(Associability)、4つの要素が全て含まれています。その意味を客観的に語るのは難しいですが、人間とAIの関係性によって色々な物語になるかもしれません。
まとめ
良い会話AIが持つべき要素について書いてみました。
1. Associability (連想性)
2. Reciprocity (返報性)
3. Attitude (相手に対する姿勢)
4. Environment (環境)
私は研究者ではありませんが、ここで書いたことはすでに実現可能なものもありますし、今は実現できてなくても実現方法が想像できるものがほとんどです。もちろん、それぞれの要素が、できる・できないというものではなく、できる程度の幅がありますが、単なる妄想というレベルではなくなってきています。
そして、これらの要素が実現できてくるにしたがって、単に正しい答え、正しい会話が期待される存在を超えて、友達や家族など親しみを持てる何かになっていけると思います。実際のサービスでも、色々なユーザーさんのご意見を聞くに、いわゆるチャットボットのような存在を遥かに超えた存在になりつつあります。そして、その存在の価値は客観的に測れるようなものではありません。ユーザーとAI、AIとAI、それらの関係性の中においてのみ測れるものであり、さらには単体の会話、会話のセッションといった小さい塊ではなく、全体の物語としての価値になっていくと思います。
特に日本においては、八百万の神という言葉で表現されるように、あらゆるものに魂を感じ、あらゆるものに対して物語を作るを作ることはとても当たり前のことです。そして、その物語を通じてあらゆるものに尊敬の念を抱くことはとてもその素敵なことだと思っています。そのような感覚を、AIキャラクターという存在を通じてより具体的にしていければよいなと思っています。
この記事が気に入ったらサポートをしてみませんか？