新しいBingの構築にあたって（2023/02/28、ニュースリリース）
※米国マイクロソフトからブログ更新のお知らせがニュースリリースで来ました！
+++++
新しいBingの構築にあたって
+++++
※本ブログは、米国時間2月21日に公開された
" Building the New Bing"の抄訳を基に掲載しています。
https://blogs.bing.com/search-quality-insights/february-2023/Building-the-New-Bing
1年半前の記事 https://www.linkedin.com/pulse/search-ready-revolution-jordi-ribas/ で、私は検索が解決した問題とはとても言えないこと、そして実際には革命の時を迎えていることを示唆しました。
ディープラーニングモデルを適用し、検索をよりモダンで直感的なものにすることで、ユーザーエクスペリエンスを大幅に改善できると提案したのです。
先日発表した新しいBing https://news.microsoft.com/ja-jp/2023/02/08/230208-reinventing-search-with-a-new-ai-powered-microsoft-bing-and-edge-your-copilot-for-the-web/ によって、このビジョンに向けた大きな一歩を踏み出すことができたことを大変うれしく思います。
この数週間、現在のプレビューに関して数多くの質問があったので、新しいBingとこれまでの経緯についてもう少し詳しくお話ししたいと思います。
■新しい Bing が生まれるまでの舞台裏
昨年の夏、OpenAI が次世代の GPT モデルをマイクロソフトと共有しましたが、それは市場を一変させるようなものでした。新しいモデルは、ChatGPT のベースとなっている GPT-3.5 よりもはるかに強力で、合成や要約、チャット、制作などの機能が大幅に向上していたのです。この新しいモデルを見て、当社では GPT の機能を Bing の検索プロダクトに統合するにはどうすればいいか検討するようになりました。これにより、長くて複雑で自然なクエリも含め、あらゆるクエリに対する検索結果がより正確で完全なものになると考えたのです。
■技術革新の舞台裏：Prometheus
新しい GPT モデルは、大規模言語モデル (LLM: Large Language Model) が飛躍的に進歩したことを示すものでしたが、他の LLM と同様、特定の時点におけるデータでトレーニングされたものでした。そこで、Bing のバックエンドパワーと組み合わせることで、ユーザーエクスペリエンスをより豊かに、より適切に、そしてより正確にできるのではないかと考えました。
具体的に言うと、Prometheus という独自のテクノロジを開発したのです。これは、最新かつ包括的な Bing のインデックスやランキング、そして回答結果と、OpenAI の最も先進的な GPT モデルの創造的推論機能を組み合わせた初の AI モデルです。Prometheus は、Bing と GPT の能力を活用し、Bing Orchestrator というコンポーネントを通じて内部クエリを繰り返し生成します。これにより、与えられた会話のコンテキスト内で、ユーザーのクエリに対して正確で豊富な回答を数ミリ秒以内に提供することを目指しています。この Prometheus が生成した回答を、当社では Chat アンサーと呼んでいます。
Prometheus のコアとなる仕組み、それは、関連する内部クエリを選択し、それに対応する Bing の検索結果を活用することです。この仕組みにより、関連度と鮮度が高い情報をモデルに提供できるようになります。これによってモデルは最近の質問に対し、より正確な回答を導き出せるようになるのです。この方法はグラウンディングと呼ばれています。別の言い方をすると、モデルは Bing から提供されたデータに基づいて判断するため、Bing Orchestrator を介して Bing のデータによってグラウンディングされるのです。以下の図は、Prometheus の仕組みをハイレベルで示したものです。
（図は画像に）
最終的には、天気や株価、スポーツ、ニュースなど、関連する Bing 検索の回答を、Prometheus が Chat アンサーに添付し、よりリッチで魅力的なユーザーエクスペリエンスを提供するようになるでしょう。Bing のグラウンディング技術により、Prometheus は Chat アンサーの文章に引用を埋め込むこともできるため、ユーザーはクリックするだけで簡単にそのソースにアクセスし、情報の確認が可能です。ウェブのエコシステムを健全に保つには、情報源にトラフィックを送ることが重要なので、Bing では引き続きこの仕組みを最大の目標のひとつと位置づけています。
■すべての人に役立つ包括的な体験の実現を目指して
グラウンディングは優れたイノベーションですが、新しい技術なので責任を持って適用する https://news.microsoft.com/ja-jp/2023/02/07/230207-responsible-ai-chatgpt-artificial-intelligence/ 方法を考えなくてはなりません。
不正確な情報を減らすことや、攻撃的で有害なコンテンツを防ぐことなどもその一例です。
そこで新しいBingプレビューでは、ユーザーからのフィードバックを収集し、Prometheusをさらに改善することを主な目標としています。
ユーザーからはすでに貴重なフィードバックを受け取っており、最初の2週間で実際のユーザーから学んだことの方が、数ヶ月間研究室で学んだことよりはるかに多いと感じています。
最近のブログ https://blogs.bing.com/search/february-2023/The-new-Bing-Edge-%E2%80%93-Learning-from-our-first-week で説明したように、当社ではその学びを実行に移そうとしています。例えば、モデルに送信するグラウンディングデータを4倍に増やし、Chatアンサーの精度を向上させる予定ですし、ユーザーがタスクや目標に応じて自身の体験を最適化できるよう、制御機能を高めるトグルを追加することも検討しています。
もうひとつ重要な学びがありました。それは、チャットのセッションがとても長くなると、ベースとなるチャットモデルが混乱し、Chatアンサーの精度が低下したり意図しない口調になったりすることがあるという点です。
そこで最近、チャット体験に対話回数の制限を設けました。
当社では、お客様のフィードバック https://blogs.bing.com/search/february-2023/The-new-Bing-and-Edge-Increasing-Limits-on-Chat-Sessions を基にチャット体験を拡張し、モデルのグラウンディングと口調の改善に努めており、対話回数制限の導入もその一環です。
■製品イノベーションの舞台裏：検索とチャットの統合
Prometheusは注目すべき先駆的なAIベースのイノベーションですが、ユーザーエクスペリエンスの観点からその機能をBingにどう統合するべきか明確にはなっていませんでした。
Bingチームでの主な見解は以下の2つです。
・検索は習慣として根付いているため、UXは現在のウェブ検索のようにして、PrometheusベースのChatアンサーをメインUXに追加すればいいのではないかという考えです。
Chatの回答も、他の回答と同様クエリとの関連性に基づいてその位置づけが決まります。
・これを機に検索のパラダイムを従来のウェブと回答結果から変更し、新しいインタラクティブなチャットベースの検索方法にするチャンスだという考えです。
どちらの意見も一部正しいのですが、いずれも全体像を把握できていませんでした。
従来の検索を支持する人は、一般的にナビゲーショナル クエリを使って自分の意見を主張する一方、会話型アプローチを推進する人は、ショッピングや旅行などリサーチ風の検索セッションを提示していました。
そこで、双方の意見を説明しようと、それぞれのクエリをグラフにしてみました。
すると、従来の検索モードでパフォーマンスが高まるクエリもあれば、会話型やチャットモードでより良い結果を出すクエリもあることが明らかになりました。
また、クエリの内容によってどちらか一方を好むユーザーもいます。
つまり、理想的なBing検索サービスでは、ユーザーの意図や好みに応じて検索モードとチャットモードをスムーズに切り替える必要があったのです。
そこでデザインチームがこの課題に取り組み、何度も繰り返し試みた結果、検索とチャットをひとつのインターフェイスに統合した新しいUXを開発しました。
これによりユーザーは、ページ内のUX要素をクリックするか、上下にスクロールまたはスワイプするだけで、UXを簡単に切り替えることが可能になります。
この製品、いやUXの革新は、間違いなくPrometheusテクノロジと肩を並べるほど重要です。
これにより、製品を直感的に最大限活用できるようになるのです。
以下のビデオは、旅行検索セッションで検索からチャットへ、またチャットから検索へとスムーズに移行している様子を示したものです。
( ビデオは、文末の日本マイクロソフト広報資料サイトからご覧ください。)
■すべての舞台裏にあるのは人
Prometheus のパワーと新しい検索とチャットのインタラクションモデルは、今後のブログで解説する他のイノベーションと共に統合されました。
これが、検索に次のレベルのイノベーションをもたらす新しいBingの構築へとつながったのです。
検索はこれまでとは違うものになると、私は確信しています。
新しいBingのユーザーは、より完全で文脈に沿った回答を得ることができ、場合によっては検索でのリサーチ時間を何時間も短縮できるようになるでしょう。
つまり、重要なことにより多くの時間を使えるようになるのです。
その過程で、検索がよりインタラクティブで楽しいものになったと感じていただければ幸いです。
プレビュー期間中もその後も、学ぶべきことや改善すべきことはたくさんありますが、こうしたテクノロジや製品の革新がすべて新しいBingに統合されたことを目の当たりにすると恐れ多い気持ちになります。
これはBingチームの長年の努力の集大成でもあり、彼らの粘り強さと創造性の証でもあります。
これを実現させたBingチームには、心から感謝したいと思います。
最後になりましたが、Bingをすでにご愛用いただいているファンの方も、初めてお試しになる方も、Bingをご利用いただきありがとうございます。この新しいBingは皆様のために構築したものですので、フィードバックは非常に貴重なものとして受け止めています。
今後も引き続き改善に努めますので、ぜひご意見をお寄せください。
これはほんの始まりに過ぎません。今後数週間から数ヶ月にわたり、さらに多くの情報をお伝えしていきたいと思います。
ジョーディ リバス （Jordi Ribas）
検索およびAI担当 コーポレートバイスプレジデント
●本ブログの詳細につきましては、日本マイクロソフト広報資料サイトをご覧ください。
https://news.microsoft.com/ja-jp/2023/02/28/230228-building-the-new-bing/