「People + AI Guidbook」の紹介
この記事は Google の「People + AI Guidbook」を紹介するものです。
※ ガイドラインでは「AI」と「機械学習」という用語が使い分けられています。本記事でも、具体的な手法を連想させる場合には「機械学習」という表現を用います。
「People + AI Guidebook」とは
「People + AI Guidebook」は Google が主導している People + AI Reasearch (PAIR) の研究から得られた知見をまとめたガイドブックです。 Google のプロダクトから得られたベストプラクティスもまとめられています。実際に読んでみると、 機械学習を用いた機能を持つ Google Photo のようなアプリの UX が、このガイドブックに当てはまっていることに気付かされます。
近年、AI の研究開発はその速度を増しています。新しい技術が生まれるとともに、それらの技術のコモディティ化が急速に進んでいます。特に、 GCP や AWS, Azure といったクラウドプラットフォームでは、機械学習をフルマネージドで開発できる環境が用意されています。実際のアプリケーションに AI を導入して、効果的な機能を提供できている事例は、まだあまり多くはないと思われますが、今後はますますコモディティ化が進み、AI による機能を実装したアプリケーションが増えていくと予想されます。そのようなアプリケーションが増える中で、AI がユーザにもたらす体験は、従来のアプリケーションとは違ったものになります。その体験を設計する私たち開発者もまた、従来とは違った視点や手法を持つ必要があります。そんな中で、「People + AI Guidebook」は一つの指針になるのではないでしょうか。
目次を眺める
このガイドラインは以下の 6 つの章により構成されています。
- User Needs + Defining Success
- Data Collection + Evaluation
- Mental Models
- Explainability + Trust
- Feedback + Control
- Errors + Graceful Failure
「User Needs + Defining Success」では、プロダクトに AI を導入するべきかどうかの意思決定をする上で考慮すべきことについて書かれています。とても精度の高い予測モデルがあってもユーザがその価値を求めていなければ機能として成り立ちません。また、従来手法で十分な精度が出る場合にも導入するのは難しいでしょう。AI が独自の価値を発揮できるかは、意思決定のための重要な要素になります。
「Data Collection + Evaluation」では、どのようなデータを使うか、どのようにデータを集めるか、どのようにデータを評価するか、について書かれています。昨今では、AI プロダクトを開発する場合、その手法として機械学習が用いられます。機械学習は用いるデータとその評価（ラベリング、教師データ）によって解決できる問題が変わります。ユーザのニーズから解きたい問題を特定し、その問題を解決できるようなデータを用意します。
「Mental Models」では、ユーザのメンタルモデルについて書かれています。AI によるシステムは、時間とともに適応し、変化していきます。このことをユーザに理解してもらい、適切なメンタルモデルを構築していく必要があります。従来のプロダクトの多くは、一度（適切な）メンタルモデルを構築すれば、そのまま使い続けることができました。一方で、AI システムに対しては、時間経過により UX が変化します。そのため、ユーザのメンタルモデルを適宜調整するような仕組みが求められます。
「Explainability + Trust」では、AI システムの内部動作をどう説明するかについて書かれています。AI システムは確率的な動作を行い、その結果には不確実性があります。このことをうまく説明し、システムに対する適切な信頼をユーザに持たせることが重要です。言い換えると、ユーザが AI システムに対して適切な信頼度を持つようにメンタルモデルを調整する必要があります。
「Feedback + Control」では、ユーザからのフィードバックの重要性とどのように設計するかについて書かれています。AI システムは時間とともに変化し適応します。それはユーザからのフィードバックによって学習し、性能が変化するからです。信頼性の高いフィードバックを多く集めることが AI システムの精度向上にとって重要です。
「Errors + Graceful Failure」では、AI がエラーや失敗をした場合の設計について書かれています。AI システムは確率的な動作をするので、間違った動作をすることがあります。また、機械学習は学習データにない問題を解くのは難しく、ユーザが期待した結果と違った動作をすることもあります。エラーと失敗を適切に分類し、それぞれに対して対策をとることで、ユーザのメンタルモデルを適切に調整し、フィードバックによって AI システムを改善できます。
項目をいくつか抜粋して紹介
個人的に気になった項目をいくつか紹介します。
「Assess automation vs. augmentation」
この項目では、「自動化」と「拡張」について書かれています。AI プロダクトを作る上で、AI によって「自動化」をしたいのか「拡張」をしたいのかを考えるのはとても重要です。
「自動化」とは、従来人が行なっていた特定のタスクを AI システムによって肩代わりすることを意味します。近年よく聞く RPA などは「自動化」の一種です。
「拡張」は、人の既存の能力を拡張し、今までにない体験を提供することを意味します。「拡張」を「自動化」から完全に切り離すことは難しいかもしれません。例えば、 Deep Learning による線画の自動着色などは、着色を「自動化」している一方で、人が思いつかなかったような着色の仕方をしてくれ、今までにない作品を創作できるという点で「拡張」でもあります。
AI 技術を応用する上で、「自動化」にどうしても目がいってしまいます。その理由の一つとしては、ビジネスモデルがイメージしやすいというのがあります。「自動化」によって削減できる人件費は実際に計算することが可能であり、ステークホルダーを説得しやすくなります。一方で、「拡張」によって得られる利益というのはイメージが難しいものです。「拡張」によって得られる体験は人々が今までに経験したことがないものであり、それによってどのような利益が得られるのか予測することが難しいからです。しかし、削減できるコストが明確な「自動化」に比べて、どのような効果が得られるか予測のむずしい「拡張」には大きな可能性があるのではと思ってしまいます。
「Explain the benefit, not the technology」
タイトルからわかるように、この項目では、技術を説明するのではなくユーザにとってのメリットを説明することの重要性が述べられています。開発者である私たちはどうしても技術に注目してしまいます。 Deep Learning の最新の研究成果を用いて高精度なシステムを構築した場合、そのことを説明したくなってしまいます。しかし、一歩立ち止まって、その説明によってユーザが適切なメンタルモデルを構築できるのかどうかを考える必要があります。AI システムを構築する上で、ユーザのメンタルモデルを適切にコントロールしなければなりません。そのためには、技術よりもメリットを説明する方が効果的である場合が多いでしょう。
また、 Apple 社の AI プロダクトからはこのプラクティスを特に感じます。Apple の製品発表などを見ていると、ユーザが裏側の AI を意識しなくとも使えるレベルまで UX を高めてから製品化しているように見えます。そこには Apple の UX に対するこだわりが垣間見えます。
「Align feedback with model improvement」
この項目では、フィードバックをどのようにモデルの改善につなげるかが書かれています。機械学習を用いたプロダクトでは、学習データと教師データを集めるのがとても重要です。ユーザからのフィードバックは教師データとして扱えるため、適切なフィードバックを得られるように設計することが、システムの向上につながります。
最近、個人的に印象に残っているのは、 Google Photo の「アルバムのカバー写真推薦」と「写真の向き自動修正」です。
Google Photo でアルバムを作成した時に、アルバムのトップ画像が自動で選択されます。これは何らかの仕組みで推薦されていると思われるのですが、概ね満足のいく写真が選択されていました。しかし、たまに他の写真をカバーにしたい時があります。そういう時はアルバムの設定から簡単に変更することができます。これによって、システム側はどの写真をカバーに使うべきかという教師データを取得できていることになります。
「写真の向き自動補正」はシステムが向きが正しくないと思う写真を自動で見つけて、適切な向きに回転させてくれるというものです。この機能はシステムが勝手に行うのではなく、「自動で回転させるとこうなります、正しいですか？」という風にユーザに尋ねます。そこで、ユーザは正しくないものは容易に向きを回転して修正できます。この機能では、適切な信頼感をユーザにもたせ、かつ、フィードバックを受ける仕組みが用意されていると言えます。加えて、 Google Photo のこのような自動機能はたまに通知として案内が来る形式になっています。これは「Only introduce new features when needed」というプラクティスに乗っ取っていると思われます。
最後に
以上、簡単にですが、「People + AI Guidebook」の紹介をしました。ガイドブックの About ページにも書かれていますが、このガイドブックは PAIR での研究の発展に伴って更新されていくそうです。今後もその活動に注目し、定期的に確認していくのがいいのかもしれません。
この記事が気に入ったらサポートをしてみませんか？