Google AI デザインワークシート

Google Design の People + AI を読む続きです。

User Needs + Defining Success というページには、プロジェクトで使えるワークシートが付録でついてきます。

Even the best AI will fail if it doesn’t provide unique value to users.

どんなAIでも使い方を間違うと役に立地ません。ユーザにユニークな価値を提供できなければ失敗。ここでのuniqueはAIならではの、独自の、くらいに捉えれば良いでしょう。

Who are your users?
What are their values?
Which problem should you solve for them?
How will you solve that problem?
How will you know when the experience is “done”?

AIであろうがなかろうが human-centered なデザインではまずユーザのことを考える。最後の行は面白いですね。どこでエクスペリエンスが「終わった」ことにするか。個人的には何を持って「目的を達成した」とするかといった評価基準の方がしっくりきます。AIが記憶を持つようになるとより「終わり」の定義が曖昧になってくるなと思ったり。

ではワークシートを見ながらAIを使ったデザインでは何を考えれば良いのか、について考えてみます。

ユーザのニーズとAIの強みが交差する点（intersection）を見つける。

Find the intersection of user needs & AI strengths

ユーザのニーズが存在して、かつ、そのニーズに対して他の方法よりもAIが向いていることを確認します。他の方法の方が簡単でメンテナンスも楽かもしれません。

How might we solve _________{ our user need }___________?
Can AI solve this problem in a unique way?

どうやったら {ユーザのニーズ} を解決できるだろうか。AIはユニークな解になり得るだろうか。

We think AI { can / can not } help solve ________{ user need }_________, because
_____________________________________________________________________________
_____________________________________________________________________________

私たちはAIが {ユーザのニーズ} を解決できると思う。なぜなら...

ワークシートには "AI probably better" （AIの方が良いかも）、"AI probably not better" という、向き不向きを判断するための表も載っています。

拡張 vs 自動化

次の項目は、拡張（Augmentation）vs 自動化（Automation）です。

個人的にこの言葉のチョイスには疑問が残るのですが、

- 効率化を優先して自動かつブラックボックスにするか
- 逆にある程度のコントロールを残して最終的な作業や判断を人間の側に残すのか

という違いとして読みました。

自動化しない方が良い例として、クリエィティブな分野（作曲など）でユーザがその作業を楽しむ（People enjoy the task）場合、結果に対する責任（responsibility for the outcome）をユーザが負うべき場合、重要で重大な結果をもたらす（high stake）なタスク、ユーザのこだわり（specific preferences）が強い場合、などが挙げられています。

報酬関数をデザイン、評価する

Design & evaluate the reward function

多分とっつきやすさのために「AI」という言葉が使われていますが、ここで考えられているのは報酬関数（reward function）や損失関数（loss function）などと呼ばれる関数を用いる機械学習アルゴリズムが念頭に置かれています。が、よく読むとこの節はこの関数の話だけでなく様々なレベルでの判断が混ざっているので、うむむ、となります。でも良いことが書いてあると思ったのでいくつか拾います。

トレードオフを理解して目標を設定する

AIは100%正解を出してくれる訳ではない。目的に合わせてトレードオフを考える。

これは記事に出てくる例ではないのですが、沢山の画像から猫の画像だけを検索する場合を考えてみます。適合率 (precision)を重視すると検索結果に間違い、つまり猫以外の画像が含まれる可能性を減らせますが、基準が厳しくなる分本当は猫なのに検索結果に出てこない画像が増えてしまいます。再現率 (recall）を重視すると曖昧な画像も結果に含むことで取りこぼしが減りますが、本当は猫でないものも結果に含まれやすくなります。

どんなバランスにするのが良いのかはケースバイケースなのでユーザの目的を考えて調整する必要があります。

インクルーシブにすること

結果が色々な人（people from a variety of backgrounds and perspectives, and across dimensions such as race, gender, age, or body shape, among many others）にとって平等になること。

長い目で見ること

目先のことだけで評価しない。使い始めて100日目、1000日目のことを考える。

落とし穴を想像すること

直接の結果だけでなく、プロダクトが間接的に与える影響（second order effect）も含めて落とし穴を考える。デザインが人々の行動に対してどんな影響を与えるか考える。そして人のためになることをする。

ネガティブな結果に対処する

始めにどんなに考えても全ては予想できない。結果をモニターして改善する。定期的な評価プロセスと、評価の軸や基準を設定しておく。

If { specific success metric } for __ { your team’s AI-driven feature } { drops below/goes above }__ { meaningful threshold } We will { take a specific action }.

もし {あるAIを用いた機能} について {特定の評価基準} が {ある閾値} を {上回る/下回る} 場合、私たちは {特定の行動（機能の見直しなど）}をとる。

以上

です。元の記事もぜひ読んでみてください。