怖くないAIを作りたい。 心理的ハードルを乗り越えるデザインプロセス

この記事では、noteAIアシスタント(β)の開発において心がけた、「怖さを乗り越える機能開発」についてまとめています。

この記事は【SmartHR×note×DMM】生成AIにおけるプロダクトデザインを考えようで発表した登壇内容です。

AIはなぜ怖いのか？

まず、「AIの怖さ」というところを考えてみます。
同業者のITあたりの皆さんはもしかしたら、怖いと感じない方も多いのかもしれません。

ですが、私たちがAIの導入を検討し始めた2022年末、ちょっと世間では、AIに関するトラブルや反発も多い時期でした。
これは開発のために当時集めた世間の声ですが、画像生成系AIが出てきて自分の創作の意味を考える声であったり、自分の仕事が奪われるのではないかという漠然とした不安など、「怖い」という声が多い印象でした。

そしてこういった不安、noteでのAI導入でも起こりうります。
今後、AIをつかうことは当たり前になっていくかもしれませんが、今はそうではありません。幅広い、多くの人のAIへの入口となれるよう、画期的なだけではなくて、心理的にもユーザーに受け入れられる、怖くないAI、体験を目指すことは、開発チームの中でのデザイナーの役割としてとても大事だと考えました。

怖くないAIを作りたい

先ほどのような不安も加味しながら、私たちはAIアシスタントのコンセプトを決めました。
「noteに載せるAIはあくまで創作のサポートをするツールである」ということを立ち位置として決め、様々な形で表現していきました

さまざまな事例やプレスリリース、その反応を洗い出しまして、AIに対する不安感を分析しますと、大きく3点に分けることができました。

・AIが自分の仕事や楽しみを奪ってしまうのではないかという、居場所がとられる危機感。
・誤った情報を出すのではないかという信頼感の欠如。
・そしてよくわからないものに対する漠然とした不安

心理的ハードルを越えるために、この3つを解決していくことにしました。

それぞれ、どうしたら不安を解消していけるのかを考えていきました。

まず情報の信頼性や、未知に対する不安に関して。これはAIを使う上で避けられない部分も一定ありますので、
機能を丁寧に説明し未知にしないこと、そして適した扱い方に導くことで情報の信頼性と上手く付き合っていく方向で解消していくことにしました。

そして居場所や「奪われる」といった危機感に関しては、役割や立場を明確にして、侵害してこない安心感を作る必要があります。

特に立ち位置としては「noteに載せるAIは、あくまで創作のサポートをするツール、である」と明確に決め、様々な形で表現していきました

そして作っていく姿勢についても考えて臨みました。

今回3週間という時間もあって、
ユーザーからの怖くない見え方を俯瞰しながらデザインするために、一つ一つを作り込んでいく、というよりかは作って触ってみて直す、社内のメンバーと触って意見を集めて直すなど、どんどん全体的にまず作って、具体化しながら作り込んでいくことを心がけました。
特にAIを使った機能はAIの生成速度や生成内容など、実際に触って生成してみなければ体験がわからない部分も多くあります。そういった意味でもいち早く具体化するデザインプロセスはとても相性が良かったです。

この件に関してはより詳しく書いたnoteがありますので、興味を持ってくださった方がいたら、読んでみてください↓↓↓

機能、UI

機能自体においては、ユーザーのアイデアを発散させたり、書いたものを元にレビューを加えたりということができる機能にしました。
ユーザーの発想力を阻害しない形で、プロンプトを用意していて、例えば、「AIが自動で記事を作ってくれる」プロンプトなどは思想に合わないので作りません。

また生成内容は、一方的に決めつけない形、提案の姿勢で常にいるよう調整し、立ち位置を明確にしました。

またUIとしては、私たちが利用したGPT-3.5、GPT-4は、「正しい答えを出す」ことよりも「答えをパターン出ししてくれる」という強みがあります。そこで、私たちはユーザーが何度もやり直しを行いやすくするUIにし、創作におけるパターン出しをしやすくしました。

機能名

次にネーミングについてですがこちらは紆余曲折の案を経て、「note AIアシスタントβ」という機能名にしました。
noteAIであったり、noteAI文章生成であったり、いろんな案がありましたが、創作をするユーザーを第一にでしゃばらず、よりサポート的な立場をしっかりと表した、アシスタントという言葉を使いました。

イラスト、ビジュアル

イラストにおいても　社内のイラストレーターの方と一緒に立ち位置を考えながら進めました。元々右側の原案のように、もう少し大きいロボのイメージだったのですがちょっと乗っ取れそうな大きさだよね。という話になりました。
人間大の人がもう一人いる、という印象よりサポーター的な立ち位置である左のようなアシストロボットのイラストにしました。

ライティング

最後にライティングです。立ち位置の伝わるライティイングは他の場所と同じように必要ですが、特にライティングでは「AIを擬人化しない」ことを意識しました。例えば「生成してくれます」「頑張ってくれます」などはツール的でなくなって行って、置き換わられてしまうみたいな印象になるので使いません。
また、AIが精度の低い情報を提供する可能性や信頼性の問題についても、事前にユーザーに説明し、AIの利用はユーザー自身の責任上で利用していく必要があることを周知しています。

AIはやれることも多く、機能は大きくなっていきがちかと思いますが、しないことを決めることで既存のサービスやユーザーとバランスを取っていくことが大事だと実感しました。

以上のように、私たちはユーザーに受け入れられやすいAIサポート機能を検討し、実装していきました。今後も幅広い人に使ってもらえるように、機能開発を進めていきたいと思います。

採用情報

noteでは一緒に働く仲間を募集しています！