Human Insight #3 ヒトの無意識に介入するAI
CROSS DIG ”Human Insight”今回のテーマは、「ヒトの無意識に介入するAI」です。コンピュータサイエンスの世界最高峰カーネギーメロン大学博士課程の荒川陸さんに伺いました。
AIと人間の思考プロセス：「速い思考」と「遅い思考」
ノーベル経済学賞を受賞した心理学者ダニエル・カーネマンの著書『ファスト&スロー』では、人間の思考様式を以下のように表現しています。
システム1（速い思考）： 直感的で無意識的な判断を行う思考プロセス。感情や経験に基づく。
システム2（遅い思考）： 論理的に熟考し、意識的に判断する思考プロセス。意思決定に時間がかかり、注意力が必要。（注意力は有限である。）
AIが思考に働きかける
AIが私たちの行動に影響を与えようとするとき、システム1（速い思考）にアプローチする方法もあります。
例えば、「スマホを見る時間を減らしたい」と考えたとき、AIが「スマホを見るのをやめよう」と通知を送るだけでは、ほとんどの人は続きません。しかし、アプリの配色を変えたり、画面の明るさを調整したりすることで、無意識にスマホを見る回数を減らすことができます。
AIが「無意識に私たちの行動を変える」技術、それがマインドレス・コンピューティングです。
マインドレス・コンピューティング―— AIは人の無意識に介入する
マインドレス・コンピューティングとは、「人が意識せずに行動を変える仕組みをデザインする技術」のことです。
例えば、荒川さんが開発したオンライン授業への集中をサポートするシステムでは、受講者の注意がそれたときに講師の声のトーンが変わるように設計されています。
「注意を引きたいときに声のトーンを変える」 → 人間が自然と行う方法で、AIがこれを実行します。「スマホを見たらアラームが鳴る」よりも、「講師の声のトーンや話すテンポが変わる」ほうが、人はストレスなく授業に再集中できます。
AIが人の行動をデザインし、無意識レベルで影響を与えることで、私たちは忍耐を必要とせずに自然と「良い行動」をするよう導かれるのです。
素敵！と思う反面、私はちょっと怖くなりました。
「無意識のうちに良からぬ方向に導かれたらどうしよう？」
AIの目的設定
現在のAIは、「人間が設計し、ルールを設定するもの」です。しかし、もしAIが自律的に目標を設定し、それに応じて私たちの行動をデザインするようになったら？
例えばAIが「健康を向上させる」ことを目的とした場合、私たちに対してどのような介入をするでしょうか？
運動を促すために、無意識に「歩きたくなる」ような環境を作る
ストレスを減らすために、会話のトーンを変える
睡眠の質を上げるために、部屋の温度を調整する
このように、AIが人間の行動をデザインし、知らぬ間に最適な行動をとるように仕向ける世界が訪れるかもしれません。
一方で、AIが悪用された場合のリスクも考えなければなりません。
軍事利用 → AIが「戦争に勝つこと」を目的とした場合、人間の行動を操作し、戦争を加速させる。
情報操作 → AIが特定の意見を強調し、人々の意識を特定の方向へ誘導する。
身体コントロール → もしAIが電気信号を用いて体を直接動かせるようになったら、人は本当に「自分の意志」で動いていると言えるのか？
こうした技術がどのように使われるかは、私たち次第です。
人はAIの主導権を握り続けられるのか？
AIがどれだけ進化しても、最終的な主導権を持つのは「人間」であるべきです。そのためには、以下のことが求められます。
1. AIの設計段階での介入
AIの開発者が、「どのような影響を与えうるのか」を深く考え、倫理的な設計を行うことが重要です。
2. AIとの接点（タッチポイント）をコントロールする
AIと私たちの接点であるスマートフォンやウェアラブルデバイスなどを適切に管理することで、AIの影響をコントロールすることができます。
3. AIを「共に働くパートナー」として活用する
AIを「人間をサポートするパートナー」として設計・運用することで、私たちはより良い未来を作ることができます。
まとめ ～「賢い相棒」と共存するために～
AIは、私たち人類が手にした「賢い相棒」です。大きな力があるからこそ、AIと共存していくためには、AI技術の恩恵を享受するだけでなく、その危険性も十分に理解し、倫理的な観点から監視していく必要もあります。
詳しい内容はぜひ動画で！