#5 生成AIの問題について考えてみる(後編)
このnoteは、デザイナーのスズナ(@supico66)となつは(@nanakane078)が主導するもので、テクノロジー、デザイン、社会課題、ウェルビーイングなど、私たちが気になるテーマを扱い、そこで話したことの記録を相互に綴っていきます。
結論を急がず宙ぶらりんにしたまま、新しい問いを立て考えてゆく…そんな過程をお届けします。
こんにちは。前回に続き、今回の執筆もなつはが担当します🌻
前回の記事#4 生成AIの問題について考えてみる(前編)では、具体例を取り上げながら生成AIの問題についてお話しました。
取り上げた3つの問題（ディープフェイク・バイアス・コミュニケーション相手としての生成AI）は、生成AIの技術とその他の要因が絡み合って生じています。ですが、それらは根本的には共通して一つの仕組みの中で起きているという話があるのです。
その「仕組み」について、倫理テクノロジーの三原則という考え方を紹介することで、説明してみようと思います🌱
倫理テクノロジーの三原則
原則1:新しいテクノロジーを発明すると、新しい種類の責任が明らかになる
原則2:その新しいテクノロジーが力を与えるなら、競争が始まる
原則3:連携して取り組まなければ、その競争は悲劇に終わる
三原則は、ポッドキャストYour Undivided Attentionで提唱されています。こちらのポッドキャストは、ホストのTristan HarrisとAza Raskinがテクノロジーと社会問題に関する最新のニュースについて、専門家を交えた議論をするものです。とてもおすすめ！
原則1:新しいテクノロジーを発明すると、新しい種類の責任が明らかになる
新しいテクノロジーの誕生と同時に、新しい責任が誕生するということですが、どんな責任が誕生するのかはテクノロジーの開発中もしくはリリース直後にはわからないことが多いといいます。原則1の具体例として、カメラの発明によりプライバシー権が誕生したことが挙げられていて興味深かったです👀（参考記事）
自分の存在をディープフェイクから守る権利、自分の作品を生成AIによる模倣から守る権利などはまさに今後議論していかなければいけない概念だと思いました💡
原則2:その新しいテクノロジーが力を与えるなら、競争が始まる
技術やデザインは力を与え、競争を始める可能性があるため、開発者は自らの技術やデザインがどのような力を持ちうるのか考えるべきだといいます。
ポッドキャストのホストであるAza Raskinは、なんと無限スクロールを開発したデザイナーです。（そしてそれをとても後悔しています）この技術は、ユーザーのアプリ滞在時間を引き延ばす力を企業に与えるため、今ではX（旧Twitter）やInstagramなどをはじめとして多くのアプリで活用されています。無限スクロールというデザインの発明が、アプリ滞在時間を競う競争を始めたのです。
私自身、生成AIに関する開発に携わっていますが、自覚が薄かったなと、今回改めて反省しました。また、周りの人々ともそういったお話があまりできていないと課題感を感じました。
原則3:連携して取り組まなければ、その競争は悲劇に終わる
原則2でできた競争は、企業間の連携がなければ悲劇に終わる…💔
先ほど紹介した無限スクロールも、ドゥームスクローリング（画面をスクロールし続けてしまうこと）の問題を引き起こしていますが、アプリ間で滞在時間を伸ばす競争が始まってしまった今、どの企業もこの技術を使わないわけにはいかなくなってしまったのです。
生成AIは革命的な技術で、多くの力を組織に与えます。そのため、どの企業が最も優れた生成AIを開発するかという競争が激化しています。しかし、生成AIによってどのような責任が生まれ、その責任とどのように向き合うか、企業同士、そして国レベルで連携して取り組んでいく必要があると思いました。
組織間での連携、していけるだろうか…🤝
ここまで読んでくださった方の中には「無限スクロールの事例みたいに、生成AIもどうにもならないんじゃ…」と思った方もいるのではないでしょうか？
私自身そう思うこともありましたが（今でも時々そう思ってしまいますが）TristanやAzaのように、本気で良い方向に動かしていこうとしている人に影響され「どうにかなるんじゃないか」と思うようになりました。
どうしようもないと思うのもよくわかります。それでも私たちの仕事は、できる限りのことをすることです。
私たちはまだ生成AIをすべての物事に完全導入したわけではないからです。
私たちはまだ、自分たちが望む未来を選ぶことができます。
TristanとAzaはポッドキャストでの発信に加え、サンフランシスコ、ニューヨーク、ワシントン D.C.で講演を開き生成AIのリスクについて発信し続けました。
彼らの努力もあってか、この一年間でも組織間の連携が実現しています😳
初の「AI安全サミット」イギリスで開幕へ リスク管理が焦点(2023/11/1)
バイデン米政権、AIの安全性に関する新基準などの大統領令公表(2023/11/1)
EU AI法案が加盟国に承認され成立 規制は2026年に適用の見通し(2024/5/21)
こういった事例を見ていると、組織が連携し人間と生成AIという技術が良い関係性を築いていくことは私たち次第で実現できる…！と思えてきます。
個人レベルでできること🤝
組織同士の連携の他に、一人ひとりができることを考えてみたときに、まずは社会で起こっていることを知ることだと思いました。どのような技術が発明されていて、どのような責任の問題が議論されていて、どのような競争が起こっているのか…。
生成AIの情報をキャッチアップしようとすると、毎日さまざまな変化があってそのスピード感に圧倒されてしまうことがあります。TristanとAzaは「じっくり時間をとって、構造や長期的な傾向を把握すること」が大事と言っています。（ポッドキャスト第80回）一つ一つの出来事ではなく、その仕組みや傾向について考えることを意識するようになってからだいぶ心が楽になったのでおすすめです💌
最後に
ここまで記事を読んでくださった方ありがとうございました！
スズナから「生成AIについての新しい視点を得たい」というリクエストをもらい、勇気を出して2つの記事を出してみました。
スズナや皆さん、ここまで読んでいただき何かしらの気づきがあったなら幸いです🌱
次回はスズナです🌺お楽しみに！