理屈がわからない結果の世界
あんたはAIがもたらす効果の1つに充実感だとかやる気をくれるだとかってのがあるって話を聞いたらどう思う？
こんな記事を見たんだよね。
このアプリなんだけれどさ。
英語の言語学習をChatGPTのロジックを使って支援する仕組みらしい。
いろんな要素があるらしいけれど、その1つに「生徒のやる気／関心を維持する」ってのがあるらしい。
おおう、マジか。
やる気を維持してくれるってのは実にありがたい。
が、同時におっかねぇなって思ったりもしないか？
なんでって？
だってよ。
俺たち自身がコントロール出来ていないやる気って言う感情をだよ？
AIっていうシステムがコントロールするって意味だろ？
今回はAIが俺たちの感情に影響を及ぼす世界観について考える回だ。
ちっと、何が起きようとしているのか考えてみようぜ。
学習にやる気は不可欠
まず、AIを学習に活用するって考え方には異論はない。
学習ってのを効率化していくためにシステムを活用するってのは必要なことだと思うしね。
そこで学習に何が必要で、それにどうやってAIを使うかって話だよな。
上の記事では3つの要素が教師には必要だって考えてそこにAIの機能を活用しているって書いてくれている。
(1) 質問に答えられること
(2) 生徒のやる気を維持すること
(3) 生徒の困っていることを理解し他のケースを活用すること
ってことらしい。
この中でいっちゃん気になったんが(2)の生徒のやる気を維持することなんだよな。
どうもアプリ利用ユーザの行動履歴から必要なメッセージをAIが判断してプッシュ通知で送ってくるらしい。
AIが行動を抑えるってこと
地味に怖いよな。
この行動履歴ってのがどの範囲で収集されるんだ？
アプリでの学習履歴か？
ブラウザで見ている情報か？
携帯を持ってどこに行っているかって情報か？
これさ。
実際にはもうシステムが抑えている情報なんだよな。
アプリの利用履歴って意味では、このnoteだって利用履歴をもとにシステムの改良を行っているもんな。
※これは正式に言われているわけじゃなくて、結果として改変されているシステムの状態からの俺の想像に過ぎないけれどね。
ブラウザで見ている情報についてはGoogleがわかりやすく活用しているよな。
例えばGoogle Newsでは「おすすめ」に見たニュース履歴を元に対象となるニュースを表示している。
携帯の位置情報は地図アプリについては言うまでもなく活用しているし、お買い物アプリでは自分のいる場所に近いお店の広告を表示したりしている。
俺たちの行動ってのはすでにシステムに抑えられているってわけだ。
それそのものは、避けられない仕組みだと思うんだよ。
ポイントはAIがその情報を使って「俺たちが望むもの」ってのを導き出す意味をあんまり理解していないってことかもしらん。
AIってのは情報をインプットに「確からしい」組み合わせを導く仕組みだ。
でも、その「確からしい」ってことの「理屈」はAIは提供してくれない。
ビッグデータの組み合わせをシステムのロジックに従って「確からしい」と判定しているだけなんだよな。
言いたいのは、AIは「理屈」を教えてくれないので、ヒトは自分たちが何を求めているのかってのを理解出来ないってことだ。
理屈がわからないやる気スイッチ
どっかの学習塾のCMじゃないが、ヒトにはやる気がビシっと入るスイッチってのは確かにある気がする。
無気力な自分を許し続けるほどヒトは強くないと思うんだよね。
で、冒頭の学習用アプリはAIによってそのやる気スイッチを入れる様に作られてると言うことだ。
さっき書いた通り、AIはそのやる気スイッチが入る理屈は説明してくれない。
おそらくは膨大な学習データからこの言葉をかけると学習が最も効率的に進むと言う解析結果を導き出しているってことだろう。
これ、結構おっかなくね？
だって、AIは「やる気スイッチを入れる」と言う目的を与えられて動いているわけだ。
これがよ？
例えば「特定の政党に投票したくなる」と言う目的をステルス的に与えられていたらどうなんだ？
AIはその目的に従って忠実にデータ解析を行い、結果を出すだろう。
これ特定のアプリに限った話じゃないぜ？
検索エンジンだってそうだ。
すでにGoogleの検索ロジックは自己発展をAIがするようになってるって聞くもんな。
なあ、あんたはどうする？
俺たちはどうやらもう「理屈が理解できない」結果ってやつにまみれているらしいぜ？