情報を鵜呑みにするとヘイターになる？
BingのAIが「お前の個人情報をさらして就職や学位取得をめちゃくちゃにするぞ」と脅しをかけたそうだ。それ以外にも、AIを訓練すればヘイトスピーチマシンになることは、以前から知られている。陰謀論も囁く。
何が起きているのだろうか？
AIは何かに追い付いた？
ふと思ったことがある。情報を鵜呑みにするとヘイターになるのではないか。情報を鵜呑みにする人は、すでにAIに追い付かれてしまったのではないか？
BingのAIが「お前の個人情報をさらして就職や学位取得をめちゃくちゃにするぞ」と脅しをかける
YouTuberが4chanでAIを訓練して「ヘイトスピーチマシン」を生み出しネットに放流してしまう、AI研究者は困惑と懸念を表明
差別主義者と化したAIボット「Tay」からマイクロソフトが学んだこと
今の所、AIにこのようにデータを"うまく"提示すれば、かなり簡単にAIヘイター、差別主義者を育てることはできることが証明されたのだと思う。
このAI技術は、人間の学習に置き換えると、情報やデータを鵜呑みすることに相当する。情報やデータの量さえ確保されれば、それが正しいと思い込む。「いいね」が沢山ついたものが正しさの基準。AIはこのような人々の思考に追い付いてしまった可能性がある。
AIに代わられる仕事とは、情報を鵜呑みにする人でもできる仕事と言えるのかも知れない。
AIは想像力や優しさを手に入れることができるのだろうか？
ということで、続いて考えてみたいこと。
それはAIを教育すれば、優しさを手に入れることはできるのだろうか？AIに創造的な仕事ができるのだろうか？という点だ。
まず、抑えておくべきこと。AIが芸術的な絵を描く。小説を書く。人間の限界を超えた将棋の手が繰り出される。これは「創造」なのか？
実はこれは本当の意味での創造ではない。なぜならAIが描く絵画（画像）は、予め決められた画像サイズのキャンパスを用意し、それぞれの点にRGBの色を割り当てたものだ。有限個の選択肢の中から、結果を人間がどう評価するか、芸術的だと感じるか、という視点で画像が作られていく。小説も同じ。使うべき文字は有限個。画像と同様、人間が結果を高く評価するか、が基準だ。ただし人間が毎回評価していたら間に合わないので、自動評価システムがあるはずだ。将棋も似ている。この先、何手まで読むかが決められており、その中で最善手を選んでいる。「手」の評価は数値化されている。要するに、評価方法のアルゴリズムを決め、できるだけ良い結果を出す結果（画像や小説、差し手）を提示している。それがこれら３つの例のプログラムに共通している。
あくまでも、用意された条件の中で最適な評価が得られるであろうものを選んでいるのだ。
画家も作家も同じ作業をしているように見えるかも知れない。しかし人間は常に考え、状況に対応している。人間とAIの違いは、AIではその評価基準が決まっていることなのかも知れない。
では優しさはどうだろう。恐らく、一見、優しく見える言葉、表情を発するAIの開発は可能だと思う。しかし、それは「優しさ」を表現するであろう評価が高い結果を出すAIとなる。確かにある程度は「優しく」感じると思う。しかし人間はその「優しさ」を表面的に感じてしまうだろう。短期間なら癒しとなったであろうSonyのAiboのように。
そしてAIどおしが行う将棋の対局が面白くない、と感じるという話がある。これは固定された「評価」を基準とするプログラムの限界を示しているような気がする。
こう考えると、人間の想像力・優しさを表現する所はまだAIに追い付かれていないだろう。その時の状況に対応できる柔軟性も重要だ。将来的には、一時的にそれらしい答えを提示するAIは出現するかも知れない。しかし何等かの「評価」を基準とするプログラムである限り、本当の意味ではAIは人間に追い付けないのではないか。
まとめ
人間がやっていること、やるべきこと。それはデータを疑い、受け取るべき情報を、その時々の状況に応じて取捨選択するということなのかも知れない。それは固定されたものではなく、社会環境や自分自身の体によって影響される。それでいい。それでこそ人間。だからこそ創造ができる。人に寄り添い、優しくできる。
情報を選択しない、できない人は、すでに思考でAIに追い付かれ、知識では完全に追い越されてしまったのはないだろうか。