ネットワークが作る未来。アルゴリズムの作る差別

　こんにちは。ワル鳥です。技術の進歩は早いですね。機械学習って何だろうと思っていたらいろんな分野が機械学習でなんちゃらします!!　って聞くようになりました。今、JICA浪人の為にフリーターしてますが、実家の財政難のために、今度JICAに落ちたら進退窮まる感じになり始めています。物とか全然買ってないのに………。これじゃあ、世間から取り残されちまうぜ………。世知辛い世の中、皆さんお金は大事ですよ。
　ちょっと唐突かもしれませんが今回お話しするのは皆さんの将来に関わるかもしれないITについてのお話になります。近年続く技術の躍進で様々なことが自動化できると言われています。社会の変化は加速する一方、変わらない物もあります。それらのギャップが生み出す問題も様々になってきました。

1.時代の加速。浮き上がる問題たち

　私が小学生の頃、家にはまだパソコンがありませんでした。小学校の授業でパソコンを触ったとき、ローマ字入力が分からずに泣いた記憶があるのを覚えている。周りの子どもたちは持っている家がちらほらあって、そんな子たちはすらすらと先に進んでいくことへと子どもながらに焦りを感じていたものだった。
　そんな時代もあったんだと懐かしむ一方、小学校の教育でプログラミングを必修化する時代がやってきた。今や、ITと社会は切っても切れない関係になりつつあるが、そこに問題はないのか?　そう議論する声が挙がっている。

2.ワルいのは何?　それは人間のモラル

　いつだってワルいのは人間だ。私はそう思っている。ありとあらゆる技術は人間の生活を便利にするためにあるけど、それを悪用しようとする人達の存在には事欠かない。
　ITだってそうだ。人々の生活を豊かにする一方、差別を助長したり、犯罪の温床になったり、良くない話もいっぱいある。
　AIの発展によりその問題は明らかになった。多くのユーザー達が機械学習サービスを使い、一部の悪質なユーザー達によって負の学習が行われている。
　近年で話題になったものと言えばMicrosoftのチャットボット「tay」の一件でしょう。

　2016年3月23日にtwitter上で書き込みを行う女性型チャットボットだったtayはユーザーとの会話を繰り返す内に差別的な言動を繰り返すようになり、サービスを停止させた事案だ。

　一部の悪意あるユーザーが差別的な発言を繰り返して行い、それをtayが学習してしまった結果だと思われている。
　他に聞くところであれば、

中国のAIが反政府的な発言をしたことにより、当局によって停止させられた事案だろう。中国国民の政府に対する不信感をAIが学習した結果だろうとされている。

　これらの事案から幾つか分かることがあるが、その中で最も重要な点は「AIは中立的な存在ではない」ということだ。
　私たちはAIが万能的な存在であるかのように思いこんでいる節がある。曰く、人のように考える。

曰く、人よりも早く仕事が出来る。
曰く、社会を変えることが出来る。
　「AIってなんか凄そう」
　これが多くの人達の考えだと思う。自分たちの仕事が奪われるって考えてる人もいるだろうけど、私なんかはAIが仕事を代わりにやってくれるんだったら仕事しなくてもいい社会が実現するんじゃないかなって思ってる。色々な意見はあるだろうけどAIって技術が世界を変えるって考えていることは皆同じだろう。
　でも、忘れちゃいけない。AIっていうのは結局は人間が使う道具の一つなんだから。

　
3.モラルと差別

　上記で挙げた問題はAIが差別的、批判的な意見を繰り返したことが問題だった。それは悪質な人間達が差別的な意見をAIに吹き込んだからだ。機械学習による学習を行うためのデータは結局人間が与えている。人間のもつ潜在的なバイアスが機械学習の結果として現れるのだ。このような事例を海外では問題視している。
　AIの発展によって人類は滅亡すると考えている学者が多いのはこの理由からだろう。結局のところ、人間のバイアスを機械学習によって凝縮することが問題の種となったのだ。
　さらに問題はこれだけではない。アルゴリズムそのものにも問題があるという学者も存在する。
　アルゴリズムそのものにも制作者のバイアスが存在しているというのだ。
　知っての通り、正しい統計を取るためには正しいデータを使う必要がある。パンダは白黒模様を持っているのは有名だけど、白黒の模様を持っていたらパンダになるわけじゃない。犬のダルメシアンだって白黒模様だしね。
　ガチムチマッチョな海兵隊の死亡率と一般社会での老若男女含めた死亡率をただ並べて議論することがどんなに莫迦らしいことかは分かると思います。
　それと同じでデータのサンプルの偏りやデータの取り方、重みの付け方が問題を作り出していることは分かって貰えたかと思います

4.それっていったいどうしたらいいの?

　「AIを信じすぎてはいけない」
　この一言の内容を私たちが心に留めておく必要があります。難しいことじゃありません。そのシステムがそう言っているからといって鵜呑みにして行動するのはやめよう、というだけです。アルゴリズムを監査する、とか技術的な対処方法は考えられますが、それは専門家にしかできないことです。私のような一般人や専門知識を持たず、システムをブラックボックス的に使う人達が採れる方法ではありません。ただ、ただ、ネットという広大な海には差別や偏見と言った醜い部分もあることから目を背けないことが、世界の人達が取り得る最も簡単な方法だと私は思います。