いんよう！第12回「AI（ディープラーニング）の話②」
2018年11月6日公開 31分5秒
先週に引き続き、AI（人工知能、ディープラーニング）について。これからのAIは論理的な思考ができるのかどうかについて考えてみました。いつもよりペースがゆっくりめかもしれませんので、お休み前にどうぞ。
ここからは地引網の収穫です。薄い冊子を作るイメージで自分勝手にまとめています。
★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★ ★
「人工知能は純粋な論理を作るか～AI第二回」
■ 固有名詞
アニメ やがて君になる
けものフレンズ
ゆるキャン△
キャラ しまりん（ゆるキャン△）
あおいちゃん（ゆるキャン△）
人物 柞刈湯葉
ビートルズ
原田まりる
豊崎愛生
■目次
1. 基礎研究とAIの話のつづき
2. Revolution No.10
3. 当然こうなりますが熱量は同じですから
1. 基礎研究とAIの話のつづき
最初～12分40秒
● 抒情的なアニメでは繊細な心理を描くとき、背景を描き込む。たとえば電柱の傷、手すりのサビ、教室の床の塗装が剥げているところ。先々週、アニメ「やがて君になる」の話をしたけれど、このアニメも古い傷やへこみなどを超描き込んでいて、映像の情報が多いと感じる。
人間はそういう画像を瞬間的に処理する。床がすり減っていたら「古いんだな」「直すお金ないのかな」とか、ほかの情報とリンクさせて最終的な結論を出す。建物が古い、というのは概念。そこに正対して人が立っていたら、「人が二人いる」ではなく「この二人は知り合いなのか」と思う。
文脈から結論を導き出す能力をAIが獲得したら、本格的に知性なのではないか。概念を獲得して、それによって論理的な思考になるのなら、最終的には基礎研究もいらなくなるんじゃないか。（よう）
● 古い床を抽出して解釈を加えることは人間にはできるけど、AIはいまのところできない。でもAIは画像全体の雰囲気的なところを直観でぶち込んで、全部混ぜた状態でアウトプットに持っていくのはすごく得意。つまり神戸大学の岩田健太郎先生が本の中で紹介していた「ゲシュタルト」という概念。★注1
たとえばレンガがある。その隣にもレンガがあり、上には半分ずらしてまたレンガがある。それを伝えるより、遠くから見て「東京駅」と言った方が伝わる、というようなこと。診断でもコミュニケーションでも、局所を積み立てて全体に届くには時間がかかるし、そもそも描写できない場面もある。全体像から直観的につなげる概念がゲシュタルト。
AIは画像解析するとき、全体の雰囲気をまるまる読むのが得意。全体をフラットな状態で落とし込んで、人間が言語化できないパターンまで統計で読んでから診断を出すからAIはすごい。逆に言うと床に着目して拡大して、そこに情念を込めるような読み方は下手。AIは全体を読めるけど、だからそれだけでは足りない、という、似てるけど違う結論になるのでは。（いん）
よう：AIができないのは、多分「因果」だと思うんだよね。「因果関係を調べる」ってことだと思うんだけど
いん：ああ、因果ねえ…
よう：うん。えーとAIにとってはさ、原因も結果も多分同列だよね。
いん：そうですねえ
よう：どっちが原因かってことは多分考えられないんだよね、まだね
いん：それに関しては相関を出すんですけど
よう：うん
いん：因果じゃなくて
よう：うん、そうだね
いん：でもですね、相関のAかBのどっちかが「因」で、どっちかが「果」っていうふうに人間が定義することで、因果にちょっと近似するんですよね
よう：それを自分で判断できるのかっていう問題が、まあ一個あるかなっていうのと…
いん：い、医療で言うと、基礎研究はわかんないですけど、医療の場合は「死」っていうのが絶対的な結果なので、死ぬか死なないかっていうアウトカムを出した時点で相関が因果に近づいちゃうんですよね。
よう：えっとー。まあね、いやその、基礎研究は残るっていう話だったじゃん
いん：そうそう。基礎研究は残るって話。はい
よう：で、基礎研究は論理的思考が必要だから、残るんじゃないかっていう話なわけだよね
いん：ぼく実はちょっと違うんですけどね
よう：ほー
いん：基礎研究って、あの、アウトプットがわかんないところから、新しいアウトプットを探してくるようなところがあるんで
よう：うんうんうん、なるほどね
いん：アウトカムかもわかんないんですけどね
よう：それって概念を新しく作るってことなんだと思うんだよね。それを実際に実験で証明するってステップが入るけどさ
いん：はいはいはい。そうですね
● 実験自体は、研究者というポジションでなくても、実験をする人がいればいい。実際技官と呼ばれる人がいる。技術的には高い水準のものを持っているが、研究者ではない。論文も書かないし、学会発表もしないけれど、実験の技術は確実にあって、研究者を技術的にサポートする。
観察して、仮説を立てて証明することが、論理的に思考することだと思う。概念を新しく作ったり、概念と概念の関係性を考えたりする。たとえばＡという遺伝子がなくなるから、Ｂという結果が出てくるんじゃないかって仮説を立ててやる。
その思考方法は、「床がすり減ってるからこの建物は古い」と同じレイヤーにある。観察による推測を論理的思考と呼ぶならば、そしてAIがそれができるようになれば、基礎研究者はいらなくなる。（よう）
● 帰納と演繹までだったら、AIでいけるかもしれない。でも今のところは仮説形成法は無理かもしれない。（いん）
いん：いまんとこ、はい。インダクションとディダクションはできるけどアブダクションはできない、みたいなところにあるので ★注2
よう：またこう、呪文みたいになってるけどね、まあ…
いん：（笑）
よう：（大笑）今日話してることはなー、まあそうだね、いやーだから…どうなんだろうな…んー、ほんとの意味で考え出すかっていう話でしょう？人工知能が
いん：そうそうそう
よう：ね、あのー、うん、わからんけどね
2. Revolution No.10
12分41秒～21分50秒
● 「AIといえばディープラーニング」みたいになっている。それを突き詰めたら論理的思考ができるかはわからないが、ほかの方法を研究している人もいるだろうし、概念や概念の組み合わせを獲得していけば、シンギュラリティという、あるとき人間の知性を超えるような時が来る。専門家じゃないからわからないが。（よう）
● ぼくは、AIは人間の仕事を奪い切らないと希望的観測をしてる人たち全員死なねえかな、という希望があるだけ（いん）
● それはAIがそのうち論理的思考ができるようになって、人間ができることはできるようになるってことでは（よう）
● ちょっと違う。AIが全部できなくてもいい。人間が高い給料をもらえる仕事を全部奪うだけで、我々はだいぶダメージを受ける。ばかばかしくてAIにはやらせない、というような仕事だけが残ったら割と絶望だけど、その絶望を見てみたいという暗い希望がある。
よう：（笑）ほの暗いね。暗いっていうか。
いん：いいでしょう？なんか、や、ぼくそういうことを言い続けたいんですよ。「医者はなくならないよ」って言ってるやつに「医者こそなくなるよ」って言いたいんですよね。「看護師はなくなんないよ」みたいなことを言いながら（笑）こう、なんか、言いたいね
よう：いやわかるけどね
いん：ああ、わかる？（笑）
よう：なんだろうね。いや、わかるけど、いやその、心情だよ？ その、意見とかじゃなくて。なんだろうかね、あの、うちらのこの、なんていうか、自虐願望プラス破壊願望みたいなのね
いん：いやなんか楽しそうじゃないすか、なんか。で、なんか最終的には人間の仕事の、なんか給料差みたいなのが意味がなくなってきて…
よう：うん、それもうほんとに…
いん：なんか「おれの仕事、珍しい仕事だ」つってイキってるやつらが全員やる気なくして、ベーシックインカムで、みたいな世界見てみたくないすか。
よう：それもうだから柞刈湯葉さんが書いてる話じゃん ★注3
いん：そう。書いちゃってた（笑）
よう：（笑）
● 人がやっていたことを機械がやるようになり、それで生まれた余力で違うことをやる、というサイクルで文明が進歩してきて、産業革命以降は特にそれが顕著になっている。知的労働の範囲が広がっている。人間が全く働かなくても、機械が人間の衣食住プラスαくらいを満たしてくれるようになったら、人間は働かなくてよくね？という話になる。そうなれば資本主義の原理が根底から崩れて、資本主義いらないという話になる（よう）
● そうなったら人間何やるか、というと芸術の話になると思う。でもAIは芸術、意外といける。AIによって自動生成された美少女イラストはラノベの表紙くらいならいけるレベル。音楽もきてるみたいだし、人間は仕事しなくていいからクリエイティブを、と言ってても後ろから撃たれるときも来るかもしれない（いん）
● 既存のルートに乗ったものはすぐAIがやるが、ビートルズは出るか。フェイズが変わるようなものが出るのか。あるいはAIが数学の証明のようなものをできるようになるか。新しく純粋な論理を作ったり、今までなかった方法での証明などは最後まで残るような気がする。（よう）
いん：そうなると、純粋数学をやっている人たちが、世の中で一番高い給料をもらえたら気持ちいいだろうなあ、っていう気持ちがちょっとありますよ（笑）
よう：ああ、わかるわかるけどねえ、それがいっちーの価値観なんだよ多分ね
いん：そうそうそう（笑）あと、ごめんなさい、あの、すごい納得したんですけど、今ふと思っちゃったことがあって、AlphaGOの話さっきしましたよね。
よう：うん
いん：AlphaGOの棋譜を見た、その、人間の囲碁を打ってる人たちが、新しい戦法が見つかるかもしれないって興奮してたりするじゃないですか。
よう：ん、してるしてる。うん
いん：わりと（笑）クリエイティブなことをしてるなあって（笑）
よう：そうだよ（笑）
いん：そうそうそう
よう：そうだよ
いん：わりと、ビートルズくらいだったら出すんじゃねえかっていう気も
よう：そうか、ああああ、そうかAIがね
いん：そうそうそう（笑）思いもよらなかった新しい音楽出てきた
よう：ああああ、そうね
● 囲碁や将棋はルールや目的がはっきりしているが、芸術は目的がはっきりしていない。人の心を動かすことが数値化、言語化できるか。(よう）
● クラシックで言えば、対位法などの音楽理論がひっくり返ったらウケる。（いん）
いん：いや、で、今話してて思いましたけど、今日たぶん聞いてる人置いてけぼりなんですけど、ぼくはいまはっきりわかったのは、あのぼく、技術革新で絶望を見たいタイプなんだなということがよくわかりましたね（笑）あの（笑）
よう：だからさ、いっちーはあれでしょ、アナーキストだってことでしょ
いん：いや…（笑） アナーキスト！（笑）いやあれどっちかっていうとあの、なんていうの、えっと、「けものフレンズ」的世界が好きなんですよ
よう：あっ、あ、えーと、ポストアポカリ…プス…が好きなのかな？
いん：あ、それそれそれそれ。ポストアコパ、アポカリプスが好きなんですよ
よう：ポストアポカリ…プスでいいんだよね？（笑）
いん：そう、ポストアポカリプス。そう、言えんかったけど。カタストロフ系とか。アポカリプスのあと、とか。だからもう、崩れ去って絶望しかない世界に出るほのかな希望みたいなものに浸っていたい性格だっていうのがよくわかりました
よう：でもそれって破壊願望だからね、アナーキズムにつながってる気もするけど、ま、若干違うのかな
いん：破壊の過程は特に興味ないです。一瞬で終わってほしい（笑）破壊後を見たい、みたいな
よう：そうすか…
いん：（笑）
3. 当然こうなりますが熱量は同じですから
21分51秒～最後
● リーマン予想の本の最後に、リーマン予想とは別の論文の結論がでてくる。それを読んで「天才か」と思った。どうしてこの式をこのように変形するって思いつくのか。式変形は途中まではわかるけど、よくこんな七面倒くさいことを考える。びっくりした。（よう）
● 人間がそうやって「わーっ」と喜ぶようなことが、人間から出てきたのは喜び。それを見ているのもうれしい。喜びの入れ子構造。（いん）
● 印象としては、10万ピースくらいある真っ白いジグソーパズルで「何でこことここが合うってわかったんだろう」みたいな感じ。ゲシュタルトというか全体を見て判断するのは、論理的思考が集まって統合してやがて途中の過程が省かれることだと思う。だから圧縮じゃないか。ZIP化してるだけだと思う。（よう）
● 言語化できてない処理を脳が勝手にやってる気がする。無意識下。あるいはパターンが類似していて錯覚しているのかもしれない（いん）
よう：こういうのは、多分きっと哲学とか論理学をもうちょっとちゃんと古典を読んでからしろってことなんだよね、たぶんね
いん：古典読むのめんどくさいんで、これぐらいの話でいいんじゃないすかね
よう：ああ、おれもそう思う（笑） （投げやり口調）
いん：（笑）
よう：もういい。もう、カントとかヘーゲルとかの話になるわけじゃん、結局さ。あと、ヴィトゲン…ヴィトゲンシュタイン、を読まないと話にならないわけでしょ？ （投げやり口調）
いん：あれぼく読もうと思ったけど無理でした。わかんなかった
よう：あれたぶん、誰かに、誰かに教えてもらいながら読まなきゃダメなものだとは思うんだけどさ
いん：ああ…「はたらく哲学者」かなんか、誰か書いてくれないですかね
よう：ああまあ、原田まりるさんていう人がいるよ、作家で
いん：もういるんすか。あー
よう：原田まりるさんて、もともとアイドルなんだけど、
いん：アイドル！？
よう：漫画と哲学がウルトラ好きで、漫画がたぶんね、家に二万冊くらいあるっていう人で、
いん：（大笑）
よう：それとは別に、大学で哲学をしてたっていう人で、最初はアイドルをやってたんだけど、今は多分アイドルは引退してるのかな多分。で、まあ小説を書いて、それからなんかね、ニーチェがやってきたみたいな、ようはだから哲学のことをわかりやすく説明する、っていうものなんだけど、まだ読んでないんだけど
いん：へええええ
よう：そういうのあるっていうのは知ってる。
いん：それ読んでみてえなあ
よう：うん
いん：な、え、な、なんてタイトルですか
よう：んーとね、えと「原田まりる」さんで検索すれば多分出てくる
いん：はらだまりる…
よう：「まりる」はあの、ひらがなで
いん：ひらがなで。あ、読もう。読もう。あ、わかったわかった…
ああ！先輩大変！あの、ゆるキャン△の6巻がそろそろ出たんですか。7巻か
よう：お。いいじゃないすかー。おれもうずっとね、ずっとっていうか定期的にね、志摩りんとあおいちゃんのどっちがかわいいか考えるね。
いん：（大笑）
よう：志摩りんが圧倒的に強いキャラクターだってのはわかるんだよ
いん：今日の話と全然関係ないのに…（笑）
よう：うん
いん：なんで二人とも…生き生きと…（笑）話してんのかわかんないけど（笑）
よう：でもあおいちゃんのね、あのとくにアニメを見たらわかると思うんだけどね、豊崎愛生さんていう、あのゆいちゃんの声をやってた人が、けいおんのね、やってんだけどね、関西弁がめっちゃかわいいんだよ。
いん：ああーなるほどね
よう：「うそやで」っていうセリフがあるじゃん。
いん：ん？んん、んん、ん、ん？んん（笑）
よう：あおいちゃんが、ノーステップでボケるじゃん。全然普通のテンションでボケる…
いん：あああー、わかりますよ言いたいこと
よう：で、そのあとに「うそやで」って言うんだけど
いん：いや、うん（笑）あれがいいの？
よう：まああああ、かわいいね
いん：（大笑）
よう：じゃっっかん関西弁とは違うんだけど、イントネーションが
いん：我々、AIとか哲学の話しないほうがいいんじゃないすか
よう：そうだと思うよ（笑）
● 真面目な話は10回に1回くらいでいい。「はたらく細胞」がぎりぎり。生命科学に興味もなければAIも興味がないみたいな人が聞いたら、自分たちがロシア文学の話聞いてるとか、アステカ文明の最近見つかった証拠とかの話をされてるのと一緒。「はたらく細胞」くらいが湯加減的にちょうどいい。（よう）
★注1 岩田先生についてヤ先生が紹介していますが、思うところあって割愛しました。たしかにそうかもしれませんが。放送では5分5秒当たりから。
★注2 この呪文、めちゃくちゃカッコよくて、話しながらこれが出てくる先生すごい。アブダクションのwikiに3つとも簡単な説明がありましたのでよろしければご覧ください。日本語訳は以下の通り。
induction 帰納法
deduction 演繹法
abduction 逆行推論
★注3 「東京都交通安全責任課」（「まず牛を球とします」河出書房新社 収録作）、あるいはそれを長編化した「未来職安」（双葉社）のことと思われます。
＊＊＊＊＊＊＊＊＊ 感想 ＊＊＊＊＊＊＊＊＊
● 概要欄に「いつもよりペースがゆっくりめ」とかありますが、「ん？」という印象です。どこがかな？
1. AIに論理的思考ができたら基礎研究者はいらない
2. 今のAIは因果が苦手、全体から拡大して推論するのも難しい
3. 「考え出す」ことがAIにできるか
4. AIに仕事を奪われる絶望が見たいヤ先生
5. 絶望のあとに人間ができるのはクリエイティブかも
6. それもAIわりとできるかも
7. リーマン天才か
8. 言語化できない処理を脳が無意識下にやっているのかも
9. 哲学読まないと
10. 無理
11. ゆるキャン△
という感じで、3くらいまでは「前回の続き」ですが、そこからの迷走と、特に9あたりからやるせなく瓦解していく感じがとてもいいです。たぶんお二人ともお疲れになってきたんでしょうね。
● 個人的には、今の段階でAIが出す画像が「芸術」の分野に入るとは思えないかなあ。百歩譲ってAIが芸術分野に進出したとしても、人間は表現や創作をやめないので、「取って代わる」ということはないのではないかと思います。融合していくことはきっとあるでしょうし、それは見てみたいです。それはそうと、AIは「未完成だけど美しいもの」を作ることができるのでしょうか。
● 暴力的な女性（キャラ）が好みのよう先輩に加えて、お二人に自虐的な破壊願望があること、またヤ先生が「アポカリプスと、そこから立ち上るほのかな希望」が好きという性癖が明らかになりました。
「ポストアポカリプス」がうまく出てこないお二人がかわいくてツボです。わたしはこの言葉を「いんよう！」で知りました。いつもありがとうございます。
ちなみに「アポカリプス」とは日本語で「黙示録」のことだそうです。わたしはたまに新約聖書の黙示録を無償に読みたくなるので、ヤ先生の気持ちが8％くらいわかるような気がしました。「天変地異で大混乱」を欲することがある。
● 収穫物にはありませんでしたが、ヤ先生が「聞いている人を置いてけぼりにする」というワードを発していました。おそらくここから「置いてけぼり」「置き去り」「振り落とされ」という概念が頻発するのだと思います。