ゲンロンカフェ『松尾豊 × 東浩紀 人工知能はどこまで社会を変えるのか』動画視聴メモ

個人的な「AI強化月間」として積読の本や関連動画から知見を広めたい。まずは、最近公開されたゲンロンカフェ「AI研究の現在」パックの動画を1つ視聴した。そのメモ。

イベントは2015年10月20日（火）開催
Vimeoで2020年7月4日（土）視聴

人工知能学会誌の表紙問題は意外と根が深い。社会の様々な人にAIを知ってもらうことが重要でデザインを一新した。擬人化した ロボットが人々の生活に入ったときにどのような感情を生み出すかを考える必要があった。

AIブーム
①1960 探索・推論、パズル等
②1980 知識（変化に対応できない）
③2013 機械学習、ビッグデータ
Deep Learningはブームになっていいくらい重要なブレークスルー

Hard Problem
・素性設計(Feature engineering)
・フレーム問題⇒ゲーデル問題
・シンボル・グラウンディング⇒シニフィアンとシニフィエ（言語学）
記号が物事にどう対応するか

Auto-encorder
通常のニューラルネットでは、「３」という画像を入力し、他の画像も見せて正解が出るまで試行を繰り返す。
オートエンコーダでは、「３」の画像自体を正解データにして、多数の入力情報が隠れ層の細いリンクを通って復元する。イメージとしては、3時間の講演を30分に圧縮しようとした場合、重要な箇所を取り出すことに似ている。人間は無意識に全体を見ているが、実際の処理はある特定の部位、特徴量を掴んでいる。

Image Competition
エラー率26%⇒DLにより一気に16%
人間は約5%⇒Googleが2015年に4.8%到達

人間もAIも顔の本質は分からないが、顔だと認識できるようになったからOK
ってことにしようぜという方向に進んで来ている

== 30min ==

モラベックのパラドックス
子供ができることほどAIで実現することが難しい
今までAIで人間の知能を実現できなかったのは「モデル」が作れなかったからというのが大きい

DLの今後の発展
①画像から特徴量を抽出
②マルチモーダル、映像などから抽出
③ロボティクス（行動計画を作る）
④インタラクション
⑤言葉とのひもづけ
⑥言葉からの知識獲得
映像の認識は今は人間の方が上だが、ロボットに外界とのインタラクションをさせることで認識能力が向上するだろう。
コンビニで商品を手に取り、何もしないまま外へ出ると決済がされている
（ここで観客から笑いが起きていた。Amazon Goは2016年なのだった）
試行錯誤により運動が習熟する分野にはDLが入る余地がある。

AIの話をすればするほど人間とは何かが気になってくる
「知能」は課題を解決する⇒欲求を実現
「生命」は目的を規定する⇒生き残る、子孫

人間がどういう社会にしていきたいかというのが決まると、それに向けてAIを活用していきましょうという風に持っていける。

対立する利害関係をいかに調整するか、個人の幸せと全体の幸せをどう調和させるか。AIは道具なので良くも悪くも使えてしまう。特に軍事利用や悪用をどう管理するかが重要。

== 60min ==

休憩後、第2部
ノイズを入れることによって、獲得した特徴量がロバストになったこと。
アイデンティティの問題、東浩紀が他の世界で何をしていたかが分からないと東浩紀性は分からない。ソクラテスがもし女性だったら、もし現代を生きていたら、もし中国に生まれていたら、ifが想像力の源泉。

DLによって人間とは（5感や3次元空間認識ではない）異なる知覚で世界を捉える知能ができる。
身体（デバイス）に依存した概念（こつ）は共有化しにくい。

AIが発達するにつれ倫理学が必要になってくるのはその通りだが、実は哲学は倫理からフリーでもある。倫理はより生命的であり、哲学と倫理の関係は認識と欲望の関係と言える。欲望を最も効率よく人々を傷つけることなく実現できるような世界にすべきかという次のステップの問題がある。

完全な監視社会ではなく、特定の特徴量は抽出しないなどカメラに制約を加える。
パチンコとカジノの例。政治的に拮抗したときに客観性の担保、判定手段としてAIが使われる。
自動翻訳のインパクト。ビジュアル文化や自然科学は言語フリーあるいは英語に統一されているためにグローバルにつながっているが、人文は未だに個別の言語圏内でものを考えている。これがシームレスになったら文化の豊饒さが飛躍的に上がるだろう。

== 120min ==

質疑応答
Q.1
看護学で質的な貢献ができるためにはどうすればよいか？
A
実験してデータを取って、結果が良くなりましたという例。良いSFも研究と言えるのでは。

Q.2
知能の格差によって生まれる諸問題があるのでは？
日本では同調圧力と結びついて、例えばサイコパスなどの監視、管理が厳しくなるのでは？
A
資本家-労働者の関係と同型。社会としてどう解消していくか。
どういう社会にしたいか、するべきか、漫画やアニメで描いてほしい。技術をベースにした未来社会のイメージを共有するのが大事。

Q.3
直感の判断とAIの判断はどちらに優位性がある？
A
直感とは人生の経験から抽出した特徴量から判断しているのであり、AIの判断と対立しない。

Q.4
ベンサムの功利主義では数多く命を救える方を選択する。
300人のニートか1人のウォルト・ディズニーであれば、多くを幸せにできる方を助けるべきか、AIが判断したとしてどんな結果を生み出す？
A
まさにそれを人間が判断しないといけない。無理やりAIに判断させるとしたら、「社会の生産性を最大化しなさい」「人の幸福度を最大化しなさい」などのより大きな目的を設定。幸福度の尺度や測定基準も細かく設定、計量する必要がある。
DLの考えにもとづけば、A、Bどちらかを選んでトライ＆エラーを繰り返すということ。世間の評判をフィードバックするたびにさばきが上手くなっていく。戦場で行われていることでもあり、海難事故等でのパフォーマンスは上がるだろう。しかしそれでいいのかという問題。そもそも1回のケースにおいてそのような問いを立てること自体が間違い。政治家の役割と同じで痛みの配分をしている。功利主義とカント主義での命の問題はまったく別の原理のものだからこれについては議論するしかない、という設定そのものが虚偽問題。そうではなく、繰り返しの問題、ゲームの問題。

Q.5
人工知能分野にとって今の壁は？
A
どういう仮説を取った方がよいかという問題。
壁が2回あったから3回目もあるとするのか、DLこそが本質でこのままうまくいくとするか。どちらに賭けるか。

Q.6
人工知能はフェアな判断をするわけではないと考えたほうがよい？
A
フェアかどうかは動物的な欲望で決まる。

DLでは個性や多様性をどう考えている？
⇒パラメータで認識の特徴が変わる。

特徴量を取り出すというのは分類するということだが、別のイベントで性という分類枠自体をなくすべきという主張があった。しかし分類は多様性を排除しない。

Q.7
日本語と英語の境目がなくなったら、海外の要人（オバマ、ゴーン）の話しか聞かなくなるのでは？
A
アメリカによる侵略なのではない。人々がそうするのなら止むを得ないのでは。外国人社長が問題になるのは主にコミュニケーション。DLでそこもサポートできる。

Q.8
人工知能を使う人によって正確な判断ができるのか？公平なものになると思うか？
A
研究者ではない一般の人がAIをどういう風に判定したらよいかを考えると、透明性が重要で、きちんと説明していくことが必要。

Q.9
技術について。DLは（猫顔を抽出するはずが人間顔も捉えていた等）汎用性が高いと思うが、スペックの向上に由来するのか、モデルなど質的な変化に由来するのか？
DLが人間の脳の関連で語られることがあるが、逆にDLの知見から脳研究にフィードバックされた事例があるか？
A
1点目、層を深くすることが大きい。他にも、シグモイド関数を使うこと（単調増加する特徴がある）細かい素子の関数に何を使うかなど。
2点目、まだ明示的にDLから分かった脳科学的な知見はない。
スパイキングニューロンモデルがDLでも使われてきている。
脳のニューロンは、先行する刺激に対しては強める。時間の前後関係に敏感。もう少し研究が進めば脳科学とAIの対応関係、例えば海馬の処理との関係が明らかになるのではないか。