ゲンロンカフェ『三宅陽一郎 × ドミニク・チェン × 東浩紀 人工知能のための哲学塾atゲンロンカフェ』動画視聴メモ

個人的「AI強化月間」その２。ゲンロンカフェ「AI研究の現在」パックの動画の2つ目を視聴したときのメモ。
イベントは2019年2月8日（金）開催
Vimeoで2020年7月19日（日）視聴

第1部

・世界について深く掘るほど（科学・哲学）、遠くまで構築できる（工学）
・AIを探求することは、人間を探求すること
・主観的なリファレンスが自身のみしかない
・フルセットAIは身体-機能-知能（体-心）を持つ
・知能を意識-無意識(身体、環境)から考える
・生態学的AI、環境や身体との結びつきはゲームでは重要（キャラを動かす）
・知能観、西洋は垂直的（神-人間）、東洋は水平的（ミク-ゾウリムシ-人間-AI-鹿）
・記号主義（プログラム）とコネクショニズム（ニューロン）
・ルールベース、データベース、最初から分けて考える、記号と現実が合わない（シンボルグラウンディング問題）
・逆伝搬法、DL、よく分からないものを分けられるようになる、ボトムアップだが高度な思考できない

AIの3つのドグマ
①よく考えれば、よい行動ができるはず（そうとは限らない）
②世界と自己を分ける（そのあとでつながらない）
③因果律の中にある（論理の外に出れない）
→AIの意識はどこにあるか？

・ニューラルネットで意識をつくる（谷淳）、渦のようなもの
・東洋思想の知能モデル、唯識論、層・色をつけていく
・意識や知能は、世界を分けて捉えようとする（分別）
・無意識の根源には、世界と自分が一体であるという原衝動（アニマ）がある
・解脱状態になりがちな敵キャラに、プレーヤーを食べろとか仲間を守れとか執着を与える
・人間は本能から逃れたいが、逆にAIにはそれが必要
・報酬系を変えるだけで、AIキャラの成長の方向性がぱっと変わる
・知能にとって内と外があることが本質、内を守るのが知能の目的
・テセウスのパラドックス、物質は循環する、物質によらず不変なもの→構造→情報
・エージェントアーキテクチャ
・カメラの目とカメレオンの目はどう違うか、アメンボを選択的に見つけるよう進化、機能環
・サブサンプション・アーキテクチャ（ロドニー・ブルックス）→ルンバ
・世界と知能つなぐのが環世界、その上に階層的な知能が積み重なる
・キャラやオブジェクトがゲームAIの中でどう解釈されているか
・ポリゴンモデル→身体→アフォーダンス
・車ならば向きや移動可能性
・250枚のスライドと宣言されたとき全員が覚悟しているので大丈夫
・3つのドグマは本当か？→考えるほど馬鹿になる→荘子、道に従え→道はどこ？
・西洋の知能論は存在について議論しない（機能論）、東洋はほとんどが存在論
・井筒俊彦、環世界と文化世界
・我々の知能が世界の循環によってできているとすると、自分自身の中心はないのか
・イブン・アラビーの存在論、上昇過程、下降過程
・世界と自分をつなぐ情報の流れ（西洋モデル）の他に、自身の中を循環する流れ（東洋モデル）がある

人間の2つの自己本性
①時間を超えて不変・恒久的なものでありたい（ホメオスタシス）
②常に世界と共に一つの流れでありたい（アポトーシス）

・CPUクロックがAIの時間なのではない（分子時計が人間の時間なのではないように）
・むしろ主観的な時間こそが重要で、AIに持たせないといけない、時間の謎が解ければ知能がわかる
道元「有時（うじ）」、時間というものは無い、隙間のない世界の幻想に過ぎない、人間は文脈を勝手に作っていく
・意識を作ることは自己を語ること、語る自己と語られる自己が分かれる、瞬間瞬間に次の自分に変わっていく、語るスピードが意識に関係する
・自己が空間的だけでなく、時間的にもある広がりを持ったものとして捉える
・生まれては消える波のようなもの、過去の自分が弱まりつつ残っている
・世界と次の世界のあいだに起きる現象として知能を捉える
・情報は存在の影にすぎず、影から実体を作ることはできない
・事物同士の関係性を考え直す、イメージとしてはエアコンと体温、道路の振動と歩くこと
・哲学史をAIとつなげて整列させた
・FF15でベヒーモスを設計
・HPを削るだけでは体験として飽和、未来のFFでは怪物にも守るべき家族がいるみたいな、知能との出会い
・AIは哲学をテストし、フィードバックできる唯一のエンジニアリング
・自動運転で暴れ馬は作れない、ゲームでは真面目にフィクションをできる
・痛みの問題（クオリア）、感じているようにふるまうことと、痛みを感じることそのものは別
・リアクタンス（あざとさ）、介護ロボットにプログラムされる違和感
・意識から発せられた声は、時間的な遅延だけでなく、外部化という要素を含んでいる
・Auto-affection

第2部

・自己を対象化することで外部のものとなる、外在化することで遅れる、別のもになる、それを解決するのが予測
・人間が身体を制御できるのは、イメージ（予測）とのずれをモニタしているから
・声がもれ出している、意志とは無関係に外部に保存されている、文字、グラマトロジー、予測不能性
・『高校生のためのゲームで考える人工知能』、FPS、戦略ゲーム、メタAIがゲームをしている
・『人工知能革命の真実』、『人工知能のための哲学塾』
・ゲームをプレイしている時の主体性とは何なのか
・タイプトレース（舞城王太郎の執筆履歴を記憶、キーボードを連動させ再現）
・相手が打ったプロセスが再生される時されない時で返信変わってくる。打ち方が似てくる。
・どんな地域の人間も6つの感情に分類できる（Paul Ekman）
・通知だと俯瞰しているモードになり、タイプトレースだと次に何が来るか注意するモードになる
・補助具としてテクノロジーを装着することでミクロな驚きが変わってくる
・身体は人間の固有性の最後の砦、自己と他者を分ける境界、しかし共同で作る、声も外側にある、表情
・人間のコミュニケーションは制御できない渦を作り出す、コモンズ、炎上の原因にもなる
・Twitterも時間が経つと視覚的に薄くなっていくとよい
・岡田美智男、『弱いロボット』、子供たちの反応、場の中の共身体
・ゲームがやろうしているのは、人工生命をつくること、役者を作ること
・笑い、共通のものが生まれている、身体の共振、コミュニティ形成で大事、共同性の基礎
・笑いは授業に絶対必要、余剰分ではない、人は身体性のない話に耐えられない
・笑いとメタ、身体は密接に関係、いやみや皮肉から身体性抜けるとネタにマジレス
・さらに話を複雑にするならば、演技による笑いコメディがある、喜劇役者は何をやっているのか
・浅い表層的な記号のやりとりでなく、言葉の深さ、その人の根のどこから来てるかが笑いや真剣な会話で分かる
・アレクサが笑いだす、ルンバのために掃除する人、感情移入
・情報技術から始まり今なぜ東洋思想が注目されるか
・カリフォルニア・イデオロギー、禅とヒッピー
・フランシスコ・バレーラ、オートポイエーシス
・縁起、Co-independent arising、共生起
・エドワード・ディーナー、well-being、人生充実度を10段で提示
・東洋と西洋の幸福観の違い（欧米では自分で獲得したステータス、アジアでは、福=luck based happiness、運によりもたらされたもの、幸福があるとその後不幸があると考える）
・今のSNSは数量化できるものしか実装できていない
・SNSが政治的不安定性を起こし、人間関係の質を変えていくので規制を自主的に生み出すのでは
・ドラクエ10で他者を助けるシステム、モードが実装されている
・エンタメに違いが出る、西洋は研究所からAIが出て世界をひっくり返す、それを人間が止める、東洋はどこかから表れて最初から友達としている
・AI研究は西洋の尺度、積み重ねの中で行わており、東洋は尺度が出せていない
・関係データベース
・ぬか床、センサーを付けてモニタ、多種類の菌がいる複雑系、手で混ぜる
・書くこと、話すことにもインターフェース、自己へのフィードバックがあるという意味で身体性がある、積み重なっていく、高まっていく
・内臓としての身体、食べること、リンパ腺、オートファジー
・哲学でも手、外延は考えるが、内部や生殖は考えられていない
・古代シュメールでは「心」は性器を表していた、内臓、心臓と上がってきている
・社会的潔癖症によって子供たちが脆弱になっていることが問題になっている
・自己と他者を分ける技術が発達し、思想についても所有権など共有ではなく境界に関するものしかないため、ますます強化される

Q&A

①30年後にAIを作るとしたら、奴隷よりかは尊厳を持たせた人工人間のようなものか？
→そこまで遠い未来と言うより今から始められることがある。AIの基本問題が解かれていないので、その革新が先。王道としては、ある程度人間と対等なものを作ることだろう。サーバントである限り、権限の委譲ができない。将来的にはそこまでもっていく必要があると思う。

②SF創作講座の講師に来ていただけると面白いのでは？
・アシモフを原語で読んでいた『はだかの太陽』
・ホーガン『未来の二つの顔』
・神林長平『プリズム』『雪風』

③ベヒーモスの話などをして頂いたが、フロイトの人間の中身にかんする研究では神経症の解明などから、リビドー、自己保存の欲動といった概念にたどりついた。取り入れたいアイデアはあるか？
→精神病などが、結果として出てくるのが、ちゃんとした人工知能だと思う。ある状況に置くとヒステリーや潔癖症になるみたいな。単に再現するのはあまり意味がない。

④フロイトは超自我、自我、エスという概念で人間の枠組みを示そうとしたが、関係するのか？あるいは、重要なのはそのような構造ではなく、人間の関係性なのか？
→社会の中で形成される自我と実存的な自我、Iとmeみたいなものがある。AIのなかでは結びついていない。CPU能力が言い訳だったが、ミックスしようとしている。

⑤SNSのような消えない過去が残り続けると人間とAIの関係はどうなるか？
→AIは忘れる能力が低い。3秒前と3年前が同じメモリ上のアドレスとして記憶される。人間でも過去のトラブルを思い出して突然起こる人がいて、情緒不安定になる。忘れることが本質的で、一つの恩寵。
→Twitterの忘却機能が必要。30年たてば意見が変わる、常識が変わる。特に政治で掘り起こされることは、民主主義を不安定にする。

⑥東洋的、不可知論的な意識は実装できるのか？二値的な判断しかできないと、「Aである」または「Aではない」という価値的なものになるのでは？生命の身体が必要というのが限界になるのではないか？
→記号主義では二値的だが、コネクショニズム、ニューラルネットでは数値的、0.2や0.6など複雑にできるのではないか。身体性の代わりになる実験をすることで、ゾンビ状態よりかは進む。内臓や筋骨格など積み上げていくしかない。それが知能にフィードバックされ、はしごのように折り重なる。人間の脳はノイズに満ちていて、RNNがものすごく長いフィードバックループになっている。複雑系やカオスに端を発する力学系AI一派と線形的なDL派との議論がある。第3次ブームの人は昔を知らないので、むしろ力学系の人が自分たちは間違っていたのでは、という反省がある。量子力学の粒子と波動のように関係性、統一理論みたいなものを示すことで進展するのでは。

⑦ロボットにも疲れとか老いが宿りうるのか？
→身体を持つのであれば、人工的にでもいれるべき。AIの文化を考えたときに必要となる。死なないAIならば文化の蓄積など必要ないが、むしろ自分が失われるときにコピーを作るのか、知恵をサーバーにアップするのかという話になる。後者の方が、みんながそこにアクセスする。

⑧老いとの関連で、自然知能が働かなくなる痴ほうについて考えたが、バグったAIみたいなものが出てくることになるのか？
→それを作るというより、そういう風に自然になってくるシステムであるべき。「病む」や「老いる」が無いほうが不健全で、ポテンシャルとして持っているシステムが自然な人工知能といえる。Super intelligenceではなくHuman like intelligenceの方向。
→意識を持つことと痴呆になることはおそらく等価だと思う。身体を持つことと欲望することが同じであるように。スポーツの例など、人間がパフォーマンスがいい時は意識がない時であり、自意識は余剰というかバグみたいなもの。

⑨文化と知能について。ゲームにおける西洋的なふるまいと東洋的なふるまいは差がある。東洋的知能を加えたとき、生まれるAIは西洋人なのか東洋人なのか？世界の認識の差は、脳の構造なのか文化に依存したものなのか？
→知能の正体は真理として一つだろう。地理的に離れていて西洋の文化は東洋から見えにくかった。両者の知見をどこかで合わせる必要がある。それによってまっとうなAIができてくる。

⑩社会は機能主義ベースで合理的に設計されていくが、人間の身体は生物的になかなか変わらない。今後、その社会に組み込まれて人間の身体自体が変化していくのか、それとも社会が身体性に回帰していくのか、どちらの方向に進んでいく？
→身体はいきなり数世代で変わったりしない。身体拡張、パワードスーツの装着などは出てきている。どこまで拡張できるかという議論。歩幅を計測して補助したり、そういう方が早く実装されるだろう。都市においては環境の方を変えようという動きがある。グーグルなどが、IOTを埋め込んだスマートシティをパッケージとして売り込もうとしている。移動の効率化や犯罪率の低下などを達成することによって、スマートシティ側が人間にすり寄ってくる。

⑪笑いや痛み、驚きをAIが持てるか、という議論があったが、怖さ、不気味さは持てるか？一緒に笑えると仲間と感じる一方、不気味さは疎外感を生んだりする、そのあたりをどのようにお考えか？
→怖さは痛みと近いところで考えられていると思う。他方、不気味については、フロイトが最初に提起したが、親密さと関係している。凄く近いものに抱く感情が、遠いものに感じるのと一致するときがある。距離感の反転みたいなことが起きる。内臓の話とも関係しているかもしれない。人間の主体性の感覚においては、内と外がリニアに変化しているのではなく、トポロジカルにねじれているのかもしれない。そこから不気味という感情が出てくるのではないか。
→アージ理論、つまり感情が行動を促すという側面がある。ゲームではプレーヤーのアテンションを上げるということになる。

⑫マインドアップローディングについてどのようにお考えか？もし実現できるとすれば、どんなブレークスルーが必要か？
→自分はできないと思っている派。人間は目や耳などインターフェースを持っている。それらは、情報を統合して脳に持っていく保護膜の役割を果たしている。いっぱい流れ込んできたら自意識が破綻をきたすだろう。

最後に
第3次ブームにのったAI理解、情報理解はやりやすいだろうが一面しか見ていない。身体、物質も絡めた別の見方もしたほうが全体像が見えてくるのではないか。