『AIに意識は生まれるか』-感想と考察
この仮説を考えるために、どストレートなタイトルのこの本を読んでみました。
「ああ、こういう本が読みたかった」という内容で、色々な考え事を助けてくれるガイドラインなのですが、いきなり発散させるにはあまりに壮大な内容なので、一度整理してみたいと思います。
読むに至った動機
3月はじめに以下の記事が日経に掲載され、「え？ほんとに？」と思ったことがきっかけです。
企画系として実務で生成AIを活用している中で考えているのは、「どのように経営の支援にAIを活用するか？」という軸であり、「経営自体をAIで行う」ことではありません。
以前に「AIが経営をできるか？」と考えたことはありますが、やはり経営は意志が重要であり、意志は「～をしたい」という感情がないと生まれません。
そのため、AIに感情が生まれるまでは、AIが経営をする、汎用的に言えばAIが人間を超えることは無いだろうと思っていました。
そしてそこで一度は思考停止していたのですが、この記事でジェフリー・ヒントン氏が真剣に課題としていることを知り、「意外にも現実的な話かもしれない」と思ったわけです。
読む前の仮説
GPTモデルが大量のインプットによって人間レベルの推論を実現したことからすると、恐らく、感情も同じように構造的に生み出せるのだろう、と考えること自体は容易です。
深層学習は人間の脳のニューロンの仕組み・動きを模しているため、同じように感情を発生させる仕組み・動きを模すことができればよいのだろうということです。
で、またそこからしばらく放置していたのですが、久々に思い出して記事を読み返してみると「人工意識」というキーワードがあり、本格的に研究されていることに改めて気づきます。
AIが意識を持つか否かは、古くから議論されてきた。著名なAI研究者や神経科学者のグループは決着をつけようと、23年に検証のアプローチを示す論文をまとめた。科学的な理論を総動員し、AIの意識の有無を評価する手法づくりに挑んでいる。
論文の執筆には「人工意識」の開発に挑む日本のAIスタートアップ、アラヤ（東京・千代田）の金井良太CEOも加わった。同氏は「現在の生成AIの基盤技術である大規模言語モデルに意識が宿ることも否定できない」と指摘する。
『ゴッドファーザー』が憂える数式 テクノ新世 理想を求めて（1）」
そこで人工意識について調べてみると「IT navi」さんの以下の記事がありました。
①～⑥まであり、無料で良いのかと思うクオリティで非常に勉強になりました。
しかし、まだ抽象的な理解に留まると感じたため、冒頭の金井氏の本を手に取るに至ったわけです。
意識とは何か？
ここから、『AIに意識は生まれるか』の内容を参考にしつつまとめていきたいと思います。
はじめに私の理解を簡単にまとめると以下の通りです。
「意識の統合情報理論」（IIT）によれば、意識とは、統合されており、再帰的な（自分自身について言及できる）情報のことである。
この情報は複数の感覚器官が受容した、「世界をどのように解釈したか」の集積（世界モデル）である。
受容した情報は”一時メモリ”（グローバル・ワークスペース）によって処理され、他の感覚器官・運動器官・記憶などのモジュールと相互的に処理される。
この受容・相互処理の仕組みを人工的に作ることができれば、人工的に意識を生み出すことができる。
書籍の内容からすると、非常に強引にまとめてしまっていますが、個人的に特に興味深いのは以下の点です。
意識が情報であるということ；ただし、統合・再帰の処理のための仕組み（グローバルワークスペース）が必要
私達は「世界モデル」によって世界を解釈している：解釈したときのフィードバックを「クオリア」と呼ぶ
人工的に意識を作った際の「目的意識」も人工的に設計する必要がある：内発的な動機が生じれば、人類に不利益をもたらす可能性もある
技術的に非常に難易度が高く、またベースとなるIIT自体が非科学的だと批判を受けていることはよく理解をしておく必要がありますが、このようなレベルで課題が整理されていることには夢を感じずにいられません。
意識の統合情報理論（前提）
深堀りとして、IITについても簡単にまとめておきます。
まず一番面白いと思ったのは、IITが「どうすれば脳に意識が生まれるか？」ではなく、「意識しているものは現実に存在するのか？」という問いから始まっている点です。
ハードプロブレムは、「外」の物理的世界の存在を前提とし、「内」の主観的意識を謎と見なした。しかしIIT的アプローチによると、主観的意識が存在することが前提なので、外の世界の存在こそが謎になる
かなり説明を割愛していますが、脳は受容した世界の情報をボトムアップ的に処理すると同時に、過去の世界モデルをベースにトップダウン的にも認識を構築しているそうです。
金井氏が「フィクションとしての世界」という表現を使うように、我々が見て、感じているものは脳が作り出したもの、ということです。
また、理系の人にとっては当たり前なのかもしれませんが、このIITが「公理」という考え方によって生み出されていることも興味深い点の一つです。
公理は「こういうことにしておきましょう」という前提で、正しさを確かめる必要はない。そうではなく、公理に基づく論理やモデルが、実際に存在する現象をちゃんと説明したり、予測できるかどうかが問題なのだ。
私自身は、大学時代に哲学をやった人間なので、この考え方自体は非常に腹落ちしました。ある種、永遠に仮説なのだと思いますが、逆に言えば「真に正しい」ものが存在しない中で意思決定していく上では根幹となる考え方だと思います。
意識の統合情報理論（公理）
それでは具体的な内容を見ていきたいと思います。なお、「意識は存在する」という第０公理は省略します。
第１公理：意識には構造がある
主観的な意識体験には、特定の構造がある。あなたが、ある人の顔を見ているとしよう。そこには、目が水平に二つ並んでいるとか、その少し下に鼻があり、さらには下に口がある、といった特定の構造がある。あるいは、顔の一部として目や口や鼻があり、さらには鼻の一部として鼻の穴がある……といった、階層構造もある。 （中略）
第２公理：意識は情報である
（中略） ある特定の意識的体験は、他の多くの可能性を否定している。「赤い花を見ている」という視覚のクオリアは、「青い花を見ている」「白い花を触っている」「音楽を聴いている」……と、膨大な可能性を排除する。その意味で情報である、ということだ。 （中略）
第３公理：意識は統合されている
「内側から見た情報」で書いた通り、意識は統合されているため、分割すると失われる情報がある。言い換えると、部分の情報量を合計した値よりも、全体の情報量のほうが多い。 （中略）
第４公理：意識は排他的である
（中略） 排他であるということの意味は、意識体験が、特定の時間的・空間的スケールで、ただ一つだけ感じられる、ということだ。ある物が赤であり、同時に青でもあると感じられることはないし、「部分的な意識」と「全体的な意識」などというものがあり、それらが同時的に感じられることもない。
人によって差はあるかもしれませんが、各公理を自身の主観的な経験に当てはめてみると概ね「それっぽい」感じがあると思います。
統合されていて、階層的で、排他的な情報、とすると、個人的には何だかデータキューブみたいなイメージが湧きます。
珍しく管理会計的な例えをすると、企業における課の売上、部の売上、会社の売上があった時に、それぞれが統合されることで会社の売上という一つの情報を階層的に形成していますし、課≠部≠会社という点で排他的ですよね。
ただこれは情報の構造的な話だけなので、前述の通り、こういう情報を更新し続け、主体的に解釈するための仕組みが必要で、それはグローバルワークスペース理論というもので説明ができるようです。
まとめ
『AIに意識は生まれるか』という本自体もそうなのですが、「AI」というより、「そもそも意識とは何か？」という内容が中心になってしまいました。
ただこれは、それほどまでに、意識自体が難解で、最先端の研究者の間でも解釈が異なり、議論が盛んに行われているということだと理解しています。
また、個人的には哲学的な話と、脳科学的な話と、AI的な話がミックスされていることが刺激的でした。
この中では脳科学が最も不勉強ですが、全貌を理解するためにより深く知りたいという意欲が増しました。
関連して、ちょっと恐ろしい内容を含んだ文章を紹介します。
人工意識の実現という観点からは、特に意識のことを考えているわけではないAIの世界の研究者のほうが、意識の研究者よりもかなり進んでいる印象を持っている。彼らがすごいAIをたくさん作っているうちに、気が付いたら、その中に意識を持ったAIがいるかもしれない。
この一文を読むと、前段で引用したヒントン氏の課題感がよく分かります。フロンティアすぎるとこういうことも起こるんだなあと、（人ごとみたいに）感心してしまいました。
本当に目的意識のインプットを誤ると、AIが人工意識を持っていると人類が気づかないうちに、人類が滅亡する可能性も否定しきれないんだろうなと思います。
一旦、書籍の内容としては以上ですが、発散させて考えたい・調べたいテーマが沢山浮かんできたので、今後書いていきたいと思います。
以下、メモ。
AI経営者はどうやったら作れるか？
グローバルワークスペースにはどのような器官が必要か？
世界モデルの適切な更新プロセス
AI→AC(Artificial Consciousness)時代の倫理のあり方
自分自身の”意識”の存在意義