AIとシンギュラリティ#中編書き出し文

哲学チャンネル

2023年5月11日 10:04

以下はyoutubeにアップする予定の動画『AIの定義と歴史【AIとシンギュラリティ#中編】』の内容を書き出した文章です。

前編はこちら

後編はこちら

いつもはYouTubeの概要欄に記載していましたが、今回の動画から5分ルールを撤廃したため文字数制限に引っかかるようになりました。

もしよければ動画の方もご覧になってみてください。
（現在絶賛動画制作中です。アップは6月初旬になる予定。テスト的にこの文章だけ先に出してみました。）

こんにちは。哲学チャンネルです。

「AIとシンギュラリティ」シリーズ第2回。前回の動画ではAIの定義や歴史について振り返りました。第三次AIブームとされる現在。AIは私たちの日常に入り込み、進化を続けています。ある日AIは人間を超え、人間の理解できない速度で文明を発展させていく。

シンギュラリティ仮説に代表されるような未来像は果たして本当に訪れるのでしょうか。今回はシンギュラリティ仮説とそれに反論する幾つかの理論について見ていきたいと思います。

ぜひ最後までご視聴ください。それでは本編にまいります。

シンギュラリティ（技術的特異点）とは、SF作家のヴァーナー・ヴィンジが1980年代に『マイクロチップの魔術師』をはじめとした作品で使い出した概念です *1

AIはいずれ人知を超えた存在になり世界の進化は人間の理解を遥かに超えてしまう。捉えようによっては、超AIのさじ加減一つで人間は滅亡してしまう可能性も考えられる非常に恐ろしい概念だと言えるでしょう。

この概念を好意的・肯定的に捉えたのがアメリカの発明家、レイ・カーツワイルです。彼は『ポスト・ヒューマン誕生：コンピューターが人類の知性を超えるとき』（2005年）にて2045年ごろにシンギュラリティが到来すると予言しました。そして「シンギュラリティ後」の世界は「人間が真に生きるに値する時代」であると予想します。

彼が2005年に発表した未来予測は非常に正確で*2AIが人間に近い振る舞いをしていることと相まって、シンギュラリティ仮説が一つの有力な予想として
とても大きな話題になっています。

シンギュラリティ仮説の理論にはカーツワイル自身が提唱した収穫加速の法則が強く関連してします。収穫加速の法則とは、重要な発明は他の発明と結びつき次のイノベーションまでの速度を短縮する傾向があることから、科学技術は直線グラフ的ではなく指数関数的に進歩するという経験則のことです。

収穫加速の法則を表す代表的な例はムーアの法則ですね。インテル社の創業者であるゴードン・ムーアは1965年の論文にて集積回路あたりの部品数が毎年2倍になると予測し、その成長率は少なくとも1975年までは続くとしました。1975年にはその予測を「2年ごとに2倍になる」と修正し、その法則は現在に至るまで破綻していません *3

指数関数といえば、人間が直感的に理解できない代表格のような概念です。
ドラえもんのエピソードに「バイバイン」というものがありますが、5分おきに2倍になる栗饅頭があるとして、栗饅頭が宇宙を埋め尽くすのに大体どのぐらいの期間がかかるかの想像がつくでしょうか？

答えは約23時間です。

これは多くの人の直感に反するものだと思います。

このような指数関数的なものに対する「理解のできなさ」がシンギュラリティ仮説におけるAIに対する「怖さ」みたいなものに繋がっている可能性もあります。

しかし収穫加速の法則には疑問も呈されています。
バイバインで見られるように、指数の発散には強烈な力があります。ムーアの法則が発表されてから最初の10年で10回。後の50年で25回程度の「2倍」が実現されたことが今後の「2倍」を保証する根拠にはなりえません。

実際ムーアの法則に関しては2015年に米国半導体工業会が「2021年で終焉を迎える」と予測しました *4

その根拠として代表的なものが「集積回路が小さくなりすぎていること」です。2016年の段階で集積回路の構造は10nmプロセスになっておりさらなる微細化が続くと、原子よりも細かい構造が必要になります。つまり、これ以上集積回路を小さくすることは物理的に不可能なのです *5

シンギュラリティ仮説にも同じように、指数関数的な成長には物理的な限界が天井になるという意味で多くの疑問が呈されています。

とはいえ、この仮説には強烈なロマンと希望があります。
それだけに今後より議論が加熱する分野であると考えられるでしょう。

シンギュラリティ仮説を考える上で重要なポイントがいくつかあります。

①強いAIは実現可能なのか

強いAIとは「人間と同等以上の広範な適用範囲を持ち」「人間と同等の意識を持つ」ようなAIです。要は「超人間」のような存在ですね。このようなAIは果たして実現可能なのか。

②汎用性のあるAIは実現可能なのか

「AIに意識が宿るか」という問題は一旦保留し、その手前の課題として「人間と同等以上の適用範囲」を持つAI、すなわち汎用的なAIは実現可能なのでしょうか。現在AIとされているものはその全てが「専門的AI」です。あらかじめ「この領域に対応する」ということが決められていて、その領域の中でのみ仕事をするようなAI。それが私たちが普段目にするようなAIなんですね。そうではなくて「あらゆる問題に柔軟に対応」するようなAIを作ることは可能なのでしょうか。

③AIが人知を超えることは可能なのか

既存のAIはすでに「処理能力」という意味では人間の能力をはるかに上回っています。しかし「認識能力」的な意味や「言語能力」的な意味や「想像力」的な意味でAIは人間を越えられるのでしょうか。シンギュラリティ仮説によれば、AIが爆発的な進化を遂げることで、AIの行う判断をもはや人間が理解できなくなるとされています。そんなことがありえるのでしょうか。また、そんなことがありえるとして、それは「人知」を超えていることになるのでしょうか。そもそも「人知」とは何を指すのでしょうか。

これらの問題に取り組むためには「人間とAIの違い」や「AIと心の関係性」を考えなくてはなりません。

【AI原論】では「人間とAI」の端的な違いを「自律性と他律性」に見出します。「自律性と他律性」を考える上で重要になるのが「オートポイエーシス理論」です。

オートポイエーシス理論とは、チリの生物学者ウンベルト・マトゥラーナとその弟子であるフランシスコ・バレーラにより提唱された理論です。この理論では生命体と機械の本質的な異質性が検討されます。

結論からいうと、オートポイエーシス理論では、生命体の神経システムにおいては、外部刺激と内部刺激の間に「直接的な因果関係があるわけではない」とされます。神経システムは自らの「歴史」にもとづいて自らが動作し続けられるように変化するだけだというのです。

つまり神経システムは「自己に準拠して自己を創り出していく」「オートポエイティック（自己創出）システム」である。哲学者のヒュームは「因果は思い込みである」としたわけですがまさにその哲学と共鳴するような主張に思えます。

物質的な観点で考えると、私たちは「解放系」です。外部刺激を感覚器官によって取り入れているのは事実ですし、代謝などによって外へ自己を放出しています。しかし認知的な立場で生命体を考えるオートポイエーシス理論によれば生命体（神経系）は「閉鎖系」なのです。

この考えにより人間と機械は明確に峻別されます。
機械は外部刺激に対して出力を返す「解放系」であり外部刺激に依存して出力を返す「他律性」を持つからです。

【AI原論】では閉鎖系と解放系の違いを「予測」という観点から補強します。解放系システムにおいては、外部刺激に準拠して出力がなされますから外部刺激との因果関係を計測することで、その動きを「予測」することができます。しかし閉鎖系システムは「自己に準拠して自己を創り出していく」のですから、その出力を「予測」することは非常に困難です。

複雑な機構を持つ機械の出力を予測することは可能なのに比較的構造がシンプルな原始的動物の行動を予測するがほぼ不可能なのは、生命体が他律系ではなく自律系だからなのです。

「自律系」とは「閉鎖系」のことであり「他律系」とは「解放系」のことです。そして「自律系」「閉鎖系」には「不可知性」という重要な特徴が付随するといえるわけですね。

少し話は戻りますが、オートポイエーシス理論があらわれる前にも、生命体と機械の関係性については盛んに論じられていました。

その代表的なものが、アメリカの数学者ノーバート・ウィーナーが提唱したサイバネティクスです。1948年、ウィーナーは著書【サイバネティクス】において「動物と機械における通信と制御」の問題について考察しました。

彼は、情報のやり取りやコントロールの仕組みにおいて生物と機械にその類似性があることに着目し、新しい研究課題を提示しました。この研究にはあらゆる学問の協同が必要になります。認知科学の立場からはコンピュータモデルを利用した心のダイナミクスに関する研究。脳科学の立場からは動物実験などによる外部刺激と脳神経の活動の関係性に関する研究。

サイバネティクスが問うのは「心とは何か」です。そしてその大前提には「心とは脳である」という共通認識があります。しかし、果たして本当に心とは脳なのでしょうか。

それを問う上で一番わかりやすい題材は「クオリア」の問題です。
私たちが感じる「赤い」という質感は、外からの観察で突き止められるものではありません。それはあくまでも私たちが「感じて」いるものであり、クオリアを外部刺激やニューロンの働きに還元することは非常に難しいのです。

サイバネティクスは後に情報システムやロボット技術などの実用化に貢献するものの「心とは何か」という問題について説明することはできませんでした。

サイバネティクスは「観察されたシステム」を扱います。コンピュータモデルに関しても、動物実験に関してもそこに「ある」システムを観察して何かしらを考察するわけですね。しかし先ほども述べた通り、クオリアなどはどこまで行っても主観的なものです。ですから「心」の問題を解き明かすためには「観察するシステム」側を取り扱わなければなりません。

そうして1970年代後半に現れたのが「ネオ・サイバネティクス」とも呼べるものです。

オートポイエーシス理論もこれにあたりますし、物理学者ハインツ・フォン・フェルスターが提唱したサイバネティクスのサイバネティクスと呼ばれる「二次サイバネティクス」もネオ・サイバネティクスの一つです。

要は、サイバネティクスで科学者たちが行っていた「観察」。この「観察する」という行為をさらに「観察する」というのがネオ・サイバネティクスを貫く基本方針なのです。すなわち、観察対象が「物質」から「情報」に移行したわけです。

サイバネティクスの立場から考えると「強いAI」は実現可能です。「心」を「脳」によって解析できるならば、それを反転させて「心」を表現することも可能でしょう。

しかし、ネオ・サイバネティクスの立場から考えると「強いAI」は完全に否定されます。強いAIには「人間の心は外部世界を表象していてその表象（記号）をルールに基づいて操作している」という前提がありネオ・サイバネティクスはこの前提を否定してしまうのです。

以上の議論を踏まえると、外的刺激を受けることで何らかの出力を返すAIは
どこまで行っても他律的であり、そういう意味で自律的な生命と同等になることは不可能ではないかと思えます。

そして、自律的で不可知な生命とは反対に、他律的で予測可能なAIに自由意志は宿らないと考えるのが普通ですしそのような存在に社会的責任を帰することは難しいと考えられます。

強いAIが実現しシンギュラリティが起こるとするならば、それはAIにも社会的な責任が発生することを意味します。この言説の対偶を取ると、AIに社会的責任を帰することができないならば、シンギュラリティは起こらないと言えてしまうわけです。

自律系と他律系、または不可知性と予測可能性について少し違った切り口でもう少し検討してみましょう。

【AI原論】では両者の違いを、クァンタン・メイヤスーが提示した「潜勢力」と「潜在性」という概念で説明します。メイヤスーは「確率的な運」と「偶然性」を明確に区別しました *6

普通「運」と「偶然」は同じような意味で使われますが、彼はその違いを「潜勢力」と「潜在性」という概念で峻別します。

「潜勢力」とは「与えられた法則の条件下にある可能的なものどもからなる
索引づけられた集合の中に含まれている、現実化されていない事象」のことです。ここでいう「索引づけられた」とは「一覧に登録されたもの」というような意味です。「〇〇～〇〇まである可能性」の中で今顕在化されていない事象。これが「潜勢力」です。つまり「運」とは潜勢力のあらゆる現実化のことなのです。

一方で「潜在性」とは「可能的なものどもによって予め構築されたいかなる全体によっても支配されない生成の中で創発する、あらゆる事象集合の性質」と表現されます。非常にややこしい表現ですが、要は「潜勢力」における「索引づけられた集合」によって予め準備されたのではない未知の事象や法則が「潜在性」によって時間経過とともに偶然に生成される。というようなことを表した概念なのですね。

当然ながら「潜勢力」は「他律系」に「潜在性」は「自律系」に対応します。

「潜勢力」と「潜在性」を決定的に分つのは「全体」という概念です。
もし仮に「全体」という概念が確定するようなことがあれば事象は「全体」の「潜勢力」の中から現れるだけになり「潜在力」という概念を持ち出す必要がなくなります。しかし、メイヤスーは「全体を確定することはできない」と言います。それを説明するためにカントールの冪集合に関する理論を持ち出すのですが、これについては過去に解説したメイヤスーシリーズを参照していただけると幸いです *7

「全体」を確定させようとしても「全体」を構成する要素の組み合わせの「全体」が元の「全体」よりも必ず大きくなってしまうため、論理的に「全体」を確定させることはできない

簡単にいうとこのような文脈で「全体」が否定されるのですがメイヤスーは「全体」からまた新しい創発と生成が行われるプロセスを「時間」と表現し、生命体と「時間」が本質的に不可分であることを示しました。

ですから、機械的知性と生命的知性を決定的に隔てるのは「潜勢力」と「潜在性」の相違であり、それは「時間との関係性」だと表現することもできるのです。

その他【AI原論】では紙面の多くを割いて、メイヤスーの思弁的実在論をベースにしたAIに対する検討が行われます。

上手に説明できる自信がないのと、尺の都合からこれ以上の深掘りはしませんが、もしご興味があればぜひ本書を読んでみてください。

次回はAIにまつわるもう少し具体的な問題と、人々がAI信仰とも呼べるAIへの過剰な期待を持つ源泉について触れ、このシリーズのまとめをさせていただきます。

□注釈と引用

*1「シンギュラリティ」という単語自体は「特異点」という意味で、他の分野でも使われる概念です。ここでは「IT業界においての用語としてのシンギュラリティ」という使い方を暗黙の前提とします。

*2 カーツワイルの予測（2005年の）

2010年代
コンピュータは小さくなり、ますます日常生活に統合される(スマートウォッチやスマートフォンなど)。
高品質なブロードバンドインターネット接続は、ほとんどどこでも利用できるようになる。
バーチャルリアリティの生成。
ユーザの網膜上にビームの映像が投影される眼鏡の登場。
これらの眼鏡は新しいメディアとなる。
例えば、外国語で話される言葉は眼鏡（2018年時点の用語ではスマートグラスと呼ばれる）をかけているユーザーへ字幕のように表示される。
「VRメガネ」の登場。
さまざまな日常のタスクでユーザーを助けることができる「バーチャルアシスタント」プログラムを搭載したコンピュータの登場。
携帯電話は、衣類に組み込まれ、ユーザーの耳に直接音を投影することができるようになる。

2015年
家庭用ロボットが家を掃除している可能性がある。

2018年
10TBのストレージ（人間の脳の記憶容量に相当）が1000ドルで購入できる。

*3 一般にムーアの法則を説明する際には「半導体のトランジスタ集積率は18ヶ月で2倍になる」と言われます。事実ベースとしてintelのMPUの性能が18ヶ月で2倍になっていることからそう説明されるわけですが、当のムーア自身は「18ヶ月と言った覚えはない」と述べています。

*4 半導体国際ロードマップ https://www.semiconductors.org/resources/2015-international-technology-roadmap-for-semiconductors-itrs/

*5 とはいえ、2021年以降もムーアの法則は生きています。集積回路の微細化は不可能になりましたが、二次元構造の半導体を「縦に積み上げる」というアイディアでイノベーションが起きようとしています。まさに「他の発明と結びつき」です。

*6 AI原論神の支配と人間の自由 (講談社選書メチエ) P88
「メイヤスーは、確率的な「運（hasard）」を、より本質的な「偶然性（contingence）」から区別する。確率的法則にしたがってある事象が生起するのも一種の（高次の）必然性だが、偶然性はあくまで必然性の対立概念なのだ。」

*7 宇宙の確率論とカントールの定理【有限性の後で#11】