海図を読めない船乗り:人間とAIと（長文注意）
ノーバート・ウィーナーとcybernetics, あるいは'Kubernetes'（操舵手）
私が初めてウィーナーについて知ったのが、80年代の終わり頃だった。当時、私は英語学を学ぶただの文学部生であり、司書課程でサイバネティックス(cybernetics)とはと講義の一端で耳にした程度だった。
図書館とウィーナーがどうやって結びつくのか、イメージがつかめなかったのである。参考までに、当時はMS-DOSでワープロソフト（一太郎）や表計算ソフト（DBⅢやLotus）を実習で使うような環境だった。参考までに経済学部や商学部の人達がCOBOLを扱っていた。
大学図書館で参考文献リストを作成するときもIBM製の端末を使って細々とやっていた憶えもある。これが、私とパソコンとのなれのそめである。
ちなみに、標題の「操舵手」とは、cyberneticsの語源であるギリシャ語kubernetes（英語表記）の和訳である。後述のマン・マシン・インターフェースで触れるつもりだが、マン（乗組員→脳）とマシン（船→機械）のインターフェース（仲立ち）をするのが操舵手という仕組みで私は理解している。操舵手の役割かその存在そのものか、どちらをcyberneticsと捉えるかあいまいではある。
余談だがマキャフリーのSFシリーズ『歌う船』は操舵手が宇宙船と一体化していて、その手足である乗組員が別個に存在するという世界観が示されている。
金色の羊毛を求めて・海図のない航海
前川玲子『アメリカ知識人とラディカル・ヴィジョンの崩壊』（京都大学出版会、2003年）
私のいた大学では当時、英米文学専攻があったが、英語学専攻という組織ではなかった。英語学、特に語源学に関心があった自分としては文学専攻のなかに間借りして学んでいた覚えがある。ゼミや講読も文学が中心で、最初の学年では西洋の古典としてホメロスの作品にも接した。
そのなかで、叙事詩『オデュッセイア』もあった。もっともあとでシェイクスピア作品に臨むためのウォーミングアップだったようである。第一次世界大戦を背景としたジョイスの『ユリシーズ』の祖型なのだろうか。そこでオデュッセウスの冒険が延々と語られる。振り返ってみるとあれは「海図のない航海」だったのではないか。
上のリンクに載せた書評、この中にもウィーナーの活躍した（彼は登場しないようだが）アメリカの戦間期から第二次世界大戦に向かう1930年代が登場する。ここでは思想的、思潮的には海図のない漂流だったようである。エニグマ暗号解読のチューリングマシンで有名なアラン・チューリングもこの時期の人だった。
この記事の最後にAI（人工知能システム）と創作、特に機械画と人間の感性をめぐって、描画についてまとめたいがために、この前振りを持ってきた。
産業革命前夜・巨匠から分業化した手工業と印刷まで
私は恥ずかしながら、高校のはじめまで理系に進もうとしていた。どういうきっかけだったか、当時の家庭の事情や私自身の精神状態もあり、2年の途中で文転した。大学受験まで時間がなく、私の場合、日本史では間に合わないので世界史をとることにしたのだった。
当然ながら徒手空拳で一浪して大学受験ふたたび、入学したのだ。そこで勉強した限りから書いてみる。
美術に限って言うと、ルネサンスからあと、ひとりの巨匠の作品から始まり、書字生が手分けして描く写本、そして刊本と、他の手工業分野同様に分業化が進んだ。ひとりの才能だけでなく、より多くの人手による「協働」の始まりだったようである。
電信・蒸気・汽船、産業革命その後・機械との協働の始まり
更に時代が下り、産業革命が起きる。多くの人手を要していた仕事が、主に蒸気の活用や電気の発見と活用によって、飛躍的な発展を遂げるきっかけとなった。
より遠くへ、早く、多く、物事が済まされるようになる。そこからは十らの職人技によらなくても技士の登場により蒸気機関の操縦がなされたりするようになる。
つけ加えるならば、現代から観るとその技士の働きも一種の職人芸に属するものとなりつつある。旅客機も高高度操縦中は自動操縦で正確かつ労力の削減、燃料の節約、環境性能といったところで貢献している。離着陸の時は手動の操縦が入るという。
やはりどんなに時代が進んでも操縦者の介入が必要になってくるところは変わらない。出版物で言えば、編集者の存在が差し詰めそこである。
つまり、頭脳にあたる存在とその働きが尚も必要になるのである。
総力戦の始まり・第一次、第二次世界大戦・それからインターネットの登場まで
あまりにも現在に至ってまとまった意見が存在しないため、戦時中の詳細についてはここでは触れない。
ただ、両大戦とも単なる局地紛争ではなく全世界を巻き込んだ総力戦だったことのは異論はないだろう。特に、第二次世界大戦後の冷戦に至っては核戦争（ボタン戦争とも）の危機とともにリスク回避のためコンピュータネットワークの整備が進んだ。このネットワークが民間利用されインターネットの祖型とされるらしい。
ここまでは空路と航空機の関係で言えば空路の整備についてに相当する。次からは航空機と操縦士の関係、つまり最初に述べた船と操縦者の関係に相当する事項に戻りたいと思う。
幾何級数的に進化する人工知能システム
最近では人工知能システム（AIのこと、ここでは人工知能システムとも表記する）の進化が、特に2023年時点の騒がれ方をみると印象的だった。ついていかねばならないという空気感が強かったような印象である。
ここでは出版や絵について書いているので、描画AIに限って考えてみたい。
私たちが普段接する描画AIとは、前述のインターネット回線を通してパソコン（クライアント）からサーバに「このスクリプトで描いて」と要求すると、サーバのAIから応答がありパソコン側で描画されるというしくみらしい。
この処理のためにももちろん、消費されるべき量のエネルギーが要る。電力である。全世界でいっぺんにサーバのAIに要求を出すとそれだけ電力は消費される。（そういえば低消費電力で済むと謳われた「量子コンピュータ」の話題はどこへいってしまったのだろう。）
消費電力が幾何級数的に増えるということは自然界にも普通に存在しうることだと思われる。放射性物質の崩変、半減期、細菌の増殖から生物の余命の算出、事故の発生確率まで、幾何級数的な法則が存在するからである。
描画AIの話題もそのうち、「量子コンピュータ」の話題同様にフェードアウトするのだろうか？
不気味の谷に守られている「リアル・ザイオン」、共存は可能か？
「29min. 強制終了 人工知能を予言した男」
アラン・チューリングの予言。人工知能システムは既に人智を超えているだろうというものがある。 私も夢中になって観ていたのだが、ウォシャウスキー兄弟の映画『マトリックス』三部作（いまその続編「〜・レザレクションズ」もその姉妹の手により2021年に出ている。Resurrection, 即ち「復活」である。私的にはマーラーの交響曲第2番も連想される。）に人類の最後の砦として「ザイオン」が登場する。今現在、私たちが知りうる限りでの私たちの住処であるという理解でここに書く。
詳しくは書かないが、端的に言えばマトリックスというシステムの手足として「私たち」が使役されている世界と私は捉えている。その意味においては機械と人間の立場が「逆転」している。
たとえれば、船が沈めば乗員である私たちも沈んでしまうのである。先ほど総力戦から核戦争について触れたとおり、シュレディンガーの猫ではないが一触即発の0か1かという不可逆的な状況も、幾何級数的な法則と別に存在するかも知れない。
そうしたなかで、AIをめぐっては「不気味の谷」という現象もある。それは私たちが私たちである理由を唯一、証明できる現象ではないだろうか。つまり、人が生物学的な、あるいは倫理的なヒトであるアイデンティティーのひとつと私は思う。AIが作った作品に違和感を覚えたことはないだろうか。その感覚が「不気味の谷」と呼ばれるものと私は理解している。
描画AIに限っていえば、「絵心」というものが「不気味の谷」を際立たせる唯一の守りだろうか。
マン・マシン・インターフェース
再び、ウィーナーの話に戻りたい。
人間の身体を操るのは脳であるとすれば、その脳が脳だけになったり宇宙船を操ったりするとすれば、ヒトという生物の範囲はどこまで拡張できるのだろうか。
あるとき、私は試しにChat-GPTに「サイバネティックスとは何ですか」という内容の質問を投げかけてみた（英文で）。
すると、《それは肉体の可能性を拡張する技術です》と英文で返ってきた。後日、新聞社がChat-GPTの開発会社を提訴したというニュースに私も接した。
AIがただ単に、人間の作ったドキュメントを流用し、スクリプトの要求により忠実に沿ったかたちで答えを出しているだけならそれはそれで良かったかも知れない。
だが、一抹の不安として、Chat-GPTはしきりに'autonomy'（自律性）という単語を答えに多用していたところがある。もしかしたら「操縦者」である私たちから自律性を奪い、「船」の一部、あるいはマトリックスでいえばマトリックスの駆動エネルギーとなれと、ある意思を持って「自律し」つつある兆候なのかとふと不安になる。なぜなら、それは私たち人間の存在理由を思想的に覆しかねないと思わせるからである。
シンギュラリティがそういうものだとしたら、マキャフリーの作品とはかけ離れたディストピアの領域にさしかかることにならないか。どちらかといえばマトリックスの世界観に近い恐れを持って私は見ている。
現代の金色の羊毛とは・海図のない航海ふたたび
私たちは結論を先延ばしにしているだけだろうか？
もしかしたら、ダチョウのように砂のなかに頭だけ突っ込んで問題を見まいとしているのかも知れないが、真実のところは私にも分からない。
神話のあらすじをざっと見る限り、金色の羊とは災いをもたらすものでしかない。金色の羊自体ではなく、それをめぐって争うイアーソンをはじめとする人々の、海図のない航海である。
AIを創ったのは人であるとすれば、AIを終わらせるのも人でなければならない。人が船を組み立て、人が船を解体するように。でも、難破するときは乗組員ももろともなのと同じである。セイレーンの歌声は非常に魅力的らしい。
こうして見ていくと、このままでは単なるディストピア作品を鑑賞するだけでなく、それが実現してしまいそうで私は恐ろしくなる。
ここまで見ていただきどうもありがとうございます。貴方ならどう思われますか。
2024/01/21 ここまで
本文4,426文字