LLM 時代のアイデンティティ・クライシスに対する生存戦略

2024年3月25日 20:48

大規模言語モデル（LLM）の登場で大なり小なりアイデンティティ・クライシスの時代がやってきた。
馬車道だったニューヨークの町並みがたった 10 年で自動車文化に様変わりする写真はあまりに有名だが、歴史を顧みて分かる通り技術は労働を劇的に代替する。
単に順番が回って来ただけなのだろう、技術者や知識労働者、クリエイターの職位を脅かす X デー、審判の日がやってきたのだ。
2019 年アルス・エレクトロニカのテーマが思い浮かぶ。

40周年をむかえた2019年のテーマは、「Out of the Box -the Midlife-Crisis of the Digital Revolution(デジタル革命が迎えるアイデンティティクライシス )」

https://www.biotopetide.com/?p=2018

そもそも何を不安に思うのか？

だれもかれも、宇宙へ行ってみたがっていた。月や火星や小惑星。そんなに遠くまで行けなくても、地球をこの目で見るだけでもよかった。だが、簡単にはいけなかった。
その乗員になるには、すぐれた頭脳と運動神経の発達した体が必要だった。どちらかひとつだけを持っている者はたくさんいたが、両方となると、少なかった。
それでも、数は少なかったが、いることはいた。その者だけが訓練をうけて、宇宙船に乗れるのだった。特権階級だった。
...
「以上のような考案に基づいて製作される宇宙船は、もう、いままでのように、特殊な能力を持った乗員を必要としません。どんな平凡な人でも、なんの不便も危険も感じることなく、操作運転できるのであります」

空への門 / 星新一

フランケンシュタイン・コンプレックスの例を引くまでもなく「イノベーティブな技術」への漠たる不安は太古の昔から存在する。
これまでの技術と比較し昨今の AI がより不安を伴う要因のひとつに「『ツール』の枠を容易に逸脱する可能性への予感」があると考える。
人類同等以上の仕事をこなす AGI（汎用人工知能）、ニック・ボストロムのソブリン型、これらは楽観的シンギュラリティの枠を軽やかにジャンプする。

ただ、私が最も恐れを抱くのはより浅ましい個人主義で、今持つスキルが無用の長物と化し AI 代替お役御免されゆく生活にリアリティを感じる。
心の根底にはサンクコストの取りっぱぐれを避けたい小市民がいるのだと思う。
今学んだこと内面化したものが非線形なテクノロジーの進化により明日には全てコモディティ化しているかもしれない。
手を動かしたり学ぶ意義が徐々に喪失するように感じられ、今まで安心して立っていた世界の底が抜ける感覚の中、我々は一体どのようにキャリアを積めば良いのか。

ハードな手段としての脱 AI

ChatGPT の黎明期に「AI 開発を 6 ヶ月停止」するようイーロン・マスクらが呼びかけたことがあった。
AI による実存の危機を完全に止めたければ、AI の進化を止めるか、能力に限界を設定すなわち AI アライメントすれば良い。単純な話だ。
失業の懸念やそれに類する不安が広がる中「人類のどこまでを奪い何を奪わないのか」その生殺与奪は当然生み出す側がコントロールできる。

AI を生み出す者たちの思想として EA と e/acc のふたつがある。
EA は「効果的な利他主義（Effective Altruism）」の略で AI の発展に対し保守的な考えを持つ（その実ラディカルな功利主義であるが、ここでは詳述しない）。
e/acc は「効果的な加速主義（Effective Accelerationism）」であり読んで字の如くテクノロジーの進化を一級市民と捉える。
サム・アルトマンの OpenAI 解任劇の背景には二者の衝突があったと言われている。

サム・アルトマンは e/acc 側とされ、その考えは本人執筆の Planning for AGI and beyond や #27 Sam Altman は未来をどう創るのかが分かりやすい。
ざっくりと彼の目指す未来をまとめると、AI のリスクを考慮しつつも人類を労働から開放しベーシックインカムで生きられるユートピアを目指している（実現の可否は知らない）。
急先鋒たるサム・アルトマンを始めベイエリアの空気感を見るに余程のことがない限り AI のうねりは止めるべくもあらず。

となると、我々が次に取り得る AI に対する防衛術は「社会」である。
EU が AI 規制に向けて平常運転したように、あるいはチューリング警察機構のように、我々社会が AI を拒絶する盾舜六花の姿勢を取れば、いくら高度な AI の権能が実現したとて各人が持つ利権の完全性は保たれる。
最近の生成 AI に対する一部クリエイター業界はこの段階に差し掛かりつつあるように感じられる。
とはいえ転がり始めた岩が止めようもないのは自然の摂理であり、規制や拒絶を持続させるには相応のエネルギーと結託が必要になる。
加えて脱 AI は（人里離れて暮らさない限り）個人のみでは成就せず、One of Them である我々は声を上げつつもやはり震えて審判を待つしかない。

どうかな...人間の愚かな行為は、だれにも止められないときがあるものだろうな。つまり、一億二億といったたいへんな大勢の人々がこぞって祖国の名誉のためにコバルト爆弾を敵国に撃ちこむことを決断したとしたら、もうだれにもどうすることもできないってことだ

渚にて / ネヴィル・シュート

個人的な生存戦略

AI の進化にどう対処するか、どう心を整えていくかの方法論はこれまで様々に語られてきた。
マックス・テグマークの『LIFE 3.0 人工知能時代に人間であるということ』ではホモ・サピエンスを超えたホモ・センティエンスとしての生き方が、『サピエンス全史』でおなじみのハラリは『２１Ｌｅｓｓｏｎｓ２１世紀の人類のための２１の思考』にて AI 時代を生き抜く瞑想の効用を説く。
落合陽一『超 AI 時代の生存戦略』では個人の時代を予見し、東浩紀の「訂正する力」では作家性或いはそれに類する概念の重要性が示される。
私自身、生存戦略（というかマインドセット）として意識していることが二点ある。

個人性

LLM が人類に肉薄する現状を踏まえ（「人間の認識は言葉を通じてしかあり得ない」初期の言語学的なアナロジーではあるが）自身の認知能力を LLM 的なモノと捉えてみる。
LLM の動作原理は丸め込んで言えば単語 A から確率的に単語 B を出す「確率論的オウム」であり、言葉同士が持つ思いもよらないユニークな繋がりが私という LLM の色になる。
例えば金木犀の香りで在りし日のエモーショナルな思い出を想起する回路が私にしかないように、経験や語彙によって繋がりのオリジナル性は研ぎ澄まされていく。
ポン・ジュノ監督のアカデミー賞スピーチで取り上げられたマーティン・スコセッシの言葉「The most personal is the most creative.（最も個人的なことが最もクリエイティブである）」ではないが、AGI が生まれようと「私であること」の唯一無二性が低減しないところに生存のヒント、活路がある。

私は現状ソフトウェアエンジニアとして働いており、このスキル自体は AI コード生成等々で「いずれ」代替されゆく宿命かと考えるが、学習や職務の過程において身に付けた知識や経験は、これまでの記憶と余すこと無く関係し合い独自の繋がりを形作っていく。
スキルを身に付けるか否かの 0/1、チープな二元論で語らず、経験のグラデーションで捉え個人性の色付けに役立てる思考の転換。

非線形な未来予測はそもそも困難なので AI の発展を意識し石橋を叩き続けると全知的活動を止めることになる。
個人性の先鋭化を第一義に捉えると如何なる経験もムダにはならず、好奇心の向かう先に進む理由になる。

今、ここ

SF が人類の想像力の方向である以上、時期がいつかは分からないにせよ AGI / ASI 実現に向けて文明が進むのはまず間違いない。
非線形な LLM の成長は半ばファンタジーであり、再魔術化した言説空間はどんな意見をも許容でき、誰もが何かを語り得る。
SNS では「○○ が 202x 年までに AGI が実現すると宣言！」構文をよく見かけるがこれは「友達の姉から聞いた話なんだけど…」と語る都市伝説と構造的に何ら変わりはない。

「シンギュラリティ」という概念があります。人工知能が人間の知能を超え、世界が劇的に変わる時代の到来を表す言葉です。
けれども、この言葉を提唱したレイ・カーツワイルという未来学者の本を読むと、表面的に新しいアイデアに見えるものの、実際にはかなり古臭いアイデアの組み合わせで書かれたものであることがわかります。
…
一種の神秘主義の流れがあります。カーツワイルはまさにその継承者です。だから、神 = 人工知能の時代が来て、ひとはみな救われるという話になるのです。

訂正する力 / 東浩紀

冷静になって考えて欲しいのだが、AI 驚き屋はともかく、どうしてただの革ジャンを着たおじさんが「AI がコードを書くのでもうプログラミングを学ぶ必要はない」と発言した未来に一喜一憂する必要があるのか。
ASI が実現したとて「生命、宇宙、そして万物についての究極の疑問の答え」に 750 万年かけてなおトンチンカンに答える可能性は大いに有り得る。
未来は誰も掴んでいない。

いつか実現する未来を恐れ歩みを止めると今この瞬間にできることや経験できる総量は明らかに目減りする。
そしてまた、AI でなくとも上位互換なんて吐いて捨てるほどいるこの時代、かといって自分は用済みなのかと言えばそうでなく、目の前の物事を全うできるのは「今、ここ」にいる私しかいない。
未来を案じるのは程々に、代替不可能な「今、ここ」を直視する眼差しが重要になる。

おわりに

以上二点「個人性」「今、ここ」を意識するのが個人的な戦略だが、結局これらは何も語っていない。
LLM が現れようとも立って歩き、歩いて進む他ないとの悲しき宣言に過ぎない。
アイデンティティ・クライシスに直面した我々は、最終的に「どうポジティブに生きるか」みたいなお気持ちの捻出に帰着する。
ネーゲルらを引用するまでもなく、不条理を前に唯一無二の答えはないのだから、何かしら腹落ちする人生の見立てを見つけていくしかない。

この文章が誰かしら何かしらの補助線になれば幸いに思う。