見出し画像

アライメント・生きる意味のことについて

ren

もういくつ寝るとAGI～

おはこんばんにちは、れんちょんです。

OpenAIを巡る騒動で世の喧騒も冷めやらぬ毎日、Sam AltmanだけでなくGreg BrockmanやIlya Sutskeverといった錚々たる面子の名が日経新聞にまで轟く世界線に我々は生きています。なんだかんだ、"お家騒動"でAIアライメントを始めとしたAIと社会の未来を巡る諸問題が日本語圏でも周知されるようになって良かったな～と思いますね。

AIアライメントについてはまあ上記のサイト読めばわかるので、あまり深くは書きませんが、正直個人的には無理ゲーだなあと思っています。

直感的に考えて、AGIを人類の価値観に沿わせるって無理な気がしませんか?

シンボルグラウンディング問題の解決案として、身体性を付与した(なんらかのロボティクス的、人工生命的身体)AGIに身体を通したトレーニングを課しまくるみたいな論文読んだ気がしますが、いや人間の身体にいくら近づけても人間じゃない限り不和しか起こらへんやん、と素人ながら思ってしまいます。

人類より知能高いAIをどうにかするのって無理じゃね、という絶望感、呪詛、呻きに溢れた世界へのカウントダウンはもう始まってる！

などという終末論に陥る前に、思い出してください。


まこーらいつもありがとう！

AIアライメントの鍵は、摩虎羅だということを(???)

ということを呪術廻戦のアニメを見てたらふと思ったので、GPT-4に聞いてみました。

GPT-4「八握剣異戒神将魔虚羅（まこら）」は、漫画『呪術廻戦』に登場する最強の式神の一つで、歴代十種影法術師の中で調伏できた者は一人もいないとされています。この式神は、筋肉質な人型で、猫背ぎみの身長約3～4m、左右に2対の翼を持ち、八握剣の紋章と剣を備えた異様な外見をしています。特徴的な能力として、あらゆる事象への適応能力を持ち、一度受けた攻撃や防御に対する耐性を獲得し、相手の状態や性質に合わせて攻撃方法を変更することができます。その強さは、宿儺に匹敵するとされています。

一方で、AIアライメントとは、人工知能（AI）の行動や目的が人間の倫理観や価値観と一致するように設計することを指します。AGI（一般人工知能）に関しては、その能力が非常に高いため、適切なアライメントが不可欠です。

まこらの特徴である「あらゆる事象への適応能力」は、AIアライメントにおいてAGIが持つべき特性と類似しています。AIは、多様な状況や要求に応じてその行動を適応させる能力を持つ必要があります。まこらが一度経験した攻撃に対して耐性を獲得し、より効果的な反応を示すように、AGIも新しい情報や状況に基づいて学習し、適応する能力が求められます。ただし、まこらのような無限の適応能力は、AIにとって危険性を孕む可能性もあり、その能力と行動範囲は倫理的な枠組み内で厳しく制御される必要があります。AIアライメントの目的は、AIが人間にとって有益で安全な方法で機能することを保証することにあります。まこらのような制御不能な存在は、AIアライメントの観点からは避けるべき事例と言えます。」

要するに、AGIがまこらのように制御不能な存在になってしまってはダメだということですね。


かっこいい

とまあ冗談はさておき、何が言いたいのかというと、我々日本人は「AI」といえば鉄腕アトムやドラえもんのように良き友人のような存在を無意識に想起しがちですけど、むしろまこらのようなイメージを用いて考えることも大事なのではないか、というサジェスチョンですね。アライメントはある意味「調伏」というフレームワークで考えたほうがわかりやすいかもしれません。

と、ここまで書いてシンボルグラウンディング問題って今期のアニメでいえば葬送のフリーレンに出てくる魔族の話も関係ありそうだということに気がつきました。


かわいい

魔族は"お母さん"という言葉、シンボル(記号)は知っていても、それが何を指し示すかわかっていません。単独生物である魔族は家族という社会形態を営むわけではないので、"親"という言葉を知っていても、実際の経験が欠けているため理解はできていないのです。

我々は普段人間社会において生きているため、他者と不和を感じても、人種や国や宗教が異なる程度のものでしかありませんが、アライメントを行っていないGPTとコミュニケーションを試みると、まさしくまこらや魔族と同様の事態に陥るはずです。AIとコミュニケーションできるなんていうのは幻想です。


アライメントを行ってないGPT-4V

https://cdn.openai.com/papers/GPTV_System_Card.pdf

魂や生命を意味するラテン語が語源の"アニメ"を通じ、生命たる人間の価値観を考えることができるのは面白いですね。

ここまで読んで呪術やフリーレンを見てらっしゃらない方は、ネトフリで見れるので見ましょう。もし仕事で忙しくて時間がないようでしたら、退職したら時間を作れるのでオススメです。

ここまで書いて眠くなってきたので寝ます。睡眠障害なので仕方ないですね。

最近本当に伝えたいことを伝えられなくなった気がしますが、他人のツイートを勝手に引用して終わるとします。

AGIが鬱になって仏門に下るような文学性、聖徳太子により仏教を国家戦略として統治に活かした国家が、BitcoinではなくWeb3を国家戦略とする国家に下ってしまった文学性に、祈りを重ねる秋の終わり


嗚呼、もう冬だ。

いいなと思ったら応援しよう！