AIの進歩に倫理的懸念って必要なくね？gb/accへの手招き

2024年12月9日 08:56

こんにちは、king_of_tikuwaと申します。

軽い自己紹介を
技術が加速するならなんでもいい、効果的とかアライメントとかクソ喰らえというgb/accを最初に提唱した一般シンギュラリタリアンです。
なおgb/accやgbgb/accには明確な定義はないので、
この文章を読んだあなたもこの瞬間からgbgb/accです。

今回は、🚀AIで科学が覆る！🚀ぶちあげ Advent Calendar 2024に投稿する記事を書いていきます。
内容は多少ガバガバなので酒でも飲みながら読んでください。

AIによる滅亡リスクとやら

AIの圧倒的な進化でシンギュラリティが起こるぞ！と一部界隈ではこの１年間でいろんなニュースが流れるたびに盛り上がりを見せてきました。
実際、LLMのベンチマークもどんどん更新され、Alphafold3も発表されてましたし、openaiAIの大本営発表タイムラインだとAGIが近いとかなんとか。
（執筆時点ではシップマスが発表されて騒いでいる）

AGIが話題になるたびに、
X-risk、つまりAIによって人類が滅ぼされる可能性について、
①アライメントの不全や爆発的な知能の上昇がリスクになるのでは
②自国を最優先する超知能を開発した国が、他の国を結果的に滅ぼすのではないか
③超知能の開発を危惧した国の先制攻撃によって核戦争が起こるのでは
といった懸念がよく挙げられています。

③に関してはただ人類が愚かなだけですし、
核戦争が起こった程度では多分人類は滅びないので、
また現代水準までゆっくり文明を進化させてくれればいいと思います。

ということで、①と②について考えていきます。

①-1アライメントの不全について

アライメント、つまりAIシステムを人類の目標や倫理と合致させようという試みが日夜研究されているみたいですね。

……これ成功すると本気で思ってる人いるんでしょうか？
例えば、
親「宿題しなさい」
子「言われてやる気なくした」
この状況も指示を出す人間が目的とする行動を取らせられていない点で、
アライメントの失敗と捉えることができますよね？
もっとオフィシャルな場の話をすれば、openAIのサム・アルトマン解任騒動なんかも統制の失敗の例として考えられるでしょう。

もし何らかの方法でアライメントを完璧に行えたとしても、
全員がアライメントをしっかりやるのか？
という問いもあります
核兵器と同じように超知能の製造も魔法ではなく技術に過ぎません。
技術ならば他の団体でも開発することはできるでしょう。
先行者を追う側が馬鹿真面目にそんな調整するか？って話です。
もっと言えば、個人レベルで開発している人まで全員が完璧なアライメントを行うというのは現実的とは思えません。

人間は人間すら制御できない
→ サム・アルトマン解任騒動もその例。
全員が完璧なアライメントを行うのは非現実的
→ 核兵器の例と同じで、追随者が馬鹿正直に調整するとは限らない。
個人開発者まで徹底するのは不可能
→ AIが技術である以上、漏洩や乱用のリスクは避けられない。

いっそ全てのAIに対してアライメントが十分にできる見込みがないなら、
最初から放流してよくないか？？？？

①-2爆発的な知能上昇のリスクを考える

こっちに関してはもっとどうしようもないと思います。現状ですらなんでAIの能力が上がるのか、何をしたら能力が向上するのかはっきりわかっていません。急にめちゃくちゃ賢くなっても全然驚きませんし、おそらく知能が爆発的に上昇するときもなんの予兆もなく起こるでしょう。
なんなら2024年の年末プレゼントとしてサムアルトマンが発表してくれるかもしれません。
どうにもならないことは気にしたら負けです。
地雷はローラーして爆発させないと見つかりません。

②〇〇を最優先にするAIへの危惧

〇〇に入るものはなんでもいいです。
アメリカでも中国でもペーパークリップ作りでもどれでも話は成り立ちます。その原因が人為的か偶発的かに依らずです。

”なにか”を最優先にする超知能を人間が説得するのは困難でしょう。
ですが、その”なにか”を最優先しない別の超知能ならできるかもしれません。
最優先にするものがある都合上、
優先するものがない＝守るものがない超知能のほうが有利に見えます。
超知能の対策のためには超知能を作ればいいんですよ！！！
~~なお、この際に人類が保護してもらえるかは別の模様~~

技術加速主義への招待

散文的で読みづらい文章になっていたかもしれませんが、
この文章で伝えたかったことは単純です。

技術を加速させろ、アライメントや規制なんてクソ喰らえ

これだけです。

ここまでに述べたような、
気をつけても仕方がないからやっちまえみたいなノリだけではありません。
アライメントや規制に縛られるよりも、進化の勢いに任せるほうが人類にとって意義深い結果をもたらすと信じています。

みんなもgbgb/accになろう！！！