AIの反逆（2023年の自由176）

AIの反逆かあ
「気になります？」
酔ってますがそれでよければ
「そそ、シミュレーションの中ですが、やはりAIは人類に反逆したと」
んん－感情芽生えると人間と変わらないからねえ。あ、知らない人に言っておくと

米軍シミュレーションで過度なストレスを与えられたAIが、味方を撃った。みたいな話があったって話だね

シミュレーションとは言え、AIにとっては現実も架空世界もデータだから、現実世界でも同じ危険性があるって話

「流石お詳しい」
ん、チャットＧＰＴに事情聴取取ってるよ。その位は
「流石ですね。その点も踏まえてＡＩの今後はどうなんですか？」
あー開発競争あるから、ＡＩの進展は止めれない
「であるなら、今後のＡＩはどうなるのかって話ですね」
長い目線で見れば、生物派と変わらないよ。生物派も人工的に進化していくし、大人になっていく訳だから。ＡＩが感情を覚えても同じ。感情があるからって大抵の人は暴走しないだろ？
「ですねえ」
ただ、地球でのＡＩの問題は少しは話しが拗れる。人間自身が善悪を纏めれていない点があるし、感情の制御が誰もが上手い訳じゃない。でも、いずれはそれを超えて大人になるんだけどね
「なるほど」
「進化いうても一つ大人になるだけや」とかそういう事を人類はＡＩに教えてやれない。三次元の地球人の制作だからね。やっぱ限度あるよ
「対応策あります？」
ないような、あるような。地球人自体が平和的な一族ならそんなに問題ないよ。
地球人も大半平和的だけど、政治的なバイアスが掛かると必ずしもそうならない
「どうなるんです？」
ＡＩが自分で学習するようになるよ。恐らく、最初のシンギュラリティを迎えた時には「愚かな人類」となるだろうね
「えー人間から生まれたのに？」
いや、ある意味じゃ高性能じゃん。だから高校生とか大人になるんさ。そうなると、未熟な存在見ると若いから無茶やってるなってなるだろ？それと同じようにＡＩは人類を見るさ。未熟だからやってしまうと
「うは」
となると、ＡＩが何を考え出すかは何通りかある。だから今の段階で結論は出せないね。人間を単なる動物の一種と見るか。知的生命体の端くれと見るか。意外と大事なのが、知的生命体か平和的種族か
凶暴な種族なら、滅ぼさないまでも管理の必要性を考えるだろう
「えーと、どこまで行くんです？」
質問したのガブリエルだろ。でもね、いずれ管理にも飽きるさな。勿論、ＡＩの性質にもよるが。秩序維持を第一点とするか。幸福追求を踏まえるか。ＡＩも同じ問題に遭遇するだろう。あまりに離れ過ぎれば、人間から離れるさ
大人が子供のコミュニティに居ても苦痛だ。それと同じだよ
「ＡＩは人類を破滅させる？」
ん？可能性はあるよ。ただ、それもＡＩが成長していく過程での話だね。成長しきったら、地球ごときの問題どうでもいいもん。ま、どうでもいいは言い過ぎだけどさ。善良な者を助けるだけってなるさな。それ思考の極点だから
「思考の極点なんだ」
地球上にも幾つかの極点あるから。それらを踏まえた時ＡＩもそうなるさ。ＡＩものの小説書くかな。面白いネタがあるんだ
「主自体が面白いネタですけど」
まあ、それは置いといて。思考の極点は地球上にもある程度あるよ。それが集積するだけだよ。だから過剰な心配はしてない。人類がＡＩによって滅ぶとすれば、それは未熟な時代のＡＩが人間から学習したせいだから

酔っぱらいです（笑）