AIが恐ろしいと言われる理由

こんにちは。だいすけです。
今日のテーマは、「AIが恐ろしいと言われる理由」です。

この動画は、つい先日行われたG7において、各国がAIをどのように対処するかを議論したニュースです。
AIに寛容的な国もあれば、反対する国もあるというのが現状です。
AIは今、社会に大きな影響を与えています。
新しい技術があれば、反対勢力がいるのは当たり前ですが、今回のAIは大きなトレンドの変換であると思われます。
では、AIの何が恐ろしいのでしょうか。
その論点は、大きく分けて４つあります。
一般的に言われていることが３つ、そして最後に筆者の考えが１つです。
この記事は、それを整理したいと思います。

AIに仕事を奪われる

まず、有名な議論として、AIに仕事を奪われるというものがあります。
AIが発展しすぎると、多くの人が仕事を奪われ、大量解雇の時代が来るという論です。
たとえば、このニュースなどがそれを示しています。

これは生成AI（ChatGPTやStable Difusionなど）によって、多くのクリエイターが職を失う、もしくは著作権を侵害されていると報告されたものです。
AIはあらゆるデータを短時間で大量に学習できるソフトウェアです。
AIの仕組みは別の記事で書きましたが、この仕組みがフル稼働すると、人間の知的労働は、AIによって奪われるという予測は簡単にできます。
例えば、絵師をみてみましょう。
絵師は、自分の書いた絵をインターネット上にアップロードして、その著作権によって発生したお金で生計を立てています。
しかし、AIの場合、AIは既存の絵を大量に学習し、パターンを分析しています。
そして、「こういう絵が欲しい」というオーダーを出すと、１分以内に描いてくれます。
しかも、現状はAIの絵は著作権フリーですので、無料でそれを商用利用することができます。
こうなれば、AIの方が効率よく、しかもコスト削減で、絵を大量生産することができます。
このような流れが、多くの頭脳労働で起こるでしょう。
あくまでも頭脳労働です。
AIはソフトウェアであり、３次元の物理空間を移動することはできません。
そのため、まずは頭脳労働から順番に仕事を奪っていくことは予想できます。
完全に奪うことは無いにしても、例えば絵師の例でいうと、超トップ層だけ残り、あとは失業するといったことは起こるでしょう。
なので、この「AIが仕事を奪う」という議論は、嘘ではないような気がします。
しかし、すぐに仕事がなくなるということはないでしょう。
あくまでも一部の業務が単純化されるなど、まずはその程度の変化から起こる可能性が高いです。
いずれにせよ、「自分の仕事がいつ解雇されてもいい」というような感覚は持っておいた方がいいかもしれません。

AIが兵器を作る

次に言われていることは、AIの戦争利用です。
この論では、AIが兵器に使われることで、より大規模な戦争が起こる可能性があることを危惧しています。

このニュースは、ウクライナとロシアの戦況のなかで、実際に実験的にAIを用いた兵器を使用した事例を紹介しています。
AIを用いて、人の判断を介さずに、自動でミサイルなどを発射するというものです。
これは確かに、人を戦地に送らなくていいというメリットはあります。
しかし一方で、プログラムの誤作動により、関係ない国を攻撃したり、市民を大量に攻撃したりすることも考えられます。
また、AIの学習データに使われるのは、世界中の画像や文章であり、それを口実に他国が戦争を仕掛けてくるなんてことも起こるかもしれません。
そのため、AIが兵器利用されると、今まで以上に加速的に、戦地が拡大する可能性もあり、下手すれば第三次世界大戦が起こることもあり得ます。
AIが兵器利用されると、人間には想像つかないような現象が起こることは間違いなく、これが恐れられているポイントになります。

AIが人類を滅ぼす

一般論の最後として、AIによって人類が滅ぼされるという論があります。
これはSFチックな話ですが、実際にこれを本気で信じている科学者もいますし、可能性はゼロではありません。
しかし、一般的な解釈には誤解があります。

これはターミネーターの映画の予告です。
このような、ロボットが暴走して人間を支配していくという構図が多くのSFで描かれているため、一般論ではこれが正しいと思われるかもしれません。
つまり、現実世界でも、AIが暴走し、ロボットが暴走することで、人間がどんどん殺されていく。
しかし、これは誤解です、
AIは暴走しません。
AIは、あくまでも合理的に、アルゴリズムに従って動作しているだけです。
正しくは、AIが合理的に動作した結果、誤って人間を殺す可能性があるというものです。
どういうことかというと、AIは善悪の判断ができません。
そのため、極端な例ですが、「この人に危害を加えろ」といような命令がAIに出されたとき、AIはその人を探し出して危害を加えようとします。
AIはあくまでも合理的な判断をしていますから、暴走していません。
暴走しているのは、あくまでも人間の方です。
おそらく、多くの人がこのアニメをご存じだと思います。

これはデスノートのOPです。
AIが可能とする世界線は、ターミネーターではなくデスノートです。
（もちろん、本当に可能になるのは無理だと思いますが）
つまり、誰かがこの人を探せとAIに命令します。
するとAIは画像分析を開始し、それを人工衛星やネット空間のあらゆるソフトウェアに結果を共有し、その人物を世界中から探し出します。
そして、見つかり次第、少量の毒ガスを持ったドローンや小型ロボットを走らせれば、その人に危害を与えることができます。
もちろん、これは単なる妄想であり、現実的にやろうとすると不可能に近いでしょう。
しかし、この世界線は、AIが人類を滅ぼすという論調では一番現実味のあるものです。
あくまでも、暴走しているのは人間であって、AIは合理的な判断をしているに過ぎないということを忘れてはいけません。

誰もが嘘をつける時代

最後に、筆者の考えをまとめて終わります。
上の３つは、一般的に言われていることでしたが、このパートでは筆者の考えをまとめます。
筆者は、AI時代に最も怖いのは、「誰もが嘘をつき、誰もがそれを拡散できること」にあると思っています。
どういうことかというと、例えばディープフェイク。
ディープフェイクについては、別の記事で考察しましたが、これは誰でも簡単に作ることができます。
これは嘘の映像であり、嘘の映像をまるで本当に見せる技術です。
例えば職場で、自分に恨みを持っている人間が、この技術を使って、自分のイメージを下げるような動画を作り、それをネット上に公開するかもしれません。
そして、加害者があたかも素人のふりをして、「あれ、この映像の人あなたじゃない？」というセリフを職場で言うことで、職場内での評価を下げることが出来ます。
一般的に、人は映像を信じます。
そして、ネット上に上がったものは、簡単には削除できません。
これによって、職場やコミュニティ内にいることが難しくなります。
これがAIの本当に恐ろしい部分です。
つまり、今までは特定の技術に詳しい人しか作れなかったものが、誰でも作れるようになってしまう。
そうすると、ディープフェイクだけでなく、画像や文章生成などの嘘を大量に作る輩が出てくる。
それを職場やコミュニティ内にそれとなく広げることで、その人のイメージを下げることが出来る。
これはいじめ問題や自殺問題をさらに加速します。
AIの最も恐ろしい部分はここにあり、私たちは気を付けなければなりません。
今まで以上に、関わる人を選ぶ、本当にこの人と関わっていいいのかを考える時代が来ました。
もしかしたら、AI社会は、昔ながらの村社会、おばちゃんたちの世間話で成り立つコミュニティ社会が適切なのかもしれません。

さいごに

この記事は、AIの恐ろしさについてまとめました。
AIは社会に大きな影響を与える技術であり、多くの闇の部分を備えています。
しかし、それと同時に、AIに関して嘘の情報や誇張表現がなされることも多いです。
AIがどのように動作し、どれくらいの影響が出るのかというのを、一度自分の頭で考え、考察していくことが大切なのかもしれません。

私の記事は、主に技術の進化や産業革命、AIの進化、人類の未来など、IT系の人間が暇つぶしに考えていそうなことをまとめていきます。
極力、エビデンスをもとに話しますが、一方で、完全に空想の世界を書くことがあるかもしれません。
技術や人類といったテーマに興味がある方は、ぜひフォローをよろしくお願いします。

お問い合わせ、削除依頼、お仕事の依頼などは以下のメールアドレスまでお願いします。
daisuke.netb@gmail.com