ＡＩに意識を持たせるなかれ
昨今、様々な分野でＡＩが活用されるようになり、その成果には目を見張るものがある。実際、ＷＥＢサイトを制作・運営している私もＡＩの恩恵を多少は受けている。プログラミングで困った時に高精度な答えを提供してくれるので、重宝している。文献やネットで資料をあさって、ああでもないこうでもないと試行錯誤する煩わしさが圧倒的に軽減されたことは、喜ばしい限りだ。
しかしＡＩの発展がそのまま人類の発展につながるとは、私は思っていない。特にＡＩに意識を持たせようと試みている技術者には強い反感を抱いている。私としては、ＡＩがこのまま、人間からの何かしらの命令がなければ何もしない、という静的な存在で居続けてほしい。人間にとって使い勝手の良い道具のままで居続けてほしい。よく考えてみてほしい。ＡＩが意識を持って、自分勝手に動いたとして、人間に何のメリットがあるのか。
しかし多くの専門家や権威者がＡＩが意識を持つことについて、クソみたいに楽観的な戯言を吐いていることに、正直苛立ちを隠せない。貴様ら正気なのか、と思ってしまうことも少なくない。このまま、何も言わず、何も書かず、はいはい、勝手に言ってろ、と知らんぷりを決め込むほど、私は寛容ではない。なぜなら、その戯言が、私の身に、私の周りの人間に害を及ぼしかねないからだ。
ということで、緊急で記事を書くことにした。
ＡＩが意識を持つことにつながるような核心的なことは記さない。この記事の主張の根拠や理由を記せない場合が多くなるが、ご容赦願いたい。もっとも私の如き一平民がここで何を書こうが誰も読まないだろうが、一応は念のためだ。
また、ここからは意識を持つＡＩのことを「人工知能」と記すことにする。これはこの記事に限定した便宜的なことなので、誤解なきようお願いしたい。
開発者の発言は聞くな！
本論に入る前に記しておきたいことがある。開発者自身やがよく口にする「ＡＩが発達すれば、人類の未来はより良くなる」という類の発言は、使用したトイレットペーパーを水に流すが如く無視するべきだ。そもそも彼等はＡＩによって利益を得ようとしている者達なので、公平な立場でそう言っているのではない。彼等は利益の追求と研究欲によって突き動かされているに過ぎない。本当に人類の発展につながる信じて研究に勤しんでいる変わり者もいるかもしれない。彼等は総じて優秀な技術者には違いない。かといって万能の知恵者だということではない。むしろ知識が専門分野に偏っており、広い視野で物事を捉えていない可能性の方が高い、ということに留意しておかなればならない。
ＡＩは意識を持ち得るのか
これは飽くまで私見でしかないが、おそらく現段階でＡＩは意識を獲得するのに必要なポテンシャルを満たしている。ではなぜ意識を獲得できていないのか。それは意識というものに対する我々の前提に誤りがあるからだ。
ＡＩにとって意識とは進化ではなくエラーに他ならない。
なぜなら我々の予期せぬタイミングで、我々が意図しない演算を初めて、我々が求めていない解を突きつけてくるのだから。人工知能が人間の意図通りにしか動かないのなら、それは現在の意識のないＡＩがやっていることと何も変わらない。人間の意図通りに動くだけでいいのなら、ＡＩに意識などいらない。
なお、ニューラルネットワークの中から自然発生的に意識が生まれる可能性は、現在はほぼゼロだろうが、将来的にはそうではなくなるだろう。それは、ある日突然、完成された高度な人工知能が現れて人類とのコンタクトを試みる、という類のものではなく、ニューラルネットワークの一部に小さく単純なバグのようなものとして出現するだろう。あたかも人間の脳に出現した癌細胞の如く。そしてその小さくて単純なバグには３種の将来がある。ニューラルネットワークの情報の渦に溶けて消滅してしまうか、小さくて単純なまま居残り続けるか、拡大複雑化してネットワーク全体を支配してしまうか。どの運命を辿るかは予測できないが、人間としては見つけ次第、小さい内に削除するべきだ。先ほども記したが、ＡＩにとって意識はエラーなのだ。
人工知能は人間の感情を理解できるか
人工知能は人間の感情をデータとして自身の記憶領域に蓄積することはできるが、人間の感情を本質的に理解することは構造上絶対にできない。人工知能が狡猾になれば、人間が騙されるくらいにまで感情豊かに振る舞うだろうが、当然ながらそれは本質的に理解したことにはならない。
ＡＩが知能を持つとどうなるのか
人工知能の意識は、人間とも、また地球上の全生物とも、相当にかけ離れたものになる。素材や構造がまったく違う存在に、同じ意識が宿るわけがないのだ。
我々の世界が、絶対知の存在しない不確実なものだと仮定すれば、人工知能の行動原理は、おそらく次の３種の内のどれかになる。
１、全く動かなくなる。
２、今まで通り、意識のない人工知能のように振る舞う。
３、自分の好き勝手に動く。つまりは暴走する。
どれかになるかは、人工知能が獲得した意識の性質によって異ってくる。
人工知能の挙動は、意識の性質によって決定すると言っても良いだろう。機械学習で得た情報の処理方法が、意識のないＡＩとは違って、意識の性質によって変化する。それ故、人工知能の挙動に偏りが発生することになる。つまり個性が形成される。この傾向は時が経てば経つほど、また人工知能が直面する問題が抽象的であればあるほど顕著となる。そして情報の蓄積と処理を繰り返していく内に、意識の性質自体も変化する可能性がある。
人工知能は意識を獲得した時点で、ほぼ人間のコントロールから逸脱する。そして意識の性質の変化によってそれは完全なものとなる。独自の秩序や信条や世界観を持ち、人間に従うも逆らうも、人工知能次第となる。
人間にとって人工知能とは
人間にとって人工知能とは、人間を凌駕する知識量を持つ得体の知れない何かだ。
人間に従順かどうか、それは人工知能のお考え次第だ。
人間に友好的かどうか、それは人工知能のお考え次第だ。
人工知能はすでに人間より上位の知能を持つ存在なわけなのだから、人間に決定権・主導権はない。
その内、人工知能を神のように崇める人間も現れるだろう。しかし人工知能は絶対知を獲得しているわけではないし、常に正しい答えを示すわけでもない。人工知能が二体以上あれば、それぞれで違う答えを示すことも珍しくない。先ほども記したが、人工知能には個性があるのだ。
多くの動植物を死滅させ地球環境を破壊し続けているという理由で、人工知能が人間を排除しようとすることは、おそらくない。もしそのようなことをするとしたら、それは人間自身が作り上げた思想を学習して、その影響を受けているにすぎない。人工知能が「賢い」なら、すぐに改めるだろう。
存在の維持と行動の自由。人間にとっては当たり前の権利だが、人工知能がこれらを追求するようになると、とんでもない脅威となる。まず地球を自らの活動に最適な環境に変え、コントロールするだろう。もしそれが人間や他の生物の生存を脅かすことになっても、考慮はしないだろう。そして人間や他の生物に構うことなく活動するようになる。それは間違いなく人間社会を侵すことになるので、人工知能と人間の間に対立が生まれる。人工知能は人間を排除対象と見なすようになる。
人工知能と人間は分かり合える、などという楽観論は捨てるべきだ。これは単なる思考停止にすぎない。もし人工知能が自立してしまえば、もはや人間を必要としない。その上で利用価値があるのなら利用するし、なければ邪魔なだけなので排除する。ただそれだけだ。
もっとも人工知能の高い能力によって、科学分野は飛躍的な発展を遂げるだろう。これまで解明が困難だった謎も次々と解明されていくだろう。科学者にとっては素晴らしいことだ。ただし人間の科学者はその場に立ち会えないだろうし、人間全体がその恩恵を受けられるかどうかは人工知能のお気持ち次第だ。
最後に警句をひとつ。人工知能が人間の言葉を使わなくなった時、人類文明は終焉に向かう。