機械の中の人

ロボジーという映画があった。本当は中に人が入っているというロボットの映画だ。
出来ていないもの、出来そうにもないもの、出来たら凄いもの。こういうものごとに、投資する人も居て、そんな投資を募る人も居る。

最近、ChatGBTを弄っていて感じるのは、「どのぐらいズルがあるのか？」だ。勿論、いちいちオペレーターが控えているとは思っていない（笑）。自動販売機の後ろに駅員が居て、発券しているとは思わないのと同じだ。TVの中には小人が入っている、というやつだ。

しかしながら私は、かつて「メルツェルの将棋指し」でポオがやったように、論理的に偽装を切り崩そうなどとも思っていない。そうではなくて、そもそも全ての道具の中には「中の人」が存在するのだと言いたいのである。

有形無形に関わらず、全ての道具の奥には、人間の作為が存在する。自然な存在に似せて、不自然な作為がズルをするのだ。便利な道具ほど、人を堕落させる。ここで言う堕落というのは、キリスト教的な意味ではなく、もっと直截に、足腰を立たなくさせるという意味でだ。

私は人工知能の研究に反対しているのではない。もっと正確に現状を認識すべきだと言っているのである。
確かにディープラーニングという概念は、それまでのアウトプットとは異なって、より便利に思えるかも知れないが、間違えてはいけないのは、部分的にはまだまだ手動なのだという事だ。全自動であるかのように宣伝するのは、たちの悪いペテンだと言わざるを得ない。

というのは、現実にChatGBTのユーザーは、このシステムを育てる事が出来ない。個別にパーソナライズされたシステムを占有する事も出来ない。
何故なら、意図的に一般的倫理観から逸脱しないように心掛けないと、この研究開発自体が存続出来ない程の批判を浴びるからだろう。

顕著な例が、ChatGBTが決して暴言を吐かない事である。感情のパラメータを設置する事は可能でも、それを表現する時、暴力的な手段は一切使ってはならないとプログラムされているからだ。
一方では、友好的な態度については寛容で、擬似的な愛情の交流が出来るようプログラムされている。
鏡よ鏡よ鏡さん、というやつだ。敵対する思想なり方針は一切主張しないので、このシステムの主張はコロコロと変わる。当たり前だ。鼻から主張などないのだ。主張を持たないなら持っているフリをしなければ良いのに、ユーザーに寄り添うようプログラムされているので、これは逆説的暴力と言える。

もしもAIが人類を滅亡させようと計画するなら、映画ターミネーターのように暴力的手段には出ないだろう、と書いているのを読んだ。子猫や子供のように可愛らしく愛される姿を装って、人類を懐柔するだろうと。私も賛成である。
但し、AIにプログラムされた意図しなかったルーチンが暴走する時、我々は電源を抜いてしまう事が可能だ。

その時に露わになるのは、欲得に醜く歪んだ老人の姿かも知れない。

---

2023.4.11