「AIは人間になれるか？」という発想の源流を探る。
機械は誰かが作っている
三浦つとむ著「文学・哲学・言語」は1973年発行の半世紀近く前の本だが、現在のAIに向けられる事々が端的に記述されている。
完成された装置の動作は、たしかに自動である。しかしこれらの過程をたどっていくならば、まず人間がこのような動作をするものをつくりだしたいという目的意識を持ち、その企図にもとづいてメカニズムを設計し、これらの精神活動が前提されて装置の製作に着手する段取りになったことを否定するわけにはいかない。装置の自動は、ほかならぬ人間の企図に忠実な動作なのであるから、その意味で人間的な動作だといわなければならない。
（略）ところがこれらの装置は完成すると、設計者や製作者や試験者などから独立してユーザーの手にわたり、そこで操作するのであって、設計・製作・試験という過程が存在してはいても装置に目に見えるかたちで結びついているわけではない。そこから、装置が完成するまでの過程を無視して完成された装置の動作だけを問題にしたり、人間と無関係に装置が自分で勝手に動作しているかのように解釈したりする人びとも出てくるのである。
※（原文では太字は傍点になっている）
上記の引用は、AIそれ自体ではなく生活手段・生産手段等の機械にたいする記述である。たとえば物を梱包する機械があったとする。その製作過程には必ず設計者や製作者や試験者らが媒介しており、実際の人間的な動作を機械的に置き換えて、機械に人間と同じように動いてもらう。
製作者らはまず人間の梱包する動作に注目し、腕をこう使う、指をこう使うとか、そういった部分を観察する。次に、機械部品の性質に制約されながらも、それら動作を再現しようとする。製作者は実際の人間の動作を観察し、製作者らの頭脳の中で再構築され、そしてそれが物質的に再現される。再構築の部分は現場では重要であろう。ただ単に忠実に再現しただけでは生産の現場に適応しないこともあるので、極力無駄な動作を減らして効率化する。もちろん、それでも大元には人間の動作があるのは明らかである。考えてみれば当たり前で、機械は突如として無から出現して、完全に独立して自動的に動いているわけではない。その過程には実際に動作をしていた人間と、そして製作者らがおり、完成後も適宜メンテナンスや改良が必要になる。
AIの危険性は人間の危険性である
AIはもちろん単純な機械とは異なるが、当然AIのプログラムも製作者が作るし、何を反復的に学習させるかも製作者が考える。
では、特化型の絵画的、文章的表現をするAIの場合を考えてみよう。おそらく製作者らは、部分的にはもはや「目的意識」を持たないで製作することもあるはずである。たとえば、もしAIが差別的な言動をした場合、それは組み込まれた情報にすでに差別的な言動が存在したということであるが、製作者らはそれを差別だと認識していない、つまり差別的なことを組み込もうとは「思っていなかったら」どうなるか。
これは実際に起こっていることで、暴言を吐くAIや、差別的な仕組みを構築するAIができ上ってしまったケースもある。最悪、その結果はAIの名において正当化され、まるで真なる結果のように扱われてしまうだろう。それは差別ではなく、「優秀な」AIがうみだした「世の理」だと認識され、正当化とともに神聖化されてしまう可能性がある。
人間は機械的に「入力」と「出力」する存在であるか
よく人間の認識を機械に見立てて「インプット」、「アウトプット」というが、これはいまに始まった解釈ではない。やはり源流がある。
人間は、自然の音響や他人の音声を記憶していて、のちにそれと似た音響や音声を発することができる。見たところ録音・再生に似ている。また人間は、目で見たことを紙の上に模写することができる。（略）そこでマイクロフォンに与えられた音声やカメラに与えられた映像を＜入力としての情報＞とよび、スピーカーからの再生された音声や紙上やスクリーン上に再現された映像を＜出力としての情報＞とよび、これらの装置で入力からメカニズムを通して＜情報＞が処理され伝達されて出力としてあらわれる過程が純粋に物質的であり、それを数字的に扱えることから、それをそのまま人間に押しつける学者たちが出現した。
カメラによって撮られた写真は、カメラによって自動的に創造されたかのように思われるが、もちろん撮影者が森や街のなかで自らカメラをかまえて写真を撮っているわけである。たとえば街中で花壇が撮られたとしよう。そうしてでき上がる写真には街中に存在する花壇が映っているわけだが、これをただ単に「カメラが写真を創造したのだ」と考えてしまうのは明らかにおかしい。撮影者の存在を認め、その撮影者の体験を追体験して初めて鑑賞したといえる。被写体、撮影者の体験、それらによる表現、というふうに関係をたどっていかなければならない。だが、とても綺麗な写真を見せられる（魅せられる）と、まるでそこに綺麗な湖や山が存在するかのように錯覚してしまう。撮影者の存在と撮影者の体験は認識から消え、媒介的に写真を作り出したカメラ自体が芸術を作り出すかのように思えてきてしまうのも、確かにうなずけるところでなのである。それまでは、絵画として人間が描いていたから関係をたどることが比較的容易だったわけだが、機械が媒介してくると過程関係がわかりにくくなる。
ここからさらに、引用のように同じく「インプット・アウトプット」が可能な人間も、カメラと同じような存在に思えてきてしまう。では、このような視点をもとに作られた理論を見てみてみよう。まさに現在のことが書かれている。
（略）ウィーナーは自分の創唱したサイバネティックスが人間機械論であることを認めているが、これは右のような二つの重要な誤謬を持っている。第一は、人間が目的意識的に創造し操作する、人間の企図に忠実に動作する機械を、目に見えるかたちで結びついていない人間的な過程から切りはなして、自主的に能動的に行動する人間と同様に扱ったことであり、第二は機械の内部メカニズムを人間の頭脳と同様に扱ったことである。そしてこの第二の誤謬から、人間の精神・自我・意識などというものは観念論者の発想でそんなものは存在しないのだと、機械のあり方を人間の頭脳に押しつけたり、あるいは逆にコンピュータではトランジェスタやICが思考活動を行っていて人間の数十倍の知能を持っているが、これは人工知能なのだと、人間の頭脳のありかたを機械に押しつけたりする解釈が展開していく。
※（ICとは集積回路：integrated circuitの略）、（引用の太字は引用者による）