ＡＩ倫理：人々はチャットボットに何故ザワザワするのか？
前回、ChatGPTは「決定的なソリューション」と紹介しましたが…
どんな質問にも流暢な日本語で返事してくれるChatGPT。僕の周囲でも好意的に評価をする人が多いのは事実です。でもこれは日本限定のお話で、海外特にヨーロッパでは法規制論議が加熱してるのだとか。元 Twitter では現状を揶揄するように「ヨーロッパはハードロー、アメリカはソフトロー、日本はノーロー」などという呟きが出回っていますが、どうやら生成系ＡＩに対する評価は国別で大きな開きがある。今回はこの不思議を探っていきたいと思います。
まずはチャットボットのお話から…
通説では世界初のチャットボットとしてよく知られる ELIZA ですが、開発したのはこの方、ジョゼフ・ワイゼンバウムです。
その風貌から仙人や哲学者をイメージするのは僕だけでしょうか？😀
この方、ユダヤ系ドイツ人で、幼少期にナチスのユダヤ人迫害を受け、家族とともにアメリカへ亡命した経験を持つ方です。亡命後のアメリカでもいろいろご苦労があったそうですが、その後突出した工学的な才能を見出され、ＭＩＴの教授まで登りつめた…と書くと立身出世の物語のように聞こえますが、実際にはそういう華やかさとはかけ離れた人生を送られたようです。
そもそも彼自身、ELIZA がこんなに世間の注目を集めるとは想像してなかったようで、ELIZA を紹介する論文の冒頭で次のように語っています。
説明とは上手に釈明することだと言われています。この格言は、コンピュータ・プログラミングの分野、特に発見的プログラミングや人工知能と呼ばれる領域では全く達成されていません。その領域では、マシンは驚異的な方法で動作し、しばしば最も経験豊富な観察者でさえも十分に驚嘆させます。しかし、一旦、特定のプログラムの仮面が剥がされて、その内部の仕組みへの理解を促すのに十分な説明される（それぞれはかなり分かりやすい手順を単に掻き集めたものであることを明らかにする）と、その魔法は消滅します。説明を受けた人は「私でも書けるかもしれない」と呟きます。問題のプログラムを「知的」と記された棚から「珍しいもの」の棚に移して、その後はまだ知らされていない人とだけ議論する事を願います。
１９６６年に発表された上記の論文のおかげで一躍「時の人」となってしまった彼はその後の５年間、世間の注目に振り回される日々を送り、サバティカルを迎えます。サバティカルとは、大学の先生にのみ与えられる２年間程度の長期有給休暇のことで、例えば「母校に客員して後輩の指導に当たる」と言ったようにまとまった時間をそれぞれ思い思いの方法で有効に使うそうなんですが、ワイゼンバウムの場合引きこもって本を書き上げました。それが１９７６年に出版された 『Computer Power and Human Reason』です。
この本、基本的には当時あまり知られてなかったコンピュータの仕組みについて、一般向けに解説した技術書なんですけども、コンピュータに尋常でない執着心を見せるハッカーの存在に言及したり、「ＡＩ」に懐疑的な自説を披露したり……とかなりアグレッシブな内容が含まれていたため、物議を醸すことになりました。なにしろ ELIZA の成功により、当時最先端のＡＩ研究者として世間に広く認知されていたワイゼンバウムですので、自著でＡＩ研究の問題点を語り始めたわけですから、騒ぎになるのも必然でしょう。
出版当時、この本については様々な意見が出回ったようですが、ＡＩに熟知しているであろう彼の同業者が書いた書評３編が米国防総省のアーカイブに残されています。
この文書に収録されている３つの書評のうち、ワイゼンバウムに匹敵するビッグネーム、「ＡＩ」の名付け親であり、またＡＩの父として広く知られているジョン・マッカーシーが書評『An Unreasonable Book』でワイゼンバウムを厳しく批判しました。
この書評はスタンフォード大学のジョン・マッカーシーの論文アーカイブにも収録され、今もネット上に公開されていますので、ご存知の方もいらっしゃるでしょう。実はマッカーシーの書評に対するワイゼンバウムの反論を書いたメモが実在します。こちらの方はほとんど知られていないと思うので、全文を書き起こし、日本語訳を付けてみました（DeepLで）。
ワイゼンバウムの反論、いかがでしょうか？僕がこの場で、皆さんにこの文書を紹介しておきたいと考えた理由は、このマッカーシー vs ワイゼンバウムの論争が、おそらく有史以来初めてのＡＩにかかわる倫理をテーマとした論争だったと思うからです。ここでのワイゼンバウムの主張は一貫していて、それは次の文章に集約されているように僕は考えてます。
Elsewhere I say that an individual is denumanized whenever he treated as less than a whole person.
別のところで私は、ある個人が一人の人間として扱われない限り、その個人は人間性を否定されると述べている。
ワイゼンバウムは一貫して個人の人間としての尊厳への脅威を主張しているのですが、そこに注意を払うと、途中で登場するニューヨーク・タイムズの記事『国家安全保障局、プライベート・ケーブルの大半を盗聴していたと報告』に彼が特別な関心を持った理由が理解できます。実際、後の２０１３年に発覚したエドワード・スノーデンの暴露でも問題になりましたが、ＮＳＡは１９７０年代から盗聴を行なっていたことには僕も驚かされました。これには「盗聴されてしまった人のプライバシはその後どうなっちゃうの？」という素朴な疑問が残ります。
第１回では現在のＡＩの法規制の話に少し触れましたが…
ワイゼンバウムのメモはＡＩ研究を熟知していただろうマッカーシーの５つの批判的な指摘に対して、これまた専門家であるワイゼンバウムは根拠を交えて明確に反論してます。図らずも、今日でも議論が続くＡＩの推進派と慎重派の論争の論点・争点をわかりやすく説明している文書なんではないかと考えています。特にワイゼンバウムの主張は、ホローコストの実体験を持つ当事者としての「非常に極端な事例ではあるが実際に起こった事実」を踏まえた内容で、彼の主張を踏まえるとマッカーシーの「左翼の戯言」的な扱いには同意しづらい印象を僕は持ちました。ちなみに、マッカーシーも出自を辿ればユダヤ系なのだそうです。なので、この論争をいわゆるシオニズム vs 反ユダヤ主義の文化的対立の構図として安易に理解すると誤解する危険性があることも覚えておいてください。ＡＩに関わる倫理の問題は、その他の問題と同様に「いずれが正しいか？」ではなく、５０年前から続く、ある種の普遍性を伴った議論であると理解すると間違いないでしょう。
今回は少し長くなってしまいました…
「ヨーロッパはハードロー、アメリカはソフトロー、日本はノーロー」と冒頭で述べましたが、この一文が現状を上手に言い表していると思います。でも、これは各々の歴史に根ざした文化の違いを表現したに過ぎないです。「いずれが進んでる？」とか「いずれが正しい？」と優劣を付けるべき議論ではないように僕は思います。ワイゼンバウムが主張する人間の尊厳の問題は、ヨーロッパでは古くからある、そして今も日常に存在する問題ですからね。彼らがハードローを選択するのはある種の歴史的必然で、その文化の外にいる我々日本人にはどこまで行っても理解できない何かがあるように気がします。一方、日本。昔から「文明は海を超えてやってくる」とばかりに、新しいものを無頓着に取り入れるのが我々の文化。ですが、そこは我々自身の暮らしむきに合わせて都合よく取捨選択、時には大胆に改変して土着化、自らの文化として昇華させる。なので我々の「ノーロー」もある種の歴史的必然なんじゃないかと思ったりします。
ちょっと「天ぷら」を食べながら、考えたくなってきました😀（つづく）
#AI
#ChatGPT
#ELIZA
#機械翻訳
#ALPAC
#SMT
#GNMT
#Transformer
#生成系AI
#情報倫理
#コンピュータ倫理
#AI倫理
#技術史