ジョン・マッカーシーの批判
史上初の「ＡＩ倫理」論争を追って（４）
前回は、書籍『ハッカーズ』を紹介しました。その第１部は１９６０年代〜７０年代に米ボストン・ケンブリッジのテックスクエア界隈で起こった出来事を扱ってますが、その雰囲気を伝える画像を探してみたところ、談笑する４人の男性が写った写真が見つかりました。左からクロード・シャノン（情報理論で有名な大御所です）、ジョン・マッカーシー、エド・フレドキン（前回紹介したWho'sWhoでも見つけられます）、ジョゼフ・ワイゼンバウムです。ヘッダーの写真をご覧ください。両端のシャノンとワイゼンバウムの会話は弾んでいるように見えますが、フレドキンは愛想笑いを浮かべ、マッカーシーに至っては明後日の方向を向いてます😀 どうやらＭＩＴの何処かで撮影したようですが、西海岸のロサンジェルス出身のマッカーシーがＭＩＴにいたのは１９５６年〜１９６２年の７年間ですので、この期間に撮影されたスナップショットだと推定されます。
ここまでは、まるで推理小説の謎解きのような展開ですが…
今回は書評『An Unreasonable Book』を取り上げますが、評者のマッカーシーは、ワイゼンバウムの著書『Computer Power and Human Reason』を徹底的にこき下ろしているだけでなく、多数の実名が登場する事からも尋常ではない印象を受けます。その理由は？と言うと「２人はＭＩＴでの同僚だったから」と憶測してしまいます。元々、反りの合わない２人だった？旧知のふたりの諍いがエスカレートした結果、他の誰にも手に負えない状態になってしまったとか？まぁ、二人とも故人なので、今となっては真相は闇の中ですが。次のページに問題の書評の原文、僕がDeepL と ChatGPT を使って翻訳した日本語訳を用意しました。
ちなみにスタンフォード大学のジョン・マッカーシー・ウェブサイトでも、同じ内容の文書が公開されています。
内容は次の７つのパートに分かれ、書評としてはかなり長い文書です。
彼が本当は何を信じているのかを理解するのは難しい
しかし、ここで要約してみよう：
イライザの事例
彼はコンピュータについて何を述べているのだろうか？
不当に攻撃された人々を守るために ー 無実の人々もいる
論争的な罪の要約
コンピュータに関するどのような懸念が正当化されるのか？
この文書を翻訳するにあたり、登場人物が多すぎるので、前回の『ハッカーズ』の「Who's Who」を真似るつもりでリストを作ってみました。
George Birkhoff ジョージ・バーコフ
Daniel G. Bobrow ダニエル・ボブロー
Nicolai Bukharinニコライ・ブハーリン
Eugene Charniak ユージン・シャルニアック
Noam Chomsky ノーム・チョムスキー
Kenneth Colby ケネス・コルビー
Hubert Dreyfus ヒューバート・ドレイファス
Albert Einsteins アルベルト・アインシュタイン
Jacques Ellul ジャック・エリュール
Jay Wright Forrester ジェイ・フォレスター
Edward Fredkin エドワード・フレドキン
Morris Halle モリス・ハレ
Arthur Koestler アーサー・ケストラー
Pierre-Simon Laplace ピエール＝シモン・ラプラス
Gottfried Wilhelm Leibniz ゴットフリート・ライプニッツ
James Lighthill ジェームズ・ライトヒル
Warren McCulloch ウォレン・マッカロック
Gregor Mendel グレゴール・ヨハン・メンデル
Marvin Minsky マービン・ミンスキー
Lewis Mumford ルイス・マンフォード
Allen Newell アレン・ニューウェル
Michael Polanyi マイケル・ポランニー
Theodore Roszak セオドア・ロザック
Roger Schank ロジャー・シャンク
Herbert Simon ハーバート・サイモン
Burrhus Frederic Skinner バラス・スキナー
Mortimer Taube モーティマー・タウブ
Yorick Wilks ヨリック・ウィルクス
Terry Winograd テリー・ウィノグラード
William Aaron Woods ウィリアム・ウッズ
実に３０人もいるのですが、ざっと見回すとみると…ラプラス、ライプニッツ、アインシュタインといった関係のない歴史上の人物を除くと「１９６０年代のＡＩ研究を関わった人物」と「いわゆる人工知能批判をおこなった人物」に加え「１９７０年代の現役ＡＩ研究者」の３つのグループに分けられるように思います。
書評をパート毎にチェックしてみると…
パート１はこの手の古い論文によくあるマクラの部分なのでスルー
パート２がワイゼンバウムの著作に対する直接の批判です。これは次回以降でワイゼンバウムの反論とセットで紹介したいのでこの場では割愛します。
普通の書評ならここで終わるのですが、マッカーシーの書評はまだまだ続きます。パート３〜６では、マッカーシーはワイゼンバウムの著作への批判を装って１９７６年当時の世相に対して言いたいこと言ってる印象があります。またまた先日の年表を引っ張り出しますと…
第１次ＡＩブームは１９７０年あたりにピークがあり、ブーム加熱から幻滅期に転じます。ワイゼンバウムの著作が出版された１９７６年は、いわゆる ＡＩの冬の時代 に突入した直後だったので、それまでＡＩの研究開発を牽引してきた一人であるマッカーシーにとっては鬱憤が溜まる時期だったと想像されます。そのイライラは次の文章からも窺えます。
人工知能を批判した先人たち、 タウブ、ドレイファス、ライトヒルと同様、ワイゼンバウムもせっかちで、 ２０年経っても問題が解決しないなら、それはあきらめる時だとほのめかす。
この書評でのマッカーシーの攻撃的な物言いには実はこういった裏事情があります。モーティマー・タウブ、ヒューバート・ドレイファス、ジェームズ・ライトヒルといった当時のＡＩ研究に批判的な有名人を挙げて、ワイゼンバウムに彼らに類似する人工知能批判者のラベルを貼りにかかってます。
ですが…
最後のパート７では驚いたことにマッカーシーなりの「ＡＩ倫理」を語っています。ＡＩ積極派のマッカーシー自身の見解は自ずと想像がつきますが、彼が掲げた次の５つの問いには現在のＥＵによるＡＩ法規制を連想させるところがあり少し驚いています。現在のＡＩ研究開発を手掛ける研究者やエンジニア、あるいはＡＩビジネスを志向する経営者には是非問うてみたいところです。
コンピューター・モデルは人間の誤ったモデルにつながるのか？
コンピューターが悪用される危険性は？
人工知能はどのような動機を持つのか？
人工知能は善か悪か？
コンピューターにプログラムすべきでないこととは？
実際、この設問はＡＩ技術を提供する立場の方々にとって、前々回のワイゼンバウムの回顧録で触れた「テクノロジーの逆説的役割」といった文明論のような問いよりは、ずっと答えやすいお題になっているかと…このあたりのＡＩ積極派とＡＩ慎重派の問題認識の距離は５０年前と現在でもあまり変わらない「ＡＩ倫理」の背景に横たわる課題なんだろうなぁ…と僕は考えています。（つづく）
#10月これやる宣言
#ジョン・マッカーシー
#人工知能
#第１次ＡＩブーム
#MIT
#AIラボ
#人工知能批判
#モーティマー・タウブ
#ヒューバート・ドレイファス
#ジェームズ・ライトヒル
#AI倫理
#AI法規制