反科学のレトリック
先週、４日間連続投稿をしたらヘロヘロになってしまって、結局そのあと１週間くらいお休みをいただいてました。企画に無理があったのか前回の記事は、後で読み返して見てダメ出しの連発。こっそりと手直しをしつつ、このシリーズの終了を目指します。既に「１０月中にこのシリーズを完成させる」と宣言してますので😀、この回を含め、あと３回でシリーズ本編は完結させます。その後、時間と体力が残ってれば、おまけを１〜２回分書く目論見です。それでは…
史上初の「ＡＩ倫理」論争を追って（６）
まずは前回の誤りの訂正から。前回も紹介した ACM SIGART BulletinIssue 58 (June 1976) は次のリンクから閲覧できますが…
このページにある原文の PDF リンクを辿っていくと、マッカーシーの書評の後にワイゼンバウムの反論も掲載されていたことが確認できました。すいません（おいおい）。このニュースレター全文も文字だけで組版した非常に簡素な体裁で、マッカーシーとワイゼンバウムの（顔見知りに向けた）くだけた文章の書き方からも、このニュースレターが１９７６年当時の（極少数の）ＡＩ研究者の仲間内だけにしか配布されないことを想定していたと想像できます。道理で登場人物が多いはずです。内容も、おそらく「包み隠さず本音を書いてる」のかも知れません。
今回、マッカーシーの書評をいつもより丁寧に読んでみたのですが、僕の目を引いたのはシミュレーション（simulation）と形式化（formalization）との単語が頻繁に登場することでした。例えば…
この本は、 現象のコンピュータ・シミュレーションと論理学での形式化を混同している。 シミュレーションは形式化の一種に過ぎず、 コンピュータにとってさえ最も有用なものであるとは限らない。 そもそも論理的・数学的形式化は、 シミュレーションには不十分なシステムに関する部分的な情報を利用することができる。
形式化とはひと言で説明すれば「法則（方程式）を見つけること」です。そのプロセスとしてシミュレーション、つまり「仮決めした方程式に実際の値を当てはめて方程式の正しさを確かめること」を行います。現在のＡＩが行なっている機械学習もシミュレーションの１つと言って良いのかも知れません。さらにマッカーシーは次のように言ってます。
コンピューターが愛を望んだり、 絶望したりすることはどういうことだろうか？ これらの質問に対する答えは、 問題となっている現象を （シミュレーションではなく） 形式化できるかどうかにかかっている。 私の予想では、 信じることと望むことの公理化に希望の概念を加えることは難しくないかもしれない。 哲学的論理学における命題と態度の研究は、 そのような方向を指し示している。
驚いたことに、マッカーシーは恋愛感情の形式化も難しくないと考えていたようです。確かに、現在のマッチングサイトに登録すると相性の良いパートナーを見つけてくれますが、その裏では相性の良さを測る方程式を計算してる…といったアプリケーションが各種存在しますよね？ さすがにこの方程式だけで生涯の伴侶を決める人はいないと思いますが、ひとりでダンスパーティーに出かけて、その場でパートナーを選ぶときには優れた方法かもしれません。
その３０年後「人工知能」という言葉が生まれたダートマス会議の５０周年を記念して開かれた AI@50 では、マッカーシーは次のように語ったそうです。
人工知能の研究は、 おそらく1956年以前から、 神経系の模倣に基づくアプローチと、 生存を含む目標達成を試みる人間、動物、および機械が世界から直面する問題を考える工学的アプローチに分かれています。 どちらも人間レベルの人工知能を達成していません。 片方のアプローチを放棄し、 すべてのリソースをもう一方に投入すべきだとする提案は愚かであり、 実現する可能性も低いです。 私自身は工学的アプローチに限定して取り組んでいます。
１９７６年には「シミュレーションではなく形式化だ」と強気に語った彼もその後はだいぶんトーンダウンしていて、３０年後には「いずれかのアプローチを放棄することは愚かだ」と語ったようです。もっとも、この会議にはディープラーニングの開発で知られるジェフリー・ヒントンも講演したようです。この新旧の「ＡＩの父」が揃い踏みした場ではマッカーシーも多少は気を使ったのかも？😛
もっとも…
スタンフォード大の『An Unreasonable Book』のページによればマッカーシーには全く説得できない人々も存在したようです。
ジョセフ・ワイゼンバウムの『Computer Power and Human Reason』の書評を２つ紹介しよう。１つ目はStanford Reportに掲載されたもので、pdf で入手できる。もうひとつは『Physics Today』に掲載された短いもので、こちらも pdf で入手できる。読んでみると、私はこちらの方が好きだが…
１つ目はこれまで紹介してきた書評ですが、他にもうひとつ同じタイトルの短いバージョンが存在したようです。寄稿先の『Physics Today』とは米国物理学協会の学会誌です。読者のなかには第２次世界大戦以降、最先端の科学技術を牽引してきた米物理学界の重鎮もいるのですが、マッカーシーはワイゼンバウムの著書の反科学性を訴える同タイトルの短い書評を寄稿したようです。マッカーシーには説得できる自信があったのでしょうが…僕もこの短いバージョンを読んでみて、彼が何が言いたいのかさっぱりわかりませんでした。
物理学者ビクター・ワイスコフがジャケットでこの本を賞賛し、ワイゼンバウムを傑出したコンピューター科学者と呼んだことを、私が批判しなかったことだけは残念だ。私が書評で引用したような反科学的なレトリックに、彼が同意するはずがない。
もし、この短い書評も１９７６年に書かれたのだとしたらやむ得ない面もあるのでしょうが、マッカーシーは説得を試みた面々についてあまりにも知らなさ過ぎたのではないかと思います。しかし、ビクター・ワイスコフって何者？（つづく）
#10月これやる宣言
#ジョン・マッカーシー
#AI
#ダートマス会議
#人工知能
#AI @50
#ジェフリー・ヒントン
#ビクター・ワイスコフ