訂正可能性とニューラルネットワーク -つまり一般意思ってなんだってばよ。-
はじめに
遅ればせながら東浩紀さんの訂正可能性の哲学を読んだ。ここでは、主に第二部の一般意思再考についての僕なりの感想と考えを書いておこうと思う。
まず本文に
“ ここには大きな謎がある。多少大袈裟にいえば、ぼくの考えでは、近代民主主義の困難は最終的にはこの問いに集約される。なぜならば、「一般意志は全体意志とは違うものであるはずだ」というその信念にこそ、この二世紀あまり民主主義が相互に矛盾するさまざまな期待を背負いながらも望ましい政体として語られ続けてきた、その最大の理由があるからである”
とあるようにこの一般意思ってなんだってばよ問題は極めて重要でありながらちゃんと答えを出している人がいない解答が難しい問題である。訂正可能性の哲学の第二部は東さんの言うところの人工知能民主主義との対比で、この問題に言及していきながら、一般意思には絶え間ない訂正が必要であるという結論で終わっている。
一般意思に訂正？となると思うので順番に考えていこうと思う。
一般意思とは何か？
ルソーの言うこれについては東さんの「一般意思2.0」に詳しい。
超簡単にいうと、個々人の意思が特殊意思でみんなの意見を集約したものは全体意思。一般意思は全体意思とは異なり、人々の無意識（ルソーの時代には無意識の概念がなかったので後の世の人々は混乱してる）まで含んでいるので絶対に間違えない。
ということになる。で、基本的には今ある新しい民主主義のアイディアはなんとかしてこの一般意思を抽出したいと考えている。
人工知能民主主義とは？
成田悠介さんが「22世紀の民主主義」の中で述べている「無意識民主主義」とほぼ等しい。これも超簡単に述べると、投票とかしなくてもITが発達した現代なら各種センサーで人の無意識を含んだデータを抽出できる（例えばある政策について話をしたときの心拍の変化や声のトーンの変化を抽出する）ので、それを集めれば一般意思になるんじゃね？だって無意識のデータも含んでいるんだよ。イケるっしょという考え。
人工知能民主主義ええやん。何があかんの？
東さんは
“一般意志は、人民主権を基礎づける絶対的な力の源泉だが、同時につねに訂正のダイナミズムに開かれていなければならない。一般意志のこの両義性をきちんと理解せず、素朴に実体化し、前衛党の指導、独裁者の直感、「意識の高い」市民による熟議、あるいは人工知能が生み出す新しいアルゴリズム、なんでもよいが、そのようなものによって「正しい」一般意志を把握でき、それに従うことで正義の政治が実現できると考えることは、人間のコミュニケーションのゲーム的な本質を無視したたいへん危険な行為である。”
と痛烈に批判してる。詳しい批判の内容は本を読んでもらうとして、僕の考えを以下に述べる。結論から言うと僕も人工知能民主主義はあかんと思う。それはこの系が閉じた一方通行の系だからである。それをわかりやすく書く。
意外と古くさい？人工知能民主主義
一年位前に「22世紀の民主主義」の第4章「構想」を読んだ時に思ったのはどこかで聞いたことのある話のアプデ版だなというものである。ちょっと違うけど映画マイノリティリポートとかの世界観に近い。近年のテクノロジーの進歩に伴ってディテールが描かれてはいるものの、根本的なアイディア以下の図のようなものになる。雑に言うと、頑張ってセンサー沢山つけて無意識まで含めてデータ取って纏めれば一般意思になるっしょ！という話である。実は意外とシンプルな話なのだ。
単純そうで意外と複雑な事をやっている「一般意思2.0」のアイディア
一方同時期に読んだ東さんの一般意思2.0で述べられているアイディアはというと、代表者が熟議をしている場所をオンライン上でストリームする。そして、そのストリームに皆んながコメントをつける。コメントに強制力はないが、コメントを見ている代表者たちはそのコメントを見ながら議論を修正する。というものである。まぁ、こちらも超簡単にいうとニコ生で議論やればよくね？という話である。このアイデア自体はを使っているツールは古いのだけれど（もう10年以上前の本なので仕方ない）、実は複雑なことをやっていることに気づく。何が複雑なのか？次のセクションで説明する。
一般意思2.0のアイデアでは複数の訂正のサイクルが回っている。
普通会議をする時はお互いの発言によって意見を調整し合意（ぽっいもの。コレは訂正可能性の哲学の中でバフチンの話がでてきて完結不可能性について言及してるのでややこしいが一応近いものがあると仮定、）に近づいていく。これを訂正のサイクル１と呼ぶ。一般意思2.0のアイデアではこの意見の調整が議論参加者の観衆のコメントも入れるということであるので、これを訂正のサイクル2と呼ぶ。そして議論の内容を見て観衆が意見を変更する、これが訂正のサイクル３である。ここまでは一般意思2.0の中でも明言されていたと思う。実はこれ以外にも訂正のサイクルがある。これがサイクル４、コメントを見て観客が意見を変えるというものである。これは自分達の意見を見て自身を変更するので、無意識の意識化へ近い。この4つのサイクルが回りながら、サイクル通しがお互いに影響して合意に近づいてくる。
それぞれのアイディアで一般意志はどこにあるのか。
人工知能民主主義では集めたデータをアルゴリズムが処理した場所に現れる。これは処理が終わった時点で出現し、以降変更がないので静的である。一方一般意思2.0では上記のサイクルがぐるぐる回っているところに合意という形でモヤっと現れる（わかりにくい笑）。この場合サイクルが回っているかぎり、合意の内容は変化し続けるので動的である。これだと議論終わらなくね？というか、バフチンとかいう偉い人も終わらなくて良いって言ってた！なので一般意志が現れないという問題がある。結論から言うとこの指摘は正しいと思う。正確には一般意思2.0のアイディアだと一般意志そのものが出現するのではなくて、合意が（あるとされる）一般意志に漸近していくイメージである。サイクルでの訂正が均衡に達した時点で議論を終え、暫定の一般意志を決定する必要がある。
人工知能民主市議の問題点とその解決策とは？
僕が考える人工知能民主義の問題点は一般意志を静的なものと捉えていることにある。人間の意見は移ろいやすく、そして何より自分の考えていること、欲していること自体よくわかっていない。これはセンサーたくさんつければわかるっしょ！と言う単純な話ではない。そうではなくて、自分の意見を自覚するには、様々な人の意見、ときには「貴方は実はこう考えているっぽいよ」などの提案を受け入れることで移ろいながら意見を発見するものだと思う。このサイクルが回らない（サイクルが一回で終わってしまう）以上一般意志に近づくことができない。なので、解決策としては集めたデータで仮の一般意志を提示したのちに「本当にこれで良いですか？」と何度か聞いてサイクルを回すことだと思う。一般意志2.0のアイディアだと使っている手法は古いけれど実はこのサイクルが回っている。加えて言うならサイクルさえ回っていれば良いので、観客から取り出すデータはコメントに限定しなくて良いと思う。言葉にするのが苦手な人もいるはずだ。
訂正可能性とニューラルネットワーク
僕が一般意思2.0と訂正可能性の哲学2部のアイディアを知ったときにこれはニューラルネットワークに似ているなと思った（僕の職業の一つはAI研究者の端くれである）。ニューラルネットワークはごく単純に言うと、仮の値を出力して（foward）その値とラベルの値との差がなるべく小さくなるように「訂正」(backpropagation)をくり返えすことでモデルを使えるものに近づけていく。正しいモデルなどなくて、限りなく「それっぽい」使えるモデルがあるだけだ。そしてどこで学習（一般意志2.0で言えば熟議）でやめるかの基準も明確にはない。上記の仮の値とラベルとの差が一定で動かなくなっとときに何となくやめるのである（ガチ勢に怒られそうなのだけれど、大雑把に言うとそうなのだ。マジで。）。いつも思うのは何故このようなある意味ファジーな方法が大成功を収めているのかと言うことだ。僕は逆説的になるがこのファジーさこそが成功の鍵だと思っている。言い換えるなら、あるかもわからん完璧なモデルを作ることを諦めて、完璧なモデルに近づくことだけを目指しているからだ。ニューラルネットワークと一般意思2.0のアイディアの指向性はこの点で近いと思う。
つまり、ある種の諦めと妥協が本当に使えるシステムには必要なのではないかと言うことだ。
補足
次回は訂正可能性の哲学の一部についての感想を書こうと思う。個人的には一部の方がよりエモい内容だったのでうまく文章にできるのかあまり自信がない。
また、僕も結構人工知能民主義をディスってしまったが年代としては成田さんや落合陽一さんは同世代だ。かつ、プログラムを書く側の人間であるという共通点があるので彼れらがデジタルネイチャー（この本は落合さんの本で一番面白い）的な世界観に行ってしまうのも何となく理解できる。プログラムを書くという行為は書いてはエラーメッセージが出てきて機械にダメ出しを受け続けることなのだ。そして、ダメ出しに適切に対処する＝エラーメッセージが消えるときがプログラムが動くときであり、このサイクルの中にいる間は機械が絶対的に正しい。このような経験を永遠にやっていると機械の正しさに全てを委ねたくなる気持ちになるのもわかる。同僚も「スクリプト側が間違っていることはない」と言い切っていた。けれど、実社会で問題を解決する際に本質的に必要なのは枠の中で何かをうまく回すことじゃなくて、問題そのものを発見してそこに仮の枠を作ってやることだ。それは、多分プログラムを書く行為の閉じたサイクルとは本質的に異なる（断っておくがプログラムを書く行為がもっと想像的になりうることも知っている。あくまでサイクルの中での話である）。
また、これはすごく個人的な感想だが成田さんの「22世紀の民主主義」の中の「新しい民主主義の構想」は彼の本命の案ではないのではないだろうか？むしろ「逃走」が本命ではないかと思っている。