信頼・責任・好感：社会システムのテクノロジ

社会的なシステムには、そのシステムの目的を満たす機能だけでなく、そのシステムが選ばれて存続し続けるための要件があります。

その基本的な要件として、信頼、責任、そして好感があると私は考えています。

この記事では、この考えについて、関連する技術と共に説明していこうと思います。

■信頼構築技術としてのブロックチェーン

ブロックチェーン技術は、アルゴリズムに依存した信頼構築を可能にする技術と言えます。信頼とは端的に言えば、システムに入れた内容や指示が、事前に決められた手続きや期待される動作に反して変更されないということです。

従来のシステムでは、信頼は人間や組織的な仕組みによって成立していました。ITシステムやソフトウェアは、信頼できる人間や組織が開発と運用をすることでしか、信頼を実現することができませんでした。つまり信頼できない人や組織が開発や運用していれば、システムを信頼することができないということです。

個人の財産、権利、個人情報等、私たちの生活に大きな影響を及ぼすものを、信頼できないシステムに預けることは私たちにはできません。それは、物理的にできるとしても、心理的にも合理的にもできないという意味です。

このことは、人間や組織に頼って信頼を実現しているシステムが、ブロックチェーン技術に置き換わるべきだという結論になるわけではないことを意味しています。私たちは信頼ができるのであれば、どちらで実現されていても構わないためです。特に、成熟した社会では、既に人間や組織による仕組みが十分に信頼に足る仕組みになっているため、ブロックチェーン技術で信頼を構築しなければならない必然性や合理性がある場面は、ごく限られます。

■信頼と責任

加えて、システムに求められるのは信頼だけではありません。責任も求められます。

責任とは端的に言えば、関係者が被る被害を最小限に抑えたり、得る利益を最大化する事です。未来の被害の最小化と利益の最大化が競合する場合には、関係者から期待されるバランスを適切に取ることも含まれます。そして、その延長線として、発生した損害や利益機会損失に対して、責任を担う人や組織が補填をするということを含む場合もあります。

ブロックチェーン技術は、信頼の構築をする技術ではありますが、残念ながら責任を担う技術ではありません。あくまでも信頼は、事前に決められた手続きや期待される動作に対して変更がないということに過ぎません。仮に事前に決められた手続きを変更しないことが大きな損害を生む状況に陥ってしまうと、ブロックチェーン技術は無力どころか、その損害を確実なものにしてしまうという意味で、責任とは正反対の作用を及ぼしてしまいます。

従って、現在のブロックチェーン技術だけでは、私たちが真に望んでいるシステムを実現することはできません。私たちは信頼できないシステムに、個人の財産、権利、個人情報等、私たちの生活に大きな影響を及ぼすものを預けることができませんが、同時に、責任の所在も必要とします。

現在のところ、ブロックチェーン技術を用いたシステムの利用に関しての責任は、私たち個人が担うことが基本となります。特別な状況下でのみ、システムの開発や運用に携わっている人や組織に責任を問うことが可能ですが、そうした状況はごく限られます。

一方で、既存の人や組織に対する信頼に依存しているシステムは、同時にそれらの人や組織がある程度の責任も負います。この責任の部分が、ブロックチェーン技術には欠けています。このため、既存の信頼と責任を人や組織が担っているシステムを、ブロックチェーン技術を利用したシステムに置き換えていくというストーリーは、基本的には無理筋です。

■責任を担う技術

責任は、価値判断や状況判断などの判断を必要とする知的な能力を必要とします。このため、データの変更や処理の履行といったアルゴリズムで確実性を補償するブロックチェーン技術とは質の異なる問題領域です。

価値判断や状況判断を技術的に実現するとすれば、それは間違いなくAI技術ということになるでしょう。

もちろん、AIが一般的な意味での責任を負えるのかという問題はあります。しかし、それは感情的な責任の問題と、機能としての責任の問題を切り分けて考える必要があります。

AIは被害者の感情的な欲求を満たす責任者にはなり得ません。例えば何らかのシステムに絡む事故で死んだ人がいたとして、その原因がAIにあった場合に、遺族にAIが謝罪しても感情的な救済にはなり得ないでしょう。そこでは、少なくとも人間の責任者が存在しており、その責任者が謝罪することでしか、遺族への感情的な救済にはなり得ません。

一方で、先ほど定義したような機能としての責任、つまり、関係者が被る被害を最小化したり、獲得する利益を最大化する機能は、AIにも担う事はできるでしょう。状況を判断して、考えられる最善の選択をする能力は、人間だけの能力ではありませんし、既にAIの方が人間を上回る可能性が高くなってきつつあります。

■判断過程に対する信頼

その上、責任を担う過程について、人間の責任者が期待されている通りの判断をしているのか、その責任者あるいは周辺の人たちに対して有利に働くように恣意的な判断をしているのか、私たちには知る手段がありません。従って、人間の責任者の場合、信頼できる責任者を選ぶという責任を、結局は利用者側が担う必要が出てきます。

一方で、AIの場合は状況が異なります。AIであれば、その判断過程において恣意的な決定がないかどうかを、私たちがチェックすることができるようになると期待されます。このAIの判断過程のチェックに、ブロックチェーン技術を応用することが考えられるためです。

AIが責任を担う機能を持ち、そのAIの判断過程にブロックチェーン技術がアルゴリズム的な信頼を与えるという組み合わせにより、信頼と責任を両立するシステムを成立させることができるわけです。

■好き嫌いの問題

そうなると、最終的には人間や組織に頼るシステムと、技術に頼るシステムの差異は、感情の部分のみになると考えられます。

そして、ここでの感情は、喜怒哀楽を始めとする複雑な感情ではなく、好きか嫌いかという単純な観点に帰結します。謝罪する人を許すかどうか、あるいは自分の生活にとって重要な物事をその人に任せるかどうかは、ある程度は合理的な判断や経験的な判断が介在しますが、最終的にはその人を気に入るかどうかという好き嫌いの問題に収束します。

なぜなら、既に発生してしまった被害は論理的に取り返すことはできませんし、未来の不確実性はどれだけAIが賢くなったとしても依然として残るため、私たちの理性的な判断には必ず限界が有るためです。その限界を超えて判断する時の拠り所は、その判断を自分自身で納得するかどうかです。そして、その納得のためには、相手を気に入るかどうかという好き嫌いの判断しか私たちに残された手がかりがないのです。

嫌いな人だと判断すれば、その人から謝罪を受けても許すことはできないでしょうし、その人に不確実性のある重要な物事を任せることはできないでしょう。一方で、その人のことを気に入れば、謝罪受けて許すことができますし、重要な物事を任せることもできます。

■好感を得る技術

AIが感情面の責任を担う事はできず、AIによる謝罪には意味がないということを述べました。これは、AIを単なる知性として捉えた場合の話です。

一方で、実際に目の前にいる人物に限らず、私たちは様々な相手に対して好感を持ちます。例えば、会ったことがないけれどもテレビやネットを通して知っている相手に、強い好感や嫌悪感を抱いたりします。また、現在生きている人物に限らず、既に亡くなってしまった人や歴史上の人物に対しても、好感や嫌悪感を持ちます。さらに、実在する人物に限らず、伝説上の人物であったり、映画や小説の中の人物に対しても好感や嫌悪感を抱きます。

このように私たちの好感や嫌悪感は、合理的でも理性的でもなく、様々な場面で様々な相手に対して向けられます。そして、この延長線上で考えれば、仮想的な人格やアバターを持つ相手に対しても、様々な好感や嫌悪感を抱くことがあり得るということは容易に想像がつきます。

このように整理して考えると、実在する人間だけに、私たちが不確実性のある重要な物事を任せるとは限らないということが理解できるでしょう。もちろん、人によってその傾向は異なりますが、自分が実在する人にしかそうした物事を任せるつもりはないとしても、他の人たちも同じように考えるとは限らないということは理解できるでしょう。

そして、同世代の人であれば似たような判断の傾向を持つとしても、将来世代には考えが変わってくる可能性も十分に考えられるでしょう。

既に述べたように、これまでは人間に頼るしかなかった信頼は、ブロックチェーン技術により確立することができるようになりました。機能的な責任については、AIが担う事ができることが既に見えてきています。そうだとすれば、技術的な仕組みで成り立っているシステムが、何らかのアバターや仮想人格のようなものを介在させつつ、好感を獲得して重要な物事を引き受けるようになることも、十分に考えられます。

そうして失敗したとしても、ユーザがそのシステムに対して好感を抱いている限り、仕方がないと諦めることになります。考えてみると、この過程は、人間に対して依頼をした場合と何も変わりがないのです。

そこに仮に、好感を獲得する技術のようなものが存在すれば、この傾向はより強くなるでしょう。合理的に考えて、人間や組織の仕組みを信頼したり責任を担わせるよりも、ブロックチェーン技術とAIに任せた方が良いと判断するタイプの人の視点から見れば、不確かな人間に対して好感を抱いて重要な物事を任せるよりも、好感を持たせる技術があるとしても、その技術を感情的に受け入れて重要な物事を任せることも、特に違和感がなく、合理的に思える可能性は高いでしょう。

その技術がアバターや仮想人格のような技術なのか、より根本的に何か今までの技術とは異なる形なのか、あるいは多様な技術の統合になるのかは、現時点では予想ができません。しかし、人間が好感を持つ相手が実在する人物である必要がないという事実がある以上、そこには技術的な可能性は存在し続けるでしょう。

■文化との共進化

社会システムの信頼、責任、そして好感の対象は、これまで人間や組織しかありませんでした。そこで、不確かで不完全で不透明ではあるものの、なんとか人間や組織によって信頼や責任や好感を確立して社会システムが円滑に機能するように、社会制度や社会文化が進化してきたという側面があります。

技術によって信頼や責任や好感が得られるようになったとしても、社会制度や社会文化が追いついていなければ、誰もその技術を使って社会システムを入れ替えようとは思わないでしょう。

一方で、技術の進展と歩調を合わせて社会制度や社会文化が変化していけば、技術による信頼や責任や好感に頼る形で社会システムが変革されることも十分に考えられます。

特に、世代が異なれば技術や社会に対する認識も大きく異なります。私たちの世代が非常識で非現実的だと思っている事でも、将来の世代にとっては当たり前であり容易に受け入れることができるという可能性は排除できません。それが急進的な変化でないとしても、ブロックチェーン技術、AI、そして仮想人格のようなものに生まれた時から当たり前に接する世代にとって、それらの技術に基づいたシステムに頼る事は、ごく自然な発想であり、それが徐々に実績を積み上げていけば、拒絶する理由はなくなっていくでしょう。

そして、そこに様々な問題があるとしても、それは解決すべき問題であり、単純に後戻りの必要性を意味しません。むしろ問題を技術的に解決できることのメリットが大きく、人や組織に依存していつまでも抜本的な改善ができないシステムの維持を擁護することの方が、困難になっていく可能性が高くなっていくでしょう。

このような形で、社会文化と社会システムを支えることができる技術は、共進化していくと考えることができそうです。

■さいごに

ブロックチェーン技術について久しぶりに考える機会があり、その中でこの技術が当初考えられていたよりも社会に普及していない理由について考えを整理していたところ、責任というキーワードがある事に気がつきました。そのことが、この記事を書くきっかけでした。

暗号通貨やNFT、DeFiやDAOなどが少し前に流行りましたが、そこでは信頼はブロックチェーン技術によって担保され、責任は利用者が負う仕掛けです。このため多くの人が二の足を踏み、一部の人たちだけが受け入れることができるという状況だったのだと思います。

また、こうした技術や先進的な取り組みに対する興味が強い人にとっては魅力的な仕組みであったため、そうした傾向にあるかどうかが、好感を左右していました。そこでも、受け入れることができる人が絞られるという状況だったように思います。

現在は、AIが技術的に進化してきており、記事の中でも書いたように社会的なシステムの責任面を機能的には支えることができるようになりつつあります。従来の仕組みよりも新しいシステムを好意的に受け入れる人が多くなれば、技術によって信頼、責任、好感を充足させて、人や組織に依存しない社会システムが現実に運用されるようになる可能性が出てくるでしょう。

経済システム、政治システム、そして国際関係のシステムは、人や組織に依存しつつ、その仕組みを洗練させることに徐々に成熟してきたシステムではあります。一方で、人や組織による信頼、責任、好感には限界があり、成熟してもなお十分なシステムとは言えません。

そこにある信頼、責任、好感を技術が担うことで根本的に問題が解消するとは限りませんが、人や組織に頼ることでは解決できなかった部分に対する有望な対案であることは確かでしょう。