ニュー・ダーク・エイジ
とある山あいの駐車場で白線で囲まれた円から出られなくなってしまった「自動運転車」の動画をご存知だろうか。この作品の作者であるジェームズ・ブライドルは、「自動運転車」自体もDIYで開発してしまうほど自らテクノロジーを駆使しながら、一方で哲学や美学など人文学にも精通し、テクノロジーに対する鋭い洞察に基づいた作品や論考で注目されているイギリスのアーティストであり思想家である。
「破線側から実線側へは白線をまたげるがその逆は出来ない」という交通ルールに厳格な「自動運転車」は、破線と実線で２重に囲まれただけの円から出ることが出来なくなる––。「Autonomous Trap 001」は、そんな一見すると滑稽にも見える映像作品だが、仮に自動運転が本当に普及して、その仕組みがわからないことが普通になってしまったら、こんな簡単なトラップにも人間は無力になってしまうのかもしれない。「塩」で描かれた白線がテクノロジーに対する盲目さが生む呪術性を示唆していたり、「自動運転車」を開発するためのソースコードをGithubで公開している点も興味深い作品だ。
そのジェームズ・ブライドルによる新著『ニュー・ダーク・エイジ テクノロジーと未来についての10の考察（現題：New Dark Age: Technology and the End of the Future）』もまた、テクノロジーと人間の関係について改めて考えさせられる１冊だ。
ちなみに先日、若林恵さん、池田純一さん、日本語版を監訳された久保田晃弘さんによるこの本をテーマにしたブックサロンにも参加したのだが、そこでの議論もとても面白かった。その内容も振り返りながらTakram Londonの牛込と収録したTakramcastも合わせてお聞きいただければ幸いだ。
「わからなさ」のメタファーとしての「雲」
とらえどころがないさまを表す「雲をつかむような」という表現があるが、ブライドルは『ニュー・ダーク・エイジ』で、複雑化する情報テクノロジーのつかみどころのなさの象徴として「雲（クラウド）」というメタファーに注目する。
そもそも、コンピュータの歴史は気象予測と深い関係があった。気象に関連するあらゆるパラメータをコンピュータに入力し、現実の自然現象より速いスピードで計算できれば気象は完全に予測できる、言い換えれば、未来は計算可能であり、自然は制御可能であると考えたのである。しかし、今地球規模で起きている気候変動を考えればそれが幻想であったことは明らかだ。若林さんによれば、近年国際会議の場でも、気候変動は「いかに回避しうるか」という議論から「避けられないものとしてどう対処するか」という議論に移行しつつあるという。それほど「雲」は人間にとってつかむことのできない不可知なものなのである。
一方で、『情報環世界』でも取り上げているように、加速度的に進化する情報テクノロジーもまた、文字通り「雲（クラウド）」のように、人間にとって複雑すぎてとらえどころがない存在になりつつある。人間は、大きすぎて捉えられないものを自然と同じように無条件に受け入れてしまいがちだが、テクノロジーはあくまで人間が作り出したものであることを忘れてはならないとブライドルは言う。つかみどころのない「雲」ではなく、海底ケーブルやサーバラックの並ぶデータセンターやソースコードがあることを想像しようと。そして、AIが膨大なデータに基づいて人間の理解を超えた答えを導き出し、複雑な情報ネットワークが制御不能なポストトゥルースを生み出す今、アイザック・アシモフが提唱したロボットが人間に危害を与えないためのロボット工学3原則に加えて、第4原則が必要だと主張する。
ロボットは––もしくはほかのどんな知能機械も––自分の行為を人間に説明できなければならない
先日、まさにGoogleは、AIが答えを導き出した根拠を可視化するTCAV(Testing with Concept Activation Vectors)という技術を発表した。例えば、ある画像を「シマウマ」と判断した理由を「ストライプ柄である 53%／馬である 41%／サバンナにいる 29%」といった、人間が理解可能な形で提示するのだ。AIの透明性を高め、学習データに潜むバイアスを防ぐこのような技術は今後ますます重要になるだろう。
メタファーを更新する
もう一つ、現代における情報テクノロジーを表すメタファーとして「情報は現代の石油である」という言説がある。21世紀は石油に変わってデータこそが富を生み出す時代だというわけだ。膨大な量を集め、精製しなければ使い物にならない石油は確かに腑に落ちる「情報」のメタファーだ。しかし本当にそうだろうか。むしろ「情報」は「石油」ではなく「原子力」なのかもしれないとブライドルは警鐘を鳴らす。
ブックサロンが終わったあと、本書を監訳された久保田晃弘さんが持ってこられていた数十年前の原子力に関する技術書を見せてもらった。久保田さんが東京大学に在籍されていた当時、原子力学科は一番人気の花形学科だった。そこには、一家に一台家庭用原子炉が置かれ、飛行機も原子力で飛ぶ未来が予想されていた。
人類は、テクノロジーが有益なものにも脅威にもなりうることを歴史から学んできたはずだ。わたしたちは、これからますます複雑化する情報社会を理解するためのメタファーをどのように更新していくことができるだろうか。
WIRED BOOK REVIEW | ようこそ、計算論的思考が生み出した〈新たなる暗がりの時代〉へ──『ニュー・ダーク・エイジ』池田純一
【追記】初めての単著『コンヴィヴィアル・テクノロジー 人間とテクノロジーが共に生きる社会へ』がBNNから2021年5月21日に発売されました。行き過ぎた現代のテクノロジーは、いかにして再び「ちょうどいい道具」になれるのか——人間と自然とテクノロジーについて書いた本です。この記事の内容にも触れています。
この記事が気に入ったらサポートをしてみませんか？