AIが本気で働き始めるとどうなる？（後編）
AIが本気で働く中国
日本が技術後進国になって久しい。上海旅行で中国都市部の生活体験に慣らされた帰国者の目には、今もガソリンエンジンのスクーターが大きな音で走り回り、2024にもなって、またしても新紙幣が発行された日本の様子が、20世紀少年の昭和風景に映る。
それでも、テクノロジーで日本を抜き去った中国の姿に憧憬の念を抱くかというと、そこは微妙だ。
2015年から始まったアリババグループの芝麻信用（セサミクレジット：信用スコア）は衝撃だった。駐車違反の履歴データや学校の成績、SNSでの人間関係から一人ひとりの「良い中国人度」をスコア化し、ポイントに応じて飛行機のチケットの優先度を決めたり、AIに社会信用を決定づけられるその仕組みには背筋が凍る。AIからポイントをもらうため、交通ルールを守り、勉強に励み、友達を選んだり、捨てたり。AIが本気で働くとどうなるか、一つの典型的シナリオだ。まさにAICH（AI Centered Human）である。
そこにきてこの「中国における技術への問い」。著者のユク・ホイという人は、香港の若き天才哲人である。コンピューター工学をバックグラウンドに、世界を股にかけて哲学をしている、40歳にもならない若手ギフテッドだ。
哲学思想や歴史に無教養な自分には、ちと背伸びがすぎるハイブローな本だったが、それでも葛藤した読書体験には、鳥肌が立つ瞬間が19回はあった（付箋の数）。そこには「AIが本気で働き始めた時」を考える、歴史や思想のヒントが綺羅星のように散りばめられていた。19本の付箋から、ぽつぽつと引用を拾って綴ってみる。
アヘン戦争・日清戦争でフルボッコされた中国のトラウマ
中国は２度にわたるアヘン戦争で、中国独自の歴史の結晶とも言える政治・文化・思想・価値システムをイギリスに徹底的にぶっこわされた。さらには、嘗て東の蛮俗・辺境国でしかないはずの日本にも、まるでイギリスから受けた傷口に小便をひっかけられるような形で侵略され、屈辱的な不平等条約を結ばされた経験がある。原因は明白で、中国の近代化の遅れである。だから、
中国と西欧列強の不平等な関係を終わらせたいと願いつつ、とにかくテクノロジーの発展をつうじた急速な近代化が必要だという焦燥感を抱いていた。
日本も、黒船の威嚇、不平等条約の締結という経験をしていたから、同じ焦燥感はあった。だが、仏教も輸入品をカスタマイズで使うような、元来宗教観も薄いノンポリ日本は、チョンマゲを切ることにも、刀をピストルに持ち帰ることにもたいした躊躇はなく、結果としてアジアのどの国よりも先に、西洋式OSをインストールできた。爆速の近代化で日露戦争に勝利した日本を見るにつけ、中国では技術に対するそれまでの慎重論など許されない状況となっていたのだろう。
改革主義者たちは、テクノロジーを単なる道具と理解し、そこから中国の思想ーつまり精神ーを切り離すことができるだろうという、いま考えるとかなり「デカルト的」に見える信念を抱いていたのだ。言い換えれば、それはテクノロジーという「図」を輸入、実装しても、中国思想という「地」は影響を受けず無傷のままでいられるという信念である
ここが、近代化を不可避に迫られた国の、技術に対する態度である。果たして、生成AIの登場に直面する我々は、このくだりを読んで、古い歴史の一コマだと笑えるだろうか？
自分には「AIは単なる道具なのだから、とにかく後先考えず、使ってみればよいではないか」というAI無条件礼賛論と、アヘン戦争後の改革主義者のこのエピソードが不気味に重なる。
「生成AI、とにかくいろいろ使ってみる」の先にあるもの
これを逆説に読み直せば、AIは単なる道具ではなく、人間の行動、その行動がもたらす結果、その結果を受け入れるコミュニティの態度や、その結果を管理する倫理、そしてその倫理を統制するための法、つまり社会全体と密接に連関しており、「単なる道具」などではない、ということになる。
儒教の中国はもともと、すべての原点に倫理（道と器）があり、その倫理を実践する生活規範として行動があり、その行動の必要性から道具や技術に落ちてくる、という構造で、倫理と技術が繋がっている。つまり
「倫理→生活規範→行動→技術や道具（技芸）」
という上から下に落ちる形、微分していく感じでガバナンスが利いてきた歴史がある。だから、技術をとりあえず使うことは、
「技術や道具（テクノロジー）→行動→生活規範→倫理」
と下から上へ積分する連鎖構造となる。技術は切り離し可能な道具なのではなく、生活・社会・倫理と密接に繋がっているのだから、適当に使うとどんな帰結になるかわからない、制御できなくなるぞ、ということを、ユク・ホイは言っているように読める。
技術慎重論者が老害呼ばわりされ、蚊帳の外に出されるのは、おそらくいつの歴史も常なのだろう。しかし、無条件の技術礼賛よって思想の柱を失った国は、宗教、哲学の強い国に知らず知らずのうちに隷属していったことも確かだ。ユク・ホイは中国に、技術に先立つ「技芸思想」の議論が先立つべきことを訴える。
この、技術基点で倫理がぶっこわれていく様子を、ユク・ホイは『荘子』の故事からとりあげている。もう一つ付箋を引き出してみる。
「いい機械がありますよ」
子貢という孔子の弟子のひとりが、田畑に必死で水を運ぶ老人に割って入る。
「いい機械がありますよ。1日で百のうねに水をやることができて、労力は少ないのに効果は抜群なんです。使ってみる気はありませんか」
すると、老人はこう答える。
機械があれば、かならず機械にかんする心配事ができる。機械にかんする心配事が増えれば、機械に依存する心[機心]が生まれる。機械にたよる心が胸にあると、ひとのもつ純粋で素朴なものが損なわれる。純粋で素朴なものがなくなると、霊妙な生のいとなみも安まることがない。霊妙な生のいとなみが安まらなければ、道から見放されてしまう」
ここから、ユク・ホイはこう結論づける。
つねに機械にもとづいて思考するようになったとき、ひとは機械的な推論の形式を身につけることになるだろう。
生成AIを使えば、生成AIにあわせた思考や行動をするようになる。これは我々も随分と経験済だ。
Googleのクローラーの動きにあわせSEO対策をすれば、Googleの検索アルゴリズムにあわせた、つまらぬスパム記事を大量に書かされることになり、世の中にはゴミ記事が溢れる。ゴミ記事の山はLLMに読まれ、間の抜けたChatGPTの回答にイラつかされることになる。イラついた気分でTimesカーシェアに乗っても、急ブレーキを避けなければ優良ポイントがつかない。ポイント減点を恐れて急ブレーキを躊躇したら、車道を横切る自転車を轢いてしまった…。
AIという技術との向き合い方と、そのリスク
言ってみれば、人間は、これまでも機械を使いこなすことなどできたためしがない。人間は、自らが作った機械やルール、法律やシステムに隷属する生き物なのである。
こう考えると、自ら制御できない技術は、やはり「とりあえず」で使ってはダメな気がする。慎重に、恐る恐る使ってみては立ち止まり、逐次、自らの身と心、社会の中に何が起きているのかを、しっかりと観察し、議論しながら使っていくべきものなのではないだろうか。AIと付き合う長い未来を考えると、ユク・ホイのいう「技芸」との付き合い方が、未来の社会・倫理の方向に関わってくる。これが、生成AIのような新技術が出てきた時のまっとうな行動な気がする。
ただ、技術へのこうした保守的態度に孕むリスクもある。次のアヘン戦争である。近代化に遅れた国がヨーロッパ各国（や日本）に蹂躙されてきた歴史を見ると、テクノロジーに”待った”はないのかもしれない。
しかし、このグローバル化がすすんだ社会で、今も本当に200年前と同じように、技術先進国が世界のイニシアチブをとり、後進者をアヘン戦争のように蹂躙するのだろうか？思想や文化をテクノロジーの生贄に差し出した技術先進国は、本当の意味で幸せになるのだろうか？GAFAの天下や富の一極集中、OpenAIの破竹の威力を見よ？断末魔が叫ぶ現代のアメリカや、寝そべり族が激増する極度の鬱な中国を見る限り、思いは複雑である。
この複雑なモヤモヤを抱えたまま、明日もAIを使い、作り、売る。自らの、世界の思考拡張のために。