『AIは新たなマッキンゼーになるのか？』を読んで《テッド・チャンさん備忘録 64.》

2023年5月11日 06:48

（初出：2023/5/10）

今回は珍しく（？）見つけたばかりのご寄稿について、記録・ご紹介と感想など。GWで時間があったので早めに読めました♥ また”The New Yorker”のサイトです。（以下引用部分は拙訳・箇所によっては意訳／要約です。ご了承ください）

ご寄稿記事リンク

Will A.I. Become the New McKinsey? | The New Yorker

テーマは「AI」ですが、SFやガジェットフリーク的な目線ではなく、より広い視野に立ったもの。経済的な側面を直視していて、どちらかと言えばジャーナリスティック。だから自分のような「パンピーな大人」（特にガジェット好きではなく、専門用語はよく知らないけど経済的な問題には切実な興味を持たざるを得ない、という程度の意味で）でも深く共感できる内容でした。

◆「マッキンゼー」の含みと資本主義への視線

…「いわゆる経済ニュース」を日頃読まない自分には(^^;)ボンヤリとしかわからない単語が続出なので、自分の確認を兼ねて基本のところを。

「マッキンゼー」というのはアメリカの大手経営コンサルタント会社で（ここからです、池上さん！（笑））、文中ではFortune 100（米国企業の売上高上位100社）の90%がその顧客だと書かれています。記事によれば、こういうコンサル会社に一番求められるのは、レイオフ（業績悪化などが原因で従業員を一時解雇すること。再雇用が前提で日本では少ないらしい）の道義的責任を経営者が直接かぶらなくてすむようにする、ということだそうです。「コンサル会社のアドバイスに従っただけ」と言えるので。

それと同じ機能を、AIが果たしつつあるというご指摘。問題はAI自体ではなく使い方。現在は「企業が従業員を解雇しやすくする」方向に使われているけれど、考えるべきなのは 「解雇をしにくくする」方向に役立てることはできるんだろうか？ということだと提案しています。これ、当たり前のようでなかなか口にされない切り口だと思うんですが、どうでしょう？

マッキンゼーの前共同経営者は “We don’t do policy. We do execution.”「我々が行うのは政策ではなく実行である」と発言しているそうです。（解釈に迷ったのですが、検索で出てきたソースと思われる記事 “McKinsey & Company: Capital’s Willing Executioners [Current Affairs]” の文脈を見ると、「わが社は政策決定になど関与していない。課された仕事を粛々と遂行しているだけだ」…というニュアンスかと。do executionは「死刑を執行する」とも読めるので、やってることを考えるとダブルミーニングっぽい？）

チャンさんの見方はこうです。

しかしこれはなんとも中身のない言い訳だ。というのは、有害な政策決定が行われる可能性が高まるのは、コンサルティング会社 — あるいは新しいテクノロジー — が、その政策を実行する手段を提供する時だからだ。
（原文）But this is a pretty thin excuse; harmful policy decisions are more likely to be made when consulting firms- or new technologies- offer ways to implement them.

前出記事より

「AIの提案に従っただけ」というのも同じように茶番で、アルゴリズムはその企業自身が決めている、と釘を差しています。

でも「そういう需要」でお金が動くなら — その需要が資本家のものなのですから — 「そういう方向」にだけ開発が進んでしまうのが今の資本主義だよね — と、どこかであきらめている自分がいます。お金になりそうな分野の薬だけ開発されるのと同じでうんざりしてはいるけれど、どうせ変わらないんでしょうと。でもあきらめて沈黙してはいけないんだと、記事を読んでいて叱咤された気がしました。（反省）

ここで思い出したことがあって — 以前にも書きましたが、傍聴したあるパネルディスカッションで、ロボット研究者の方が「（研究は）やりつくしてもう課題がないんですよ」みたいなことを笑いを交えて語っていて（逆説的なジョークではありません）、それがまたその場でウケていて、激しく違和感を覚えたことがあるんです。

実際に役立つことに関しては — 私の頭にあったのは、介護現場での人間の負担を軽減したり、そういうサービスを受ける側が楽になるような形での展開など、身近で切迫した例なのですが — そういう面に関しては、まだ課題が山積みじゃないかと。もちろん基礎研究／応用研究の違いなどあるのだとは思いますが、研究者さんというのは、そういう実用面・社会に対する貢献にはさほど興味がないんだなあ……と、まあはっきり言えば失望したのでした。全員がそうなわけはないので、たまたまその時発言した方がそうだったというだけですが。でもその後の展開を一般市民の立場で見ていると、やはり比率としてはあの研究者さんのような姿勢が多いのだろうな、というのが、今でも持っている正直な印象。これは他の分野でも見たことがある傾向です。

横道失礼しました。チャンさんの目線はもっと俯瞰的な所にあり、資本主義自体を対象に据えています。悪しき方向に行かせないために必要なことは、 資本主義を飼いならすことと、資本主義に抵抗することだとしています。

おおざっぱに言えば、資本主義を飼いならすことは政府の規制を意味し、資本主義に抵抗することは、草の根の市民運動や労働組合を意味する。これらを強化するために、AIが取りうる道はあるだろうか？ AIが、労働組合、つまり労働者が運営する協同組合に力を与える方法はあるだろうか？
（原文）Roughly speaking, taming capitalism means government regulation, and resisting capitalism means grassroots activism and labor unions. Are there ways for A.I. to strengthen those things? Is there a way for A.I. to empower labor unions or worker-owned coöperatives?

前出記事より

◆資本主義の持つ「偏り」

…たしか別のインタビューでも答えていらっしゃいましたが、ユニバーサル・ベーシック・インカム（UBI）には基本的に賛成という立場だそうで、それに関しては同意見を持っているので共感するし、嬉しくも感じます。自分の場合はそう勉強しているからではなくて、個人の立場で直観的に「生きるために最低限必要なことが保障されていたら、お金のためにいやな仕事をしたり、それで体を壊したり、ブラック企業がのさばったりすることはなくなるだろうに。みんな本当に価値を感じることに従事できるだろうに」と思うからなんですが。そして単純に、理想的な未来ではそうなっているだろう、というイメージを子供の頃から持っていたからです。チャンさんがおっしゃっていることも、ほぼ近いことだと感じました。

ただ、ここからは自分には考えつかなかったこと。このUBIが、AI企業の側から推奨されるとき、その文脈が違うものになってしまうと。はしょって書きますと、このままAIの影響で大量解雇が続けば、政府が介入してUBIのような政策を取らざるを得なくなる。そこまで推し進めて事態を悪化させることを肯定する文脈になってしまうと。一次的に悪い状況になっても甘受せよ（なぜならそれはAI企業を富ませるから）、ということになってしまう。なるほど。

AIを提供する企業に道義的責任はある、というのがチャンさんの立場。たしか他の方でしたが、こういう大事なことを、選挙で選ばれたわけでもない企業が決めていいわけがない、という発言があったと思います。（どなたかド忘れしました。ごめんなさい(^^;)）個人的にChatGPTを試した印象では、そこまで影響があるほどのものには思えなかったんですが（これは機会があれば別のところで書きます）、AIの用途としてはこれは氷山の一角ですし、自分の想像が及ばない使い方がたくさんあって、根っこのところではすごく影響があるんでしょうね。でも、さっき自分が書いたような、介護などの分野でAIが人間の負担を減らすとか、ましてやヘルパーさんの仕事を奪うなんてことはありそうもない。 （これはむしろあってほしいくらい） 現状はやはり限られた分野での利用法しか検討されていないように見えますね。もっと言えば、社会の切実な必要性とは切り離されてる気がします。今はまだ。

AIは魔法のように問題を解決してくれる、と考える風潮は、ある強い願望の表れだ。それは、より良い世界を構築する際に必要な、骨の折れる仕事はしたくない、という願望だ。その骨の折れる仕事には、富の不均衡の問題に取り組むこと、資本主義を飼いならすことが含まれる。
（原文）The tendency to think of A.I. as a magical problem solver is indicative of a desire to avoid the hard work that building a better world requires. That hard work will involve things like addressing wealth inequality and taming capitalism.

前出記事より

この歪みというか偏りというか……これは素人目にもわかります。たとえば インターネットは、平たく言えば 「ユーザーにお金を使わせる」という方向への誘導に特化していますよね。最近すごく鼻につくようになりました。ユーザーがどういう検索をしたか、どういう閲覧をしたかで、「何を買いそうか」を予測して広告を見せる。そんなことができるなら、生活に困っていそうなユーザーや、精神的に追い詰められていそうなユーザーに、無料で利用できる行政の（あるいは「まともな」）セーフティーネット等へのアクセスを表示するとか、 「人を救う」方向に使うことだって、 技術的には可能なはずじゃないですか。

でもそういう方向には絶対開発されない。なぜなら、それは「ユーザーが企業にカネを払うサイクル」ではないから。「企業が」目指すものではないから。結局は企業のために動いてる。ユーザーに対しては、何かを消費するための「情報」なら、いやになるほど突きつけてきますよね。「これを買えば解決（かもしれない）です」と。でも、「ものやサービスを買う」という行為以外に選択肢があるということは見せてくれない。出てくるものの九割方は 、本質的に「広告」です。あるいはページビューを稼ぐために量産された、中身の薄い記事（使える情報は公式ページへのリンクだけだったりする）。これは本来必要なソースへのアクセスを攪乱しているだけ。 厳密な意味では「情報」ではないです。

そりゃー、意識して「セーフティーネットを調べよう」という本気を出せれば情報は得られます。でも行政のそういう情報って「こちらから」努力しないと得られないし、手続きも大変。精神力がいります。余裕がなくなっている人には難しいです。しかもその過程で、 インターネットは別の「商売の客」になることを繰り返し勧めてくる でしょう。そういうがっついたシステムが資本主義だと開き直っている。 まさにそこでAIが使われてるのだから、これは使い方が偏ってるとしか言いようがないです。チャンさんの提案のような、使い方の発想を逆転することを考えていいはず。というかその方向の運用を実現するべきですよね。企業の行動原理自体も変容しなくてはならない。世の中全体がそういう流れにあると信じたいです。

テクノロジーに携わる人々にとって、なによりも困難な仕事 — もっとも避けたいと思うタスク — は、「テクノロジーがより多く開発されることは常に望ましい」という前提や、「すべては自然にうまく収まるものだ。いつものやり方を続けてかまわない」という思い込みに対し、疑いを持つことだろう。もちろん、世界に対する不正行為に自分が加担している、などと考えるのは、誰にとっても楽しいことではない。だが、世界を揺るがすようなテクノロジーを開発する人々に絶対に必要なのは、自らに対して、こうした批判的な疑問を真剣に問うことだ。AIが導く先はより良い世界なのか、あるいはより悪い世界なのかは、その方向を決定づけるシステムの中で、彼らが自分の役割を直視する覚悟を持てるかどうかにかかっている。
原文）For technologists, the hardest work of all-the task that they most want to avoid-will be questioning the assumption that more technology is always better, and the belief that they can continue with business as usual and everything will simply work itself out. No one enjoys thinking about their complicity in the injustices of the world, but it is imperative that the people who are building world-shaking technologies engage in this kind of critical self-examination. It’s their willingness to look unflinchingly at their own role in the system that will determine whether A.I. leads to a better world or a worse one.

前出記事より

この方はSFというジャンルにとてもこだわりと愛着を持っておられますが、もともとそういう姿勢 — 決してSFの領域を「俺たちの聖域」として閉じるのではなく、もっと外に開かれたもの、そしてご本人もよくおっしゃっているように、人間の深淵な問題を考える思想の道具として捉えているんですね。作品以外での発信にも一貫してそれが表れていて、ライターとして信念があるんだなあとつくづく思います。

“The New Yorker”への寄稿が続いてますが、今回、前回共に「Annals of Artificial Intelligence (AI年代記)」というシリーズへの寄稿でした。複数のライターさんが記事を書いていますが、もしやレギュラーライターの一人になってるのかしらん？この雑誌のシステムを知らないのでどういう位置づけなのかはわかりませんが、以前にも寄稿なさっていますね。SF専門誌でなく”The New Yorker”だというところが、なんかこの方に合っている気がします。

フィクションの新作はもちろん読みたいですが、そちらは寡作でいらっしゃるし、無理に量産してほしいとは思いません。でも「文化人として」、意見の切り口がとても共感できて好きなので — 自力では言語化ができていないことを、明確に示してくれるので — その方面の発信をもっと読みたい！とつねづね思っていました。定期的にこういう寄稿を読めるなら嬉しい限り。（しかもタダで。チャンさんの記事が上がった時しか読んでないので、どうも無料お試し読み枠で読めていたみたいです。リンクをポチって他の記事を閲覧しようとしたら、「無料枠を使い切りました。これ以上はサブスクしてね♥」みたいな表示が出ました。先月も出ていたけれど今回のは読めたので、月一本枠なのかな？）

個人的には、こうしたご寄稿を辞書を引き引き読むことで、（門外漢分野の）時事用語の英訳語がわかったり、部分的な拙訳を添えることが翻訳仕事の日常訓練になったりで、非常にオベンキョにもなっております。（しかもオベンキョ感ゼロのミーハー感マックスで（笑））そして一人では考えないようなところまで思考を引っ張ってくれて、いろんな意味で「閉塞感から解放される感覚」があります。ありがたい。これからも続けてくださいますように。

Originally published at https://sussanrap.xyz/old-wing/tc/tc1.html.