趣味の読書003_あなたを支配し、社会を破壊する、AI・ビッグデータの罠（キャシー・オニール）と測りすぎ（ジェリー・Z・ミュラー）
同じテーマを似たような感じで斬っている本を、2冊連チャンで読んだので、2つ一緒に読書感想文を書いてみよう。前者（以下、Math Destruction）は元の"Weapon of Math Destruction"という名前のほうがカッコいい。日本語訳では「数学破壊兵器」という直訳になっていて、"Mass"のニュアンスが落ちているのが、ちょっと残念。
両方とも主にアメリカの、データ計測が社会にもたらした歪みを、具体例を交えつつ描いている。Math Destructionのほうが若干古い本だが、引用されている事例も含め、かなり重複がある。具体的には、教育、就業、医療、戦争等だが、前者では信用市場や婚活、民主主義への扱いまで描いており、最終的にSNS社会への警鐘も鳴らすようなまとめ方をしている。言い換えると、やや感情的な言い振りと感じられる部分もある。筆者はデータアナリストである。
他方「測りすぎ」の筆者は歴史学者で、よりシンプルで、事例も簡潔になっており、端的にページ数も少ない。正直、どっちか読むなら「測りすぎ」だけで良い気もする。
とはいえいずれも、データの不用意な使用や、計測手法の歪みや偏見、さらに政策、ビジネスへの応用を糾弾したものである（「測りすぎ」では、能力給の勃興と没落の歴史が、ごくコンパクトに纏められている）。いずれも、計測されるデータを墨守し、より良い数字を出すことを目的化してしまい、結果的に先達的な行為に耽って本来の目標を見失ってしまったというものだ。現代日本においても十分参考になる本だろう。
あなたを支配し、社会を破壊する、AI・ビッグデータの罠
Mass Destructionで心に残ったメッセージの一つは、悪いデータ計測やその活用を端的に表す言葉で、「不透明、規模拡大、有害」というものだ。データ計測の内容が不透明で、規模が拡大する傾向があることが、Mass Destructionの重要な特徴ということだ（「有害」というのはほぼ意味ない言葉な感じがする）。不透明はともかく、規模拡大というのは、見逃しがちだが重要な特徴だと思う。小規模なら、データ分析は本質的な問題を起こさない。なぜなら、小規模というのは、データ以外で直接見れる機会がある程度担保されている、ということだからだ。ただ、データ利用の規模が拡大していくと、データ以外で見れることがなくなっていく。計測されたデータ、定量化された数字の羅列だけでしか、その人を判断することができなくなり、そこから見られることだけが真実になる。
このワードでは出てこないが、もう一つ本書で指摘している重要な事項は、邪悪なデータ計測には、「フィードバックがない」ということだ。何らかの基準を設け、それに外れてしまった場合、その者は「外れた」という属性しか与えられず、そこから蘇るための手続きが整備されていないということだ。外れた者が、本来計測したかった基準に照らしてどうなったのか、それをフォローアップしない限り、計測の本当の意義は計測できない。
また、他に興味深かったのが、（アメリカの事情だが、）SNSデータによる選挙分析≒スイング・ステートの投票権がより重視される、という指摘だ。もう一つ、心に残った指摘がある。100%そのとおりだと思う。未来を創造するのはデータではなく、人間の創造性である。データにできるのは、過去をコピーすることだけである。
ビッグデータは過去を成分化する。ビッグデータから未来は生まれない。
ただ厄介なのが、本書でも言及されているが、良い計測と悪い計測の区分をつけにくいということだ。正直、本書が啓蒙的になろうとしているのは非常によく分かるのだが、だからこそ良し悪しの区分が曖昧なのが気になってしまう。特にSNS分析のところは、データ分析批判というよりは単にメディア批判になってしまっている感がある。
測りすぎ
測り過ぎの方は、そこまで啓蒙的な感はないが、それでもより実践的に重要な指摘がなされている。前者であまり明確でなかった、データ計測が有用になるパターンについての指摘だ。
両方の本で、データ分析の利活用の悪例として挙げられている医療分野で、それでも成功事例として挙げられている病院はある。「測りすぎ」では、その理由として組織文化を挙げている。医療に携わるチームが（外部の経営者や投資家ではなく）、自分たちの医療の質を上げるために検証されたデータの定量化であり、チームはより高次元の、病院として、医療の専門家としての目標を共有していた。データ分析は、これらの目標をより効率的に達成し改善するための道具であった。「Math Destruction」での記述に敢えて沿うなら、このデータ活用は、小規模なものであったといえる。本書では、以下のように整理されている。
つまり、いわゆる品質管理よりも、クリニックの組織的文化が測定基準を活用するその方法に起因するところのほうが大きいのだ。
測定実績のシステムが機能するのは、測定される対象の人々が測定の価値を信じている場合のみだということを忘れてはならない。
この点は、もう少し大局的な視点でも触れられている。
本書で懸念しているのは、人間の成功と失敗を定量化する類の測定だ。
…測定は判断の代わりにはならない。測定は、判断を要するものだ。測定するべきかどうか、何を測定するのか、どうやって測定するのか。測定されている対象の重要性を評価し、成果に報酬や罰則を紐づけるべきかどうか、測定結果を誰に公表するべきかという判断を要するのだ。
ほか、データ計測の問題点として、「math Destruction」になかった指摘は、データ計測のコストである。単に多くの人が、計測のためのデータ収集に汲々としてしまう、というだけでなく、そもそもデータ計測コストが、データ計測のメリットから正しく割り引かれていない、という指摘だ。物理学の大きさのない点、厚みのない板みたいな感じがする。
（羅列しないけど、測定基準を用いる際のチェックリストも非常に参考になる。）
結局のところ、データに依存することで、人間の責任のあり方が変わってしまう、というところが最大の問題なのだろう。実際のところ、ビジネスのアニマルスピリットや政治改革――社会構造の変革に向けた行動とその判断について、過去のデータは教えてくれないし、支えてくれないし、なんの責任も取ってくれないのだ。
この記事が気に入ったらサポートをしてみませんか？