【AIによる予測】予測マシンの世紀#23 AIと人間の分業⑥ いよいよ人間の出番
こんにちは。シンラボ共同代表の草場です。
AIとの共同に関して、『予測マシンの世紀 AIが駆動する新たな経済』をまとめていきます。推理小説のようで、ドキドキワクワクです。
目次
はじめに―機械知能
安さはすべてを変化させる
第１部 予測
第３章 魔法の予測マシン
第４章 「知能」と呼ばれるわけ
第５章 データは新しい石油
第６章 分業の新たな形
第２部 意思決定（決断を解明する；判断の価値 ほか）
第３部 ツール（ワークフローを分解する；決断を分解する ほか）
第４部 戦略（経営層にとってのＡＩ；ＡＩがあなたのビジネスを変容させるとき ほか）
第５部 社会（ＡＩと人類の未来）
我々は如何に予測マシンと共同できるのか？前回は記事はこちら。
それでは続きを見ていきます。
■分業の新たな形
昨日は、予測に関するマシンの不得意分野、未知の既知、を見ていきました。逆の因果関係を学んでしまい、あたかも正解であるかのような間違った予測を起こしてしまいます。
では、普段のビジネスシーンではどうでしょうか？逆の因果関係の学習の問題は、ビジネスにおいても頻繁に登場します。価格と売上の関係で、この逆の因果関係が見られます。ホテルの例が記載されています。
多くの業界では、価格の安さは売上の低さと関連している。
例えば、ホテル業界では、観光シーズンで需要が最も高く、ホテルが満室になると価格が高くなる。このようなデータがあれば、価格を上げれば、より多くの部屋が売れることを示唆するような素朴な予測ができるかもしれない。
価格の高さとホテルの需要に正の相関関係があるので、ホテルの価格を上げれば部屋が多く売れるのだと思ってしまうわけです。
少なくとも経済学の訓練を受けた人間であれば、価格の変化は需要の高さによって引き起こされる可能性が高く、その逆ではないことを理解するだろう。つまり、価格を上げても売上が上がる可能性は低い。
では、こういった問題にはどのように対応できるでしょうか？人間とマシンの協力です。
人間はマシンと協力して、適切なデータ（例えば、価格に基づくホテルの部屋の個人レベルの選択など）と適切なモデル（季節性やその他の需要と供給の要因を考慮したもの）を特定し、異なる価格での売上をより良く予測することができる。
このように、マシンにとっては未知の既知であるが、価格がどのように決定されるかを理解している人間にとっては既知の未知であるか、あるいは人間が価格決定を適切にモデル化できれば既知の既知であるとみなすことができる。
人間とマシンが協力することにより、「未知の既知」が予測可能な「既知の未知」と「既知の既知」となります。
人間とマシンの協力に深入りする前に、もう少し未知の既知に関する考察が続きます。結構悩ましい問題なので、Googleの例が用いられています。
Googleの検索結果のアルゴリズムは、誰かがどのリンクをクリックする可能性が高いかを予測する予測マシンによって決定される。ウェブサイト管理者にとって、ランキングが上がればウェブサイトへの訪問者が増え、売上が上がることを意味する。ウェブサイト管理者はこれを認識し、検索エンジン最適化を実行する：彼らはGoogleの検索結果でのランキングを向上させようとするために自分のウェブサイトを適応させる。
いわゆるSEO対策ですね。これは悲劇的な方向に進みます。
時間が経つにつれ、検索エンジンは、検索者が本当に望んでいたものではなく、ウェブサイトの管理者がアルゴリズムの奇妙な部分をゲーム化した結果である、スパムで満たされるようになる。
著者が記載している通り、予測マシンは、「人々が何をクリックするかを予測」するという点で、短期的では有用です。しかし、長期で見ると、ウェブサイト管理者がシステムをゲーム化するため、再度Googleが予測モデルを変更する必要が出てきます。まさに、未知の既知、の領域です。
そこで、人間とマシンの協力です。
検索エンジンと検索エンジンスパマーとの間で行き違いが生じるのは、予測マシンがゲーム化できるからだ。Googleは、予測マシンに全面的に依存することの弱点を認識しており、このようなスパムに直面した場合には、人間の判断でマシンを再最適化している。
Googleのアルゴリズム変更に関しては以下に詳しいです。
まとめると以下の形になります。
より一般的に言えば、人間がこのような問題を特定したら、それはもう未知の問題ではなく、良い予測を生み出すための解決策を見つけて、人間とマシンが協力しなければならない既知の問題になるか、解決策を見つけられず既知の未知の問題になるかのどちらだ。
マシン予測は強力ですが、限界があることがわかりました。
よく訓練された人間であれば、稀な状況や因果推論の問題など、これらの限界を認識し、マシン予測を改善することができます。そのためには、人間がマシンを理解する必要があります。
いよいよ、人間とマシンの協力を明日。
草場壽一
https://sinlab.future-tech-association.org/