【読書】AIに駆逐されなくても、怖い社会がやってくるかも～『AIは人類を駆逐するのか？ 自律(オートノミー)世界の到来』(太田裕朗)～
見出し画像に使わせて頂いたロボット君と違い、ちょっと怖いAIさんが表紙の本です。
↑kindle版
表紙はちょっと怖いし、途中までは結構脅すようなことが書かれているのですが、太田さんはAIがもたらす未来には、「人が何もしなくても、対価を払わなくても、高度な自律システムや自律ロボットの力で、必要なものが手に入る時代が到来する可能性があります」など、おおむね楽観的なようです。
ただしもちろん、ぼんやり待っていれば理想の社会がやってくるわけではありません。
制約を持ちながらもある種の自律性を身につけ始めたAIは、記憶と計算に異常に秀でた極めて特殊な頭脳であり、人類が初めて出会う「知的生物」です。この新たに誕生した「知的生物」との関係を構築するためには、どのような生き物であって欲しいかという私たちがつくり上げる指針と、それに基づいた教育が必要です。
AIを使いこなすために私たちが何をどう教えるか、教えないかという検討が、重要になってくるのです。
そう、AIに支配される社会にしないためには、人類が主導権をもってAIに教育しないといけないわけですね。そのためには
私たちはどういう社会をつくるのか、どう生きていくのか――この問いへの解答を私たち自身が導き出さなければ、教えることはできないのです。
しかも、ゆっくりその解答を導きだしている時間はないかもしれません。
これまでの原子力利用や遺伝子操作の実態を見れば、人間の知恵や倫理、哲学は、新たな技術開発へと向かう人間の情熱や欲求に常に立ち後れてきたように思います。技術の革新性や新奇性に引きずられ、私たちは相応の”覚悟”を持たないまま、ずるずると「最先端技術」にのめり込んできたといえるのではないでしょうか。
まず大事なのは、AIの開発にあたっての基本姿勢を決めること。
マサチューセッツ工科大学教授で著名な宇宙物理学者であるアメリカのマックス・テグマークは、(中略)「完全に理解可能で信頼できるAI」をつくることを提唱しています。答えを導く道筋が分かれば、答えが間違ったとき、それを修正する作戦を立てやすくなるからでしょう。
もしそこをいい加減にしてしまうと、
「人が言ったとおりにならない」という可能性を持った世界であり「人が道具に支配されるかもしれない世界」
になってしまいます。
ただ、そうなることを回避したとしても、太田さんが考える未来は、はたして理想的なのかと、首を傾げてしまいます。
何時にどこへ行くか、スケジュールが明示され、それにふさわしい移動手段が用意され、確実に運んでくれます。何を着るか、誰に連絡するか、空き時間をどのように使うか、どこで何を食べるか、すべてについてリコメンデーションがあります。たまにはそれに逆らっても、ロボットはすぐに学習し、次はそれを織り込んで提案してくる。
こんな未来がやってきたら、人類は退化するんじゃないでしょうか。
思い出したのは、新井素子の『あたしの中の……』に収録されている、「大きな壁の中と外」です。舞台となっているのは、必要なものは何でも、たしか無料で手に入る理想社会ですが、主人公たちはそこからはみだしていくんですよね。
何だかAIが暴走したとしても人類の管理下にちゃんと置けたとしても、あまり未来は明るくない気がしてきてしまいました。
ホモ族の分化を振り返ると、わずか数万年でも大きな変化がみられることから、とくに大脳の環境適応は早い可能性があります。そのため、一気に退化したり、別の形態に進化することも考えられます。
AIと共存する形での進化、あるいは退化が待っているということでしょうか。何しろ、AIの思考過程がブラックボックス化することだけは、避けたいものです。
最後に、驚いたこと。
決められた盤上のゲームで、人間がコンピューターに勝てないということは、すでに誰もが知るところとなっており、もはや対戦の興味も薄れています。実際AlphaGo(注：囲碁のコンピューターシステム)もポナンザ(注：将棋のコンピューターシステム)も引退し、人間との勝負はしていません。
公共空間を利用する人の体温を次々と自動測定する技術も、元はミサイル誘導のために弾頭に取り付けるセンサーの技術でした。
↑新書版
記事の内容が、お役に立てれば幸いです。頂いたサポートは、記事を書くための書籍の購入代や映画のチケット代などの軍資金として、ありがたく使わせていただきます。