2⃣IT業界は知っておきたい、AIの社会的影響力～聞いたら誰かに伝えたくなる～

こんにちは。のんのんです。

本日は、IT業界に参入するのなら、知っておくとより視野が広まる”AIの社会的影響”についてお話しできればと思います。AIやチャットGPTの開発が進み、様々な組織や個人、企業で導入を進める一方で、AIが起こしてしまった”新たなる社会問題”をも引き起こしています。今回は、アメリカや中国で起きた”アルゴリズム”が引き起こした事件を例に、人々の社会形態と関連させて説明していこうと思います。

＊本文章は、大学内で提出したレポートをもとに作成しています。文章の語尾や構成についても、レポートチックになっていますがご了承ください😊

　

はじめに

これから、AIの活用が生む社会的な問題と官僚制の関連について述べる。はじめに、官僚制とは何かを述べ、その後にAIがもたらしている社会的な課題の具体的な事例について例示をした後に、官僚制とどのような関係性があるかを述べ、本問題を終わることとする。

現代の組織形態は”官僚制”が元となっている？

官僚制の図

　はじめに、官僚制とは何かを述べる。
官僚制とは、ある組織や、国家の政府機関が運営されるときに、部署間での階層構造や、厳格な規則、手続きによって管理されたり、合理的な規則や秩序によって所属する組織の目標を、効率的に果たそうとする管理運営の形態のことである。この体制の特徴は主に5つある。１つ目は、「文書主義」であることだ。組織の中での業務や決定は、文書として記録される。これは、将来的に決定事項や履歴を確認できるようにするためである。透明性と説明責任が強化される特性がある。2つ目に、「部署間の階層構造」である。組織の中で、明確な階層に分かれている。例えば、上位の管理者が解の職員を監督するなどがあげられる。各役職は互いに明確な権利と責任を持っている。3つ目に「非人格性」があるということである。業務内の目標達成において、個人個人の感情や人間関係は取扱いに依拠せず、帰属や手続きに従って処理される。4つ目に、「公私の明確な分離」があげられる。マックス・ウェーバーによると、官僚制の職員は職務において、客観的にかつ合理的に行動することが求められ、私的な利害関係や感情を排除することで、組織の全体の効率性と公正性が維持されるとされている。最後に5つ目に、「試験に基づいた選抜」である。人が組織に入る際、決められたテストや面接など、「客観的な指標によって採点されるテスト」によって合否が決まる。合格者はその組織によって選抜されたとされ、組織の一員となる。このように、官僚制は5つの特徴をもって、組織を効率的に運営する制度である。

AIが生む”社会的課題”は【不当評価】である。

キャシー・オニール　久保尚子訳「あなたを支配し、社会を破壊する、AI・ビッグデータの罠」

　では次に、ＡＩがもたらしている社会的な課題の具体的な事例ついて述べる。
　AIモデルが一般的に生み出す社会問題として、「AIを作成する作成者の価値観や優先順位が反映されることによる悪循環のフィードバックと結果が生まれ、最終的に蓄積されたアルゴリズムが人間のパフォーマンスを評価してしまうことにより、不当な評価を受けてしまう現象が起こる」ということがあげられる。

例として、ワシントンDCで起こった、教師評価ツール「ＩＭＰＡＣＴ」での事例を挙げる。ワシントンＤＣでは、2009年～2010年の間で、評価スコアが学区内の下位２％に入る教師を全員解雇した。また、翌年では、下位５％にあたる206名の教師が解雇された。しかし、その教師の中には、子どもたちに対する細かな配慮等が評価され、生徒や保護者から「優秀」と評判だった教師も混在していた。その教師は、クレイムを行ったが、その評価システム内のアルゴリズムの過程は説明されず、予定された人生を大きく変えてしまった。このシステムは、結局システム内で表示された「不合格」が正当化されるため、フィードバックによる調整は起きることなく拡散されていったという。
　このような、評価ツールともいえる数学破壊兵器には、アルゴリズムの説明を果たすことのできない「不透明さ」と、高度な情報処理ができるため取り入られてしまうことが容易なことから生じる「規模拡散性」、それから、外れ値によって生まれる不当な結果の3つの特徴があげられる。教師評価ツールのほかにも多くの社会問題を生んでいることが分かる。

　最後に、先ほど述べた「官僚制」と「ＡＩモデルが生みだす社会問題」の関係性について述べる。わたしは、これらの関係性について、「官僚制」が「AIモデルが生み出す社会問題」の土台にある考え方だと思う。要は、【抽象】と【具体】の関係性である。なぜなら、後者の「AIモデルが生み出す社会問題」は、前者の「制度」という特徴づけられた、一般化された概念に応じているからだ。具体的に、関連付けられている点が5つある。1つ目に、これらの存在する「意義」である。官僚制と、「AIモデルが生み出す社会問題」は共に、「特定の目的を達成すること」を目的としている。2つ目に、「非人格性」である。共に、「個人」の感情や関係性は判断せずに、評価、実行される。3つ目に「試験に基づいた選抜」である。「社会問題」では、客観的な指標に基づいて、今までの結果をもとに評価を行った。官僚制と同様だといえる。4つ目に「階層構造」である。AIモデルの作成者の価値観や、優先順位によって、AIモデルの判断は左右される。これは、作成者がAIモデルを監督する。互いに権限と責任を持っている。最後に自律性の崩壊である。両者とも、「手段」や「規律」、「規則」を厳守するため、各個人の自律性が失われる。

まとめ

　このように5つの点から、この両者には【抽象】と【具体】の関係性があるといえる。しかし、同時に「AIモデルの社会問題」を解決する中で必要となっていくのが「文書主義」である。今回取り上げた事例では、「AIモデル」を修正することはなかったし、不当解雇を受けた市民に対して、その結果を生みだしたアルゴリズムを説明することはなかった。どのような過程で算出されたのかを明らかにするために、全ての過程を「文書」として残すのが適切だと思う。フィードバックをもとに、繰り返し自己調整していくことが必要である。以上で、本問題を終える。