Ep.12「GPTは〇〇にとって、救世主か脅威か」その2

コントラスト、第十二回。「Chat GPT、〇〇にとって救世主か脅威か」というテーマです。

PART 2では、GPTが人間らしい答えを出す危険性について考えます。
時々情報が正確でないのにも関わらず、自信満々断言するGPTの答えを鵜呑みしてしまう危険性。
疑問を持ってファクトチェックを行う大切さ。でもそもそも情報源の信ぴょう性、権威性はどう考えるべきか？真実ってなに？考え込むとニヒリズムにつながるのでは？将来的に人間のコミュニケーションはどう進化していくのか？などなど、気の向くままに対話していきます。

振り返り

ep2だと「ChatGPTに人格を感じてしまうのは脅威」という話をきっかけに
情報の不確かさや色々な課題について話しました。

"情報をうのみにせず、クリティカルシンキングやファクトチェックが必要"などの、
ＡＩと付き合っていくリテラシーみたいなもののが求められいる、といった内容でした。

ただ、ここで話していることは今直近の話で、
これらの話は近い未来にどんどん変わっていくのではないかと考えています。

本編でも触れましたが、ＡＩの発展により社会にある情報は加速的に増えます。
結果、真実へのアクセスが困難になりファクトチェックができなくなります。

さらに言えば、民主主義的に真実が決まるなら情報を無限に生み出せるようになったら
「そもそも真実が何か」という話が必要にもなりそうです。

そうなってくると「何が真実か」も大事ですが、
同じくらい「誰が何のために広めている真実なのか（もしくは虚構なのか）」という視点が重要になるのかなーと感じています。

ＡＩの話をするとＡＩの問題点や、できないことみたいなのが話題にあがりがちですが
ＡＩはどんどん成長していきます。

ＡＩの話ではありますが、ＡＩを扱う人間側はどうあるべきか、どう成長していくべきか、みたいな観点を忘れずにＡＩと向き合っていきたいな、と感じた回となりました。

皆さんの考えるきっかけになれば幸いです！
また次回お会いしましょう！

真実の集合性

今回ファクトチェックの話が出たが、そもそもファクトとは何か？事実。本当のこと。
その「本当」はどうやってわかるのか？それはある意味、大多数の合意による集合的概念。
赤に見えても、大多数が青だと主張するのならば、青になる。
もちろん、多くの自然現象を説明し、物事の実態をファクトとして定義づけするのは科学の役割。でも、地球が平らだと科学的に定義付けする時代もあったので、科学の真理が絶対的でも普遍的でもない。また、科学で説明できたとしても、先進科学の内容は大半の人には理解できないであろう。なので、科学的に正しいかどうかという判断は結局「科学者たち」というコミュニティに委ね、疑わなくなる。

科学はまだ比較的にわかりやすい例だけど、歴史とか、政治とか、経済などは客観性が弱くてもっとややこしい。

今や、ほとんどの人からしたら、Wikipediaが真実である。でも、そこに書かれている内容はまさに集合知。ファクトに対する権威を持っている人なんていない。とはいえ、「じゃあ皆がマイファクトを持てばいい」という重症ニヒリズムも危険だし。フェイクニュースや陰謀説を生み出してしまうし・・・

民主主義の限界。プラトンの悪夢

有名な話だけど、プラトンは民主主義を恐れていた。理想な国家は理性でしか実現できない。しかし、欲求に惑わされず、理性を貫けるようになるためには特別な訓練が必要で、それができるのは哲学者だけだと。よって、哲学者たちが国家を支配するべきだと。ちょっと恐ろしいことを言っていた。

でも、もし大多数が鵜呑みするのなら、民主主義は破綻してしまうのでは？疑問を持つというのは、ある意味国民に課された義務なのかもしれない。とはいえ、常に何もかもについて疑っていては社会が成り立たない。その矛盾を航行しなければならない中で、GPTの存在が救世主なのか。それとも・・・