ChatGPT の未来は？開発中断を訴える声も。

OpenAIが開発した大規模言語モデルの一つである「GPT-3.5」に基づくチャットボット「ChatGPT」が登場し、日々世間を賑わせていますね。

特に、有料プランの「GPT-4」の精度は目を見張るものがあり、様々な仕事、業界に影響を与えかねないと感じます。

そんな中、一つのニュースが私の関心を惹きました。

「対話式AI」 開発中断求め署名活動開始 日本の研究者も賛同 | NHK

こちらは NHK WEB のニュース記事です。

「対話式AI」 開発中断求め署名活動という、思ってる以上の大ごとになりそうな記事でした。先のリンクからも読めますが、本 note にも要約を載せておきます。

対話式AIの開発競争がコントロールできない状況を懸念し、少なくとも半年間の開発中断を求めるオンライン署名活動が始まりました。日本の研究者も賛同し、国内での議論が必要だと指摘しています。アメリカの非営利団体「フューチャー・オブ・ライフ・インスティチュート」が書簡を公表し、高度なAIの出現で人類が文明を制御できなくなるおそれがあると主張。リスクを管理できる確信がある場合のみ開発すべきだと訴えています。署名活動にはイーロン・マスク氏やスティーブ・ウォズニアック氏も参加し、1300人以上が署名。政府介入が必要だとの声もあります。東京大学大学院工学系研究科の中村仁彦上席研究員は、対話式AIの利用が加速度的に進む中、倫理的指針や活用方法を考えるために一呼吸置くべきだと話しています。中村氏は、専門家が中心となり議論を進めるべきだと主張しています。

ChatGPT（GPT-4）による要約

今はまだ、「便利なツール」としてしか広まっていないような印象で、危機感を抱いているのは一部のユーザだけのように思います。（あくまで個人の感想です）

しかし、GPT-3.5 から GPT-4 への精度向上とその期間を考えると、飛躍的に今後の AI の進化が進むのは間違いないでしょう。

人間と歩調を合わせながら進むべきなのか、科学の発展を止めるべきではないのか。

結論はないかもしれませんが、今まさに利用している方々も、一考してみてはいかがでしょう。