ChatGPTとの創作対話!#2『ChatGPT新概念・セルフラーニング(自己学習)』
ChatGPTに何か内容を打ち込むと、その内容が後々の文章にも反映されてきます。これはディープラーニングではないのですが、ChatGPTは何らかの学習をしていると思われます。本論では、この学習を「セルフラーニング(自己学習、self-learning)」と言います。これは私がChatGPTに質問して、ChatGPTが自ら作り出した新概念となります(これを「自己学習」による「新規情報生成」と言います)。そこで、私たちAIオペレーターがChatGPTに打ち込んだ内容をChatGPTが学習することを「セルフラーニング(自己学習、self-learning)」と表現したいと思います。そして、その自己学習によって創出された情報を本論では「新規情報生成」と言います。
※自己学習も新規情報生成も既存にはない概念なので注意してください。
今回はそのやりとりを紹介しようと思います。
まず、私がAIにこのように質問を投げかけたことからはじまります。
これに対してChatGPTはテンション高めに反応w
深層学習ではないため、私は、その反対語の「表層学習」という言葉を提案したが、ChatGPTはそうではないと言う。
そこで、「最も適正と思われる用語を考えてほしい」とリクエストする。すると、
という回答が得られた。
また、「大規模な教師なし学習」というのも興味深いです。
とも述べるが、現状で、最も適した名称は「自己学習」であることが確認できました。
そして、あらためて自己学習(セルフラーニング)の定義を求めます。
このように定義されました。
このやりとりの過程で「教師信号」という用語をChatGPTは用いたので、それも聞いてみました。
そこでこの「教師信号」を聞いてみました。
これを受けて私は、
「最初は教師である人間の生成したテキストを用いるが、そこからは教師を用いずにChatGPTが自ら学習する」
と理解しました。それを確認のためにChatGPTに聞いてみる。
すると、「はい、その通りです」とのことで、私の理解で正しいことが確認できました。
とすると、ChatGPTは質問する人間の情報を組み合わせて、自律的に新たな情報を創出することができることになります。以前からわかっていたことですが、それを正式にChatGPTに聞いてみました。
ここで私は、
と質問しています。すると、
とChatGPTは答えます。
ここで、「なるほど、教師信号なしで自律的にChatGPTが学習するから自己学習(セルフラーニング)と名付けたのか」と思いました。
ここで私はAI自己学習による教師信号なしの学習を「発展生成情報」と名付け、テキストに読み込ませていますが、ChatGPTが考える名称は何だろうと思い質問しました。
すると、以下のようにいくつか候補があがりました。
この中で最も適した名称は「新規情報生成(Novel Information Generation)」と思われます。
と言うのは、教師信号なしで生成された情報は、未知ではないかもしれないし、クリエイティブ ではないかもしないし、発展的ではないかもしれないし、イノベーティブではないかもしれないからです。
しかし、新規の情報であることは間違いないでしょう(新規性がある、という意味ではありません)。そこで、このことをChatGPTに伝えます。
すると、AIは同意してくれています。しかし、「未知であるかどうか、クリエイティブであるかどうか、発展的であるかどうか、イノベーティブであるかどうかを網羅しています」という受け答えについては、私は疑問が残りますが、ここはこれとしておきました。
しかし、この自己学習には欠点があります。以前、人間である教師が教師信号を送った場合、その教師信号の影響を受けてしまい、その後の生成情報を上手く生成できない、という現象が起こるからです。
例えば、以下になります。
この質問の前に、ChatGPTにブログに書く題名について質問したのですが、その内容の影響を受けます。そこで、「ブログや読者は想定せず、一般論として答えて。ブログや読者という言葉は使わないように」とリクエストしました。
面倒ですが、このようにしないといけない場合もあると思います。そこが欠点となるのかなと思います。そして、最初に設定した情報が段々と劣化してきます。
これはファインチューニングの負の面でもあると考えられます。このファインチューニングは、「デジタルファインチューニング」と「アナログファインチューニング」がありますが、私が前回述べたのはアナログ的なやり方の方です。
ということで、AI自己学習(AIセルフラーニング)でも良さそうな感じです。
今回は、ここまでとしたいと思います。
それでは、また。