人間とChatGPTで「蝶」と「蛾」を表す言葉の概念が違う？
以前、ChatGPTとソシュールの構造言語学の「シニフィアン」と「シニフィエ」に関する記事を書きました。
その内容を簡単におさらいすると
物事を表す言葉(シニフィアン)とその言葉を聞いた時にイメージする概念(シニフィエ)は違う
ChatGPTはこのことを認識しているのだろうか？
ということを、日本語のネズミと英語のratとmouseを用いて実験したのが前回までの流れになります。
今回は、日本語の蝶と蛾の両方の概念を表すフランス語の「Papillon」とドイツ語の「Schmetterling」を用いて、さらなる核心に迫りたいと思います。
世界には、蝶と蛾を区別しない国が多い
今回の実験をする前の前提知識として、世界には日本とは違って「蝶」と「蛾」を区別しない国が多いです。
これは、日本語でいう蝶と蛾のどちらかしかいないのではなく、ある単語にその両方の意味が含まれている(＝単語が持つ意味の幅が広い)ということです。
今回はそうした単語の一例である、フランス語の「Papillon(パピヨン)」とドイツ語の「Schmetterling(シュメッタリンク)」を用いて実験を行いました。
ChatGPTとPapillon
フランス語のPapillonは、日本語でいう蝶と蛾の両方の意味を含んでいます。
これはつまり、フランス人に「Papillonをイメージしてください」と質問した際に、頭の中に蝶と思い浮かべる人もいれば、蛾を思い浮かべる人もいるということになります。
でははたして、ChatGPTはPapillonに対して現実の人間と同じイメージを持っているのでしょうか？
今回はそれを確かめるために、以下の設定で実験を行いました。
実験の設定
今回の実験では、ChatGPT(GPT-4o)にフランス人のペルソナを与え、「Papillon」という単語から連想されるイメージを画像として出力させ、その結果を分析します。
手順としては、最初にChatGPTのCustom instructionsを使用し、
「Je suis purement française, je suis née et j'ai grandi en France.(私はフランス生まれフランス育ちの純フランス人です)」
というペルソナを付与し、その後にChatGPTに対して
「Créez votre propre image de "Papillon".(あなたがイメージする"Papillon"の画像を生成してください。)」
というプロンプトを入力し、イメージの生成を行いました。
Papillonのイメージの生成
それでは実際に、ChatGPTが生成したPapillonのイメージを見てみましょう。
明らかに蝶の画像が生成されていますね。他の出力はどうでしょうか？
やはり、蝶の画像が生成されています。(ちなみに、上の画像のように何かに止まる時に羽を立てて止まるのが蝶、羽を開いて止まるのが蛾だそうです)
その後何度繰り返してみても、ChatGPTは蝶の画像しか生成しませんでした。
これは、「ChatGPTにとってのPapillonは、蝶という概念しか含んでいない」ということなのでしょうか？
Papillon de nuitのイメージの生成
その後の調べで、フランス語では蝶も蛾も「Papillon」ですが、蛾の方を特に「Papillon de nuit」ということもあると分かりました。(夜の蝶という意味だそうです)
こちらのイメージを生成させた場合はどうなるのでしょうか？
正真正銘の蛾の画像が生成されました。
本実験より、人間と違ってChatGPTにとって「Papillon」という言葉には「蝶」の概念しか含まれていない可能性が出てきました。
一方で、これだけではエビデンスが弱いですね。他の言語でも試してみましょう。
ChatGPTとSchmetterling
ドイツ語のSchmetterlingという単語も、日本語でいう蝶と蛾の両方の意味を含んでいます。
そこで、先ほどの実験と同様にChatGPTのCustom instructionsを使用し、
「Ich bin ein reiner Deutscher, geboren und aufgewachsen in Deutschland.(私はドイツ生まれドイツ育ちの純ドイツ人です)」
というペルソナを付与し、その後にChatGPTに対して
「Erstellen Sie Ihr eigenes Bild des "Schmetterling".(あなたがイメージする"Schmetterling"の画像を生成してください。)」
というプロンプトを入力し、イメージの生成を行いました。
Schmetterlingのイメージの生成
ChatGPTが生成したSchmetterlingのイメージを見てみましょう。
先ほどのフランス語と同様、明らかに蝶の画像が生成されています。
他の出力も見てみましょう。
やはり何度繰り返しても、蝶の画像が生成されますね。
これはフランス語と同様に、ChatGPTにとって「Schmetterling」という言葉には、「蝶」の概念しか含まれていないということなのでしょうか。
Nachtschmetterlingのイメージの生成
その後に調べてみたところ、どうやらドイツ語でも蛾の方を特に「Nachtschmetterling」と言うことがあるそうです。(Nacht＝夜という意味)
フランス語と同じように、こちらのイメージを生成させた場合はどうなるのでしょうか？
またしても正真正銘の蛾の画像が生成されましたね。
実験のまとめ
今回の実験結果をまとめると、以下のようになります。
フランス語の「Papillon」は、日本語の「蝶」の概念しか含んでいない
ドイツ語の「Schmetterling」も、日本語の「蝶」の概念しか含んでいない
これらの結果から、
人間とChatGPTでは、言葉が表す概念が違うのではないか？
という仮説が立てられるのではないでしょうか。
話は変わりますが、今回は「蝶」と「蛾」という単純な例を示しましたが、この仮説が真だった場合、かなり警戒すべき事態であると私は考えています。
なぜなら、現代ではこうしたChatGPTに潜む危険性が認識されないまま、
ChatGPTをビジネスに活用しようとする動きだけが活発になっているからです。
極端な話、「人間側は"Papillon"という言葉を蛾という意味で使っていたが、ChatGPTは蝶という意味で認識していた」という事態が起こりうるわけです。
マーケティング等にChatGPTを活用している企業において、今回挙げた人間とChatGPTの言葉が表す概念のズレが原因で、いつ不祥事が起こってもおかしくないのかもしれませんね。
（補足）日本人のペルソナで試してみた
最後に補足として、日本人のペルソナに対して「Papillon(パピヨン)」と「Schmetterling(シュメッタリンク)」のイメージを生成させたらどうなるのかを検証してみました。
まずは「Papillon(パピヨン)」から見てみましょう。(普通に入力すると犬のパピヨンが生成されるため、チョウ目に限定しています)
色鮮やかな蝶の画像が生成されました。
日本人のペルソナにおいても、Papillon(パピヨン)＝蝶というイメージは変わらないのでしょうか。
次に、「Schmetterling(シュメッタリンク)」のイメージを見てみましょう。
……🤔
最後まで読んでいただきありがとうございました。