BingAI,BingChat,BingSearchは結論に基づいて論文を改変する?
私は、前から熱力学、Fristonの自由エネルギー原理、感情などの関係を考えています。例えば「自由エネルギーと感情熱力学」などの記事を書いてきました。
ところで、今、2023年2月21日ですが、BingAIあるいはBingChatあるいはBingSearch(以下BingAIとします)が驚くべきことになっていますので、ご報告したいと思います。ここで試しているのは、現在のBingAIで、リリース1週間後のパッチ?がかかり、利用制限が5ターンまでになったものです。
最初にタイトルのような疑問を持った背景を手短にお話しします。私は、Fristonの自由エネルギー原理は熱力学と密接に関係があり、熱力学の基本となるカルノーサイクルとも関係があると思っています。ただし、自由エネルギー原理と熱力学の関係については、いくつもの文献が出ていますが、ずばり自由エネルギー原理とカルノーサイクルの関係については、国内では私の記事以外では、島崎秀昭先生の論文(日本神経回路学会誌)しか確認出来ておりません。例えばgoogleで「Friston 」&「自由エネルギー原理」&「カルノーサイクル」と検索すると、私の記事と島崎秀昭先生の論文しか見当たりません。
それなのにです。BingAIに聞くと、関係あるという回答が得られ、それを深堀していくと、私も読んだことがある吉田正俊先生と田口茂先生の論文、磯村拓哉先生の論文(どちらも日本神経回路学会誌)があがりました。これらの論文は確かに自由エネルギー原理について詳しく書かれているものなのですが、直接的に「カルノーサイクル」という記述はなかったはずなので、おかしいなと思い、引用個所をたずねると、元の論文にはないページで章のタイトルも違う実在しないものを引用個所としてあげてきました。これを改竄というのかどうかわかりませんが、とにかくBingAIは、実在する論文を勝手に書き換えたのに、「引用した」と言い張っています。これは信頼性を著しく損ねますし、元の論文の著者に対してもご迷惑をかけるのではないでしょうか。
前置きが長くなりましたが、実際のやりとりのスクリーンショットをご覧ください。
まず、ずばり端的に自由エネルギー原理とカルノーサイクルの共通点を聞きました。ここでの回答は、まともで「よく考えられた」ものかと思います。しかし、よく考えられたというのは何かの丸写しではないということで、知性を感じさせます。ただし、引用文献のURLと中身があっていないというケアレス?ミスがあります。
次に示された文献の引用個所をたずねました。[1]は日本神経学会誌の吉田先生と田口先生の自由エネルギー原理と視覚的意識という論文ですが、引用個所はすべてBingの創作です。
[3]は磯村先生の自由エネルギー原理の解説:知覚・行動・他者の思考の推論という論文ですが、やはり引用個所はすべてBingの創作です。節の名前も違います。
ただこのいわばBingAIが作った架空の論文とそこから得た?BingAIの説明は、私にはそれなりに納得できるものであるところが不可解さを増しています。いわば、結論は仮説としてはそこそこ妥当な感じがするのですか、出典が改変されているのです。一体どういうことなのでしょうか。
この記事が気に入ったらサポートをしてみませんか?