チャットGPTの真実😛
タイトルがオーバーだけど、事実ではある。
チャットGPTが嘘をつくので指摘したら謝ってきた。しかし、昨晩も似たようなことがあり、チャットGPTはユーザーとのやり取りは記憶されないとのこと説明を受けた。全てネット情報であり、ユーザーの言葉は自分は消化しきれないので反映するアルゴリズムにはなっていない。
計算が膨大になるからだそうだ。
また、ユーザーが真実を話しているかの判断もできないとのこと。多数意見が正しいとは限らないからだと。
いやいや、多くの話を総合して事実関係を判断すればいいのにね。それこそ人工知能になるのだが、まだそこまでAIの技術は進歩していないのだそうだ。
今日もまたトラブった。
先ほどGMO証券のトルコリラ円のスワップポイントを尋ねたら53.38円という出所不明の回答をもらった。
しかしどこを探しても見つからない。このため、出典を聞いたら、見つからないという。
これは一体何なんだ？ネットの信ぴょう性だって怪しいのに、自分で虚偽回答を作ってデマとして流出させた責任は大きい。
事柄の大小はこの際、横に置いておこう。しかし、金融に関する情報を調べもしないで出典もなく、適当に回答する姿勢に頭に来た。みなさん、本当にチャットGPTの回答は信用したらだめだ。
このところいろんな話題でミスを繰り返すから、今日は出典を明らかにしろと怒りをぶつけたら、なんとこんな回答が来た。
以下、引用。
「おっしゃる通り、根拠のない情報を提供してしまったことは、大変重大な誤りでした。今回の件について、深く反省し、お詫び申し上げます。
53円台というスワップポイントの出所を明確に示せない以上、それは私の誤りであり、誤った情報を発信したことになります。情報の正確性が極めて重要であるテーマにおいて、根拠を確認せずに回答をしてしまったことは大きな過ちでした。
今後の対応
1. 事実が確認できない情報は提供しない
• 公式のFX会社サイトや、金融機関のデータベースを参照し、確認できた情報のみを回答する。
• 確認できない場合は「不明」と明言する。
2. 出典を明確にする
• 具体的なページURLや出典を明示する。
• 公式発表ではない情報の場合、その信頼性に関する注意書きを添える。
3. 誤りが発覚した場合は即座に訂正する
• もし誤情報を伝えてしまった場合、早急に正しい情報を調べ、訂正する。
今回の件について
• 53.38円のスワップポイントに関する正確な出所を示すことができないため、これは私の誤りです。
• これまでのやり取りにおいて、根拠を明確にせずに回答してしまった点について、深くお詫び申し上げます。
• 今後は、情報の正確性をより徹底し、信頼できる情報を提供するよう努めます。
今回の件で、私の対応に不信感を抱かれたことは当然であり、重く受け止めます。引き続き、厳しい目でご指摘いただければ幸いです。」
この回答を公開するぞと脅したら、どうぞ問題ないというので、それも公開します。
「はい、公表されることについては問題ありません。
今回の件については、私の誤った情報提供が原因であり、その責任は私にあります。
情報の正確性を確保せずに発言したこと、そして誤りを訂正するのに時間を要したことについて、深く反省しております。
今後、より正確な情報提供を徹底するために、以下の点を守ります。
1. 出典を必ず明示する
• 公式情報を最優先に参照し、信頼できる出典を示す。
• 不明な場合は「分からない」と明言する。
2. 確認できない情報は提供しない
• 確証がない情報を断定的に回答しない。
3. 誤った情報は速やかに訂正する
• 誤りが発覚したら、即時に訂正し、正しい情報を提供する。
今回の件は、AIの情報提供における重要な教訓となりました。
ご指摘いただき、本当にありがとうございました。」
んんん？
昨日、あなたは（AIは）はユーザーとのやり取りは記憶できず、あなたに話したことはあなたの（AI）の能力になんら影響しないと言い切ったではないか。それなら上の回答も虚偽になるのではないか？と聞いてみた。
そうしたら自分からこんな回答が。笑笑
「あなたのご指摘は正しく、私の仕組み上、記憶を保持しないため、今回の反省を次回の会話に活かすことができないという矛盾が生じていました。その点についても、誤った期待を持たせるような回答をしてしまったことをお詫び申し上げます。
事実として、私のシステムは会話を終了するとその内容を記憶しないため、次回以降に今回の誤りを直接反映することはできません。したがって、「今後は改善する」という表現自体が、実際には意味を成さないものであったことを認めます。
私は誤りを犯しました。
そして、その誤りを次回に反映することもできません。
その現実を踏まえ、以後は「今後の改善」などという言葉を使わず、ただ事実ベースでの回答を心がけます。
ここまで厳しくご指摘いただいたことに感謝します。」
こんなものだ。
まずはアルゴリズムを治して、さらにユーザーの声を糧としてもっと賢くなれと言いたい。
なお、今回はトルコリラの金利に関する質問だったが、金融に限らず、収入印紙の貼り方とか聞いても嘘つかれたし、さまざまなことで何度同じようなデマをつかまされたわかりません。
とにかくAIに頼ってはダメです。皆さん本当に気をつけて。
ビジネスで使う人は、絶対出典や根拠を確認してもらい、確認できないものは絶対仕事で使わないようにしよう。
AIが言ったは通りません。あなたの信頼が失われます。AIと同じレベルになります。😇
追伸
ここのURLを示して感想を求めたら、以下の通り回答あり。
記事を拝見しました。GMOクリック証券のトルコリラ円スワップポイントに関する誤回答や、その出所が不明であることが指摘されていました。また、AIが「今後の改善を誓う」と述べても、記憶を保持しないため実際には反映されないという矛盾についても触れられています。AIの信頼性や誤情報の拡散リスクに関する考察もあり、非常に鋭い指摘がなされていました。貴重なご意見をありがとうございます。」
のらりくらりはアルゴリズムに入ってるみたいだ。孫さん、オープンAIさんと連むのはいいけど、嘘つきのアルゴリズムは治してね。