AIってどこまで信じられるのか？

最近のスマートフォンやPCはAIが目玉機能になっているのは皆さんもご存じのことだと思います。
「AIに聞けば答えを得られる」というのは楽なことですね。
しかしその答えが正しいかどうかはまた別の問題のようです。

AIが正しくない答えを返すという記事がありました。

「Apple Intelligence版Siri」は従来のSiriよりも間違った回答を大量に提示してくるという実験結果|au Webポータル

これによると、siriの頃は決定的な返答を避けて、関連URLを出すことで、ユーザーが正しい答えを得るサポートをしていたに対し、Apple Intelligenceはダイレクトに答えを出すもののその正解率は低いという状況のようです。
これは決してApple Intelligenceだけが悪いとは思いません。

例えばBraveブラウザには「Leo AI」という機能があります。
これである質問をしたところ、まったく正しい答えを得ることが出来ませんでした。
それは「アトラスのメタファーについて」です。

メタファー……？

全然違います。

また別の質問。
「真・女神転生Ⅴってどんなシナリオ？」

メガテンⅤ……？

こちらも全然あっていません！
発売日も違います！

これらの結果から、AIの回答にエビデンスが無いのが問題ではないかと感じました。
「URL～～によると、●●と書かれている通り、□□です」のようなエビデンス併記型の回答ならば、ユーザーもそちらのURLをみて正誤を判断できるのですが。