AI依存でミスが増幅した話

AIに依存し過ぎたら、ミスが増幅して取り戻すのがちょっと大変だったって話。

書いた文章を直したり、自分で書くほどでもないと思う文章を書くのにChatGPT様を活用させていただいたいるんだけど、、、、

CahtGPT様に書いて頂いた文章がちょっと物足りなかったので、内容を追加していただけないかとお願いしてみたわけです。

もともとの文章をコピペして、ここの部分をこんな感じで内容を追加してください、とお願いすると、こちらのお願いどおりにChatGPT様は追加修正をしてくださるわけです。

その時に、私がミスをしちゃったんです。コピペする部分を間違えてしまったんです。

つまり、内容を追加修正してほしい部分を間違えて指示を出してしまったんです。

これが、相手が人間の方であれば、「これ、間違ってますよね」と一言おっしゃっていただけるんじゃないかと思います。

でも、やはり0と1の情報処理のみで稼働しているChatGPT様は私がやっている作業の流れなんかは理解してくださりません。その前の流れからずっと一緒に作業に伴走して頂いているはずなんですが、私の指示したとおりに結果を出力してくださいます。

それで、私もその時には自分のミスに気が付かずに、そのまま作業を進めてしまったんです。

そうしたら、いよいよ完成するという段になって、何か流れがおかしい、ってことに気が付きました。

よくよく全体を確認してみると、私が追加修正をお願いした部分が間違えていたんです。結局そこまで戻ってやり直しです。

時間と手間を返してくれ！って叫びたくても、自分でやってしまったことだから仕方がありません。時間は無駄になりますが、自分で戻って作業をやり直すしかありません。

5,000文字書いた文章を、保存ボタンを押すのを忘れて全消ししてしまったときもあります。その時のショックと比べたら、作業量は大したことがありません。今回はChatGPT様が付いているんですから。

でも、やっぱりニンゲンのような振る舞いをするからといって、ChatGPT様を信頼しすぎるのもどうかな、と、この出来事で思いました。

いくらChatGPT様が持っている知識が膨大で、作業のスピードが早いからといっても、作業の主体はこちらニンゲン側です。ニンゲン側の指示の方向性が間違えていたら、結果的に辿り着く場所は当初の目論見から大幅にずれた地点になりかねません。

細かい確認と修正はニンゲン側が常に気を張って行う必要があります。

私がやっているのは大した作業じゃありません。でも、これが役所や会社の問い合わせBotででも起きたら、どうなるのでしょうか？

社内FAQやお客様向けの「よくある質問」で間違えた答えを出力されて、間違えをニンゲン側が認識できずに信じてしまったら、、、、

AIは活用するものだけれども、依存するものではないし、完璧でもない、作業や思考の主体はニンゲン側。それを忘れないことが大切。AIの便利さと、活用する上での怖さってのもやはり感じたちょっとした出来事でした。