チャットGPTは、本当に文章をチェックしてくれてるのか? そこにも「ウソ」が混ぜられるw
画像生成AIで、タヌキの絵がぜんぜんうまく描かせることができない足立明穂ですw
さて、チャットGPTの活用方法で、次のような話、よく聞きませんか?
「チャットGPTで、書いた文章をチェックしてもらうと、よくなるよ」
「広告等で規約違反していないかのチェックもしてくれる」
「読みやすい文章にしてくれるから、ビジネス文章とかで使うべき」
これ、本当でしょうか?w
チャットGPTは、めちゃくちゃ面白いツールだし、寝る間もないほど、使い倒しています。
ですが、どこまでいっても、意味など分かっていない『文字列生成ツール』です。
今回は、『「文章を修正した」というウソも作り出す』ということをお伝えしましょうw
絵本のネタつくりを手伝ってもらう
とあるオンラインセミナーで、チャットGPTを使って絵本を1時間で作れるかというのをやりました。
解説も入れつつなので、実質使える時間は、半分以下。でも、なんとか物語を作り、それに使う絵も出力させました。
また、キンドルで出版するための原稿フォーマットの話まで。
AIの話を越えてキンドル出版のことまで説明していたので、実質20分程度で作ったことになりますw
少し長いですが、そこで作られた物語は、こんな内容です。
ざっくりとは、こんなのでもいいですが、まだまだ、荒削りで、納得いかない点がいろいろありますw
例えば、
この文脈、変ですよね?
『僕たちが手伝ってあげるよ』→公園やその周辺にユーカリがないか探す
というのが自然な流れ。
なぜ、お弁当を分けるのか?
しかも、クーくんは、『僕はユーカリの葉しか食べられない』って言っているにもかかわらず、お弁当を分けるって、なんか、嫌味っぽくない?www
子どもの残酷さ、知らないからこその他人を平気で傷つけるということの教訓なら、それもアリですけどね(^^;
とまあ、細かな点で『納得いかねー!』ってのがあります。
チャットGPTに何度も指示出しして、修正していく共同執筆作業!
1時間では、仕上げられないので、セミナーが終わってから完成度を上げるために、チャットGPTに、おかしな点を指示して、何度も書き直させました。
さらに、こちらも手作業で修正しつつ、何度もやりとりしました。
例えば
ユーカリの葉を探しても東京では見つからない。だから、クーくんのために、みんなでユーカリを植えて育てるという話にしてください。
これに対して、下記のような文言が追加されました(ぜんぜん、物語じゃないけどw)
物語にならないので、先の物語の途中から文章を付け加え、続きを書かせました。
タイトル: 『クーくんは、ユーカリの葉しか食べられません』 東京の秋葉原公園に住む男の子のコアラ、クーくんは、お腹が空いていました。しかし、周りにはユーカリの木がなく、おいしく食べるものが見つからず困っています。いつも、しかたないので、八百屋さんで食べられそうな葉っぱを買ってきています。 クーくんは、元気のない様子で秋葉原公園を歩き回っていると、たくさんの子供たちが楽しく遊んでいる様子を目撃します。彼らは元気いっぱいで飛び跳ねていて、おいしそうなお弁当を食べています。 クーくんは、お腹がすいていることを子供たちに話しました。すると、やさしい子供たちは、お弁当を分けてくれました。クーくんは感謝の気持ちでいっぱいなのだけど、本当はユーカリの葉しか食べられないことを打ち明けました。 子供たちもそれを理解し、クーくんのためにユーカリの葉を探す冒険に出発しました。彼らは公園や周辺の木々を探し回りますが、ユーカリの木を見つけることができません。 そんな中、公園の管理人のおじいさんが現れました。おじいさんはクーくんの悩みを聞き、手助けをしようと言います。おじいさんは東京にユーカリの木がないことを知っており、ユーカリの木を育ててみたらどうかと提案します。
これに対して、チャットGPTは次のように続けました。
面白くないので、別の登場人物を追加しますw
おじいさんは、クーくんと子供たちにユーカリの苗木を配り、一緒に公園に植えることにしました。クーくんと子供たちはユーカリの木を大切に育てるために、水や肥料を与えたり、日光を浴びせたりしました。 時間が経つにつれて、小さな苗は成長し、立派なユーカリの木になりました。クーくんは感動し、喜びいっぱいでユーカリの葉を食べることができるようになりました。 そして、公園はユーカリの香りに包まれ、とてもすてきな場所になりました。秋葉原公園の近くには、動物園があり、そこの飼育員さんもユーカリの香りがするので、公園に来ていました。そこで、コアラのクーくんに出会います。
これに対してチャットGPTは・・・
とまあ、こんなやりとりをして、半分チャットGPT、半分人間が書いた原稿が出来上がってきます。
最後は、やはり人間の手で細かな修正を入れていく
何度もやりとりして、共同執筆(?)した後に、1800文字ぐらいになりました。
ここからは、非常に細かな「てにをは」レベルの修正をやっていきます。
ただ、微妙な表現、例えば、『クーくんは』なのか、『クーくんが』なのかといった、すごく細かいところは、好みでもあり、正解がありません。
このレベルになると、人間がやるしかないのですよね。
1時間ほどかけて、細かな修正を入れていきます。
この作業が、一番重要であって、人間だからこそできる部分であり、個性が出るところであり、面白い内容になるかどうかが決まる点です(神は細部に宿ると言われるようなことです)。
例えば、チャットGPTの出力では
これでも意味は通じます。状況は分かります。
ただ、私は、これだと、クーくんの困っている様子が伝わりにくいと感じました。なので、
東京の公園に住む男の子のコアラ、クーくんは、いつもお腹が空いていました。それもそのはず。周りにはユーカリの木がなく、おいしく食べられるものが見つからず困っています。しかたないので、八百屋さんで食べられそうな葉っぱを買っています。
と、書き換えました。ユーカリがないのに、どうやって、クーくんは飢えをしのいでいるのだろう?とか疑問も出てくるので、その辺の解決策(?)も追加しました。
この書き方だと、もう少し、クーくんの困っている状況に共感できませんか?(って、変わらないよ!って思う人もいるでしょうけどね ^^;)
このような手直しをやるので、1時間ほどかかります。
で、ここからが、本題!(え? 今までのは前振りだったの?wwww)
チャットGPT、修正したフリをする!
文章の修正点とか改善点とかを見つけるのに、チャットGPTは役立つって言う人達がいます。
否定するわけではないですが、確かにそういう点もあります。
ですが、注意しないといけないのは、意味や文脈など何も分かっていない文字列生成器であるチャットGPTであるということ!
ここでも、シレっとウソをつきます。
今回、こんなことが起きました。
先の私が1時間かけて修正した1800文字ほどの物語をチェックしてもらいました。
下記のように書き換えました。何か修正などアドバイスはありますか?
====
タイトル: 『クーくんは、ユーカリの葉しか食べられません』
(以下、長いので略)
どこを書き換えたか、比較表で教えてください。
比較してみましょう
私の書いたオリジナル
クーくんは興奮冷めやらぬ様子で飼育員さんに尋ねます。「僕も他のコアラたちに会いに行けるんですか?」
チャットGPTが修正したと言い張る文章
クーくんは興奮冷めやらぬ様子で飼育員さんに尋ねます。「僕も他のコアラたちに会いに行けるんですか?」
どこが修正してるねん!! まったく同じ文章やないかーーーい!!
で、テキストエディタを使って、私の文章と、チャットGPTが修正したと言い張る文章を比較しました。
以下、左が私のオリジナルで、右がチャットGPTです。
『それも、そのはず。』 → 『それもそのはず。』
『こんにちは! 君は』→『こんにちは!君は』
空行が2つ → 空行を1つに
『わかった! ぼく、』→『わかった!ぼく、』
『少し寂しくもあるクーくん』→『少し寂しさもあるクーくん』
この最後の『寂しく』が『寂しさ』になってるのですが、私のオリジナルの『寂しくもある』の方が共感できませんか?
疲れた・・・・・orz
所詮、分かっている人しか使えないチャットGPT
どうでしょうか? チャットGPTに文章のチェックをしてもらうといっても、この程度です。
逆に、チェック内容を確認する『手間』が増えました。
今回は、本当に修正してるのは、空白を抜いたり、空行を外したりで、『少し寂しくもある』が『少し寂しさもある』になっただけ。
そして、どこを修正したかと確認しても、違う箇所を提示します(この時点で、『比較する』なんていう機能もないことがはっきりしますよね? 何度も書きますが、文字列生成器であって、意味も文脈も、指示すらも理解していません)。
出力結果を読み直して、何がどう変わったのか、本当によくなっているのかなどを、分かっている人がチェックしないと、本当に危ないことになります。
なので、『便利ーーー!』って、楽をする方向に行ってしまうと、チェックするという作業そのものが面倒くさくなっていって、AIの出力結果を鵜呑みにしてしまいます。
つまり、人間がAIを使っているのではなく、AIの出力結果に左右される人間になってしまう・・・
こういうところが、本当の意味での、『AIによる支配』なのでしょうね・・・。
P.S.
いくつかの企業が、AIによる文章チェックとか、契約書のチェックを自動化とか言ってます。最初から人が読み返すよりは、効率はよくなることは確か。ですが、どこかでシレっとウソが混ざるので、絶対に過信してはいけません。
この記事が気に入ったらサポートをしてみませんか?