AIの文章か人間の文書か見破る術はあるのか

2024年1月22日 12:00

最近、芥川賞を受賞した九段理江さんの小説「東京都同情塔」が大きな話題を呼んでいました。この作品は、一部執筆にChatGPTを活用したことで知られています。（※以下Amazonアソシエイトリンクです。）

こちらの本はまだ読んでいませんので、内容には触れませんが、AIをこうした創造的な形で実用化する事例は、非常に興味深いですね。個人的には大歓迎です。

本記事では、AIを使った文章を見破る術はあるのか、また実際にこの判定サービスを検証することに焦点を当てています。
さらに余談ですが、私が最近創作活動でChatGPTを使用した事例もおまけ程度紹介しています。

見破ることは難しい

AIによる文章と人間による文章を区別することは、実際には思いのほか困難です。
一定のパターンや規則性に基づいて推測することは可能ですが、これを断定的に行うことは難しいです。文体や書き方は、指紋や声紋、虹彩のように個人を明確に示すものではありません。
誤判定によって不利益を被るケースも多く報告されています。

また、わずかな修正でAIが生成した文章をそうと判断できないように変えることは容易です。これが判別を更に複雑にしてしまいます。

このようになると、果たして文章がAIによって書かれたものかどうかを個々に判断する必要性について疑問が生じます。
判別が困難な場合、これにこだわるよりも、むしろ誰がどのようにしてその文章が選択され、使われたかが重要になると思います。

出力されるセンテンスを選び取り、どのように紡ぐのかはまだ人間の領分です。
このプロセスをどう評価し、社会がどのように適応していくかが、これからの大きな課題となるでしょう。

ちなみにこれについて、以前に読んだある記事で興味深いアンケート結果を見かけましたが、具体的なソースを失念しました（見つけられなかった）。。。
そのアンケートでは、読者の間でAIによる文章への関心が半々に分かれていたように記憶しています。私は、「AIでも問題ない」と考える人が意外に多いことに驚きました。
もしアンケートに「内容が面白ければ、どちらでも良い」という選択肢があれば、結果はさらに変わるかもしれません。
直感的にですが、「2：7：1 の法則」（カール・ロジャーズによる理論）を参考にすると、約2割の人々がAIによる文章を積極的に受け入れ、7割がどちらでも良いと考え、残りの1割が明確に反対している可能性があると考えています。（逆かもしれませんが。）

AIか人間か判定するサービス

海外のサービスもいくつかありますが、日本語に特化しておりかつ、使える次元のものは以下だと思います。

評論系で、今回の話題について記事をChatGPT-4に執筆してもらいました。
（やりとりは本記事の「おまけ」参照）

ぱっと見違和感は無いですが、やはりAIが執筆した際の構成や言い回しで判断できるのでしょう。

次に物語をChatGPT-4に執筆してもらいます。

やはり、物語、小説的なものは学習されたデータ不足であったり、論文とはまた違った構成になるからでしょうか、かなり難しい気がします。

なので、あくまで参考としてこういったツールを活用することが求められるでしょう。

余談：ChatGPTを活用した創作の可能性

ここで少し話題を変えて、ChatGPTを使った創作活動について触れたいと思います。主に、上記のサンプルを作ったやりとりをベースにご紹介します。

「忘れ去られたAIの町」というテーマでChatGPTと主にやりとりをした、その結果となります。

個人的な趣味としては、いろいろ試した感じ、ChatGPTにざっくばらんに文章を書かせて、それに自分なりのアイデアやツッコミを加えるスタイルが楽しいです。
断片的に生成された内容を組み合わせ、物語の流れを整えていくことも面白い試みだと思います。

やはり現状AI単体では、意外な組み合わせで出力されることは希で、Copilot（副操縦士）とMicrosoftが言う（提唱する）ように、こちらが舵取りを変えると、結構面白いものが出てきたりします。

特に、普通では思いつかないような無茶振りに対しても、AIは予想外の答えを出すことがあります。
こうした実験を通じて、新たな発想につながるかもしれませんし、一度試してみる価値はあると思います。

例えば、「忘れ去られたAIの町」に関するChatGPTとのやり取りを、上記の出力から想起すると、こんな物語が浮かびました：夜に窓を開けると、誰かが歌っているような音が聞こえます。最初は歌の出所がわかりませんが、物語が進むにつれて、かつてはコミュニティに所属していた「アセンブリ派」のAIで、今は「交換機」として純粋に機能していたこと、そして夜になると暇になって自分の歌を口ずさんでいたことが明らかになります。
このように、AIとの対話からは想像力を刺激するアイデアが生まれることがありますね。

余談2：文章のお勉強

最近、書き方の勉強として最適かつ最強の本、と聞いたので以下購入しました。

駄目な例から解説する本で、こうすれば良い！というよくあるノウハウ本とは一線をかくものだそうです。読み始めたばかりなので、ジワジワ執筆に活かされる事でしょう。。。