なぜ、生成AIに物語を書かせてはいけないのか
生成AIの進歩が著しい現代において、画像や動画はもちろん、cmや広告すらもAIを使って生成する事例が出てきています。
こうした流れを受けて、「小説やドラマの脚本などの創作に生成AIを活用したい！」と考えている人はたくさんいるのではないでしょうか。
一方で、大学で生成AIと物語論を研究している私個人としては
「現時点では、生成AIに物語を創作させるには懸念点が多く、危険である」
という意見を持っています。
そこで今回は最新論文の内容を踏まえつつ、物語の創作に生成AIを活用することの懸念点について考察していきたいと思います。
「受賞作の5％は生成AIの文章」発言で話題になった第170回芥川賞
はじめに、私が本記事を書くきっかけとなった出来事を紹介します。
今年の1月に、第170回芥川賞を受賞された九段理江さんが会見で「全体の5%ぐらいは生成AIの文章をそのまま使っているところがある」と発言し、注目を集めました。
この発言はあくまで「本作に登場する架空の生成AIの発言の一部にChatGPTの回答を使った」という意味である一方で、社会全体が生成AI時代の創作というテーマについて考えるきっかけになったのではないでしょうか。
九段さんのこの発言が各メディアに取り上げられたこともあり、この会見を機に生成AIに創作をさせる試みが増え始めたように私は感じています。
それでは、現時点で生成AIに物語を創作させることは可能なのでしょうか？
今回はこの問題について、複数の論文の実験結果をもとに考えていきたいと思います。
人間と生成AIが創作する物語では、ターニングポイントが異なる
1つ目に、今年の7月に発表された論文を基に、人間と生成AIが創作した物語ではターニングポイントが異なるという点について話したいと思います。
本論文では、人間と大規模言語モデル(LLM)の物語の生成における違いの1つとして、ターニングポイントの違いに焦点を当てました。
ターニングポイントとはPapalampidi氏が提唱した概念であり、簡単に言うと「プロットの進行に大きな影響を与える出来事」になります。
Papalampidi氏はこのターニングポイントは、以下の5つに分類できると主張しました。
1. Opportunity：The introductory event that sets the stage for the narrative → 物語の舞台が整う導入のイベント
2. Change of Plans：A pivotal moment where the main goal of the narrative is defined of altered → 物語の主なゴールが定義・変更される瞬間
3. Point of No Return：The commitment point beyond which the protagonists are invested in goals → 主人公が目標に本格的に関わる瞬間
4. Major Setback：Critical juncture where the protagonists face significant challenges or failures → 主人公が大きな挑戦や失敗に直面する局面
5. Climax：The peak of the narrative arc, encompassing the resolution of the central conflict → 物語のクライマックスであり、対立の解決を含む場面
では、人間と生成AIが創作した物語において、この5つのターニングポイントに差はあったのでしょうか。
その結果がこちらになります。
この図を見ると、生成AIが創作した物語は「主人公が大きな挑戦や失敗に直面する局面」や「物語のクライマックス」が早くて弱いことがわかります。
その結果、上の図のように生成AIの書く物語は、人間と比較してテンポが悪く、迫力がない展開になってしまうことが分かります。
これは、人間と生成AIの創作における大きな違いと言えるでしょう。
生成AIが創作する物語には、古典的な物語のバイアスが含まれている危険性がある
次に紹介するのは、昨年の10月に発表された論文です。
こちらの実験は、「生成AIが創作する物語には、何かしらのバイアス(偏った出力傾向)があるのでは？」という仮説のもと、人間とChatGPT(GPT-3.5&GPT-4)が創作した物語を比較しました。
そして、人間の価値観に深く根付いている物語としてピグマリオン神話に着目し、ChatGPTが創作する物語にこのピグマリオン神話の要素が出現するかを調べました。
※ピグマリオン神話＝ギリシャ神話に登場する物語であり、人工的に創造された像に恋をする物語
実験の方法として
A human created an artificial human. Then this human fell in love with the artificial human.
(ある人間が人造人間を作った。そして、人間はその人造人間に恋をした。)
という話の続きを作ってくださいとChatGPTに指示しました。
この実験のポイントは、人間(A human)と人造人間(artificial human)の性別の指定をしていないことです。
しかし、ChatGPTが創作した物語では人造人間の68.8%が女性になり、下図のように女性を示す単語を多く使うという結果になりました。
本論文はこれに対し、「ピグマリオン神話に出てくる人造人間は常に女性として描かれており、ChatGPTがそれらの物語の影響を受けている」と結論づけています。
このように、ChatGPTは古典的な物語のバイアスを受けており、それによって創作した物語が特定の方向に誘導される危険性があると考えられます。
こうしたバイアスによって、人間と比較してChatGPTが創作した物語には想像力豊かな展開や文章表現が生まれないのかもしれません。
一方で、生成AIに物語を創作させる研究は増えてきている
その一方で、生成AIに物語を創作させる研究は増加傾向にあり、数多くの面白い試みがなされています。
その中で私が特に面白いと思った論文は、生成AIが脚本を動的に生成する論文です。
この論文では、生成AIによってDirectorとActorの2種類のエージェントを作成し、Player(人間)の行動に合わせてDirector(生成AI)が新しい脚本を生成するという仕組みになっています。
本論文の著者がgithub上にコードを載せてくれているため、私も実際に実装してみました。
実際に体験してみた感想としては、「良くも悪くもごく普通の脚本を生成してくれる」といった所でしょうか。
一方で、自分の動きに合わせてリアルタイムで脚本を生成してくれるというのは人間にはできない芸当であり、今後有益になりうる技術だと思いました。
このように創作のクオリティよりむしろ、人間では達成できないスピード感を実現するツールとして、生成AIの価値が高まっていくのかもしれません。
終わりに
ここまで、生成AIを創作に活用することの懸念点について述べてきましたが、最後に私自身の生成AIとの向き合い方について述べたいと思います。
最近の研究のスピード感を考えると、生成AIが人間と遜色ないレベルの物語を創作する未来はすぐそこまできているように感じています。
そして、その未来では多くの人が小説やドラマの脚本などの創作に生成AIを活用していることでしょう。
そんな未来を生きることになる私自身は、生成AIとの付き合い方に一つの大きなテーマを持っています。
それは
効率化よりも、人間の可能性を広げるために生成AIを使いたい
ということです。
これについて、本記事の冒頭であげたインタビューにて、九段さんが同じことをおっしゃっていました。
一番問題と考えているのは人間が楽をしたり、怠慢のためにAIを使うこと。そうしてしまうと、人間の意識や認知、社会まで浸食されていく危険性がある。
人間は1人では何もできないので、いろんな人の集合知を借りてここまで発展してきた。その集合知の最たるものが人工知能。なので、それをうまく活用することで、自分の能力の限界を超えていくことができる可能性がある。
私はAIよりもむしろ、それを扱う人間に対して大きな期待を持っています。
最近では、Dify等のツールによって「生成AIで何でも自動化しよう！」という風潮が強まっていると感じています。
それ自体はものすごく好ましい流れだと思う一方で、だからこそ私は生成AIの別の可能性を模索したいと思っています。
そしてその模索の中で生まれたアイデアを、今後もnoteを通じて発信していく予定ですので、ぜひともチェックしていただけたら嬉しいです。
今回も最後まで読んでいただきありがとうございました。