生成AIは使い方を間違えると、ボリューミィなゴミが出るという話。

こんにちは、ハヤカワ五味です。

先日、適当にポストしたら思ったより伸びてたのと、noteのネタを探していたので今日はこの件について書いていきます。

残念だが、現状の生成AIに関しては利用者のスキル以上のものを出せることはほぼ無くて、スキルが低い人が生成AIを利用するとすごい大量のレベル低いものが爆誕するだけでそれ以上にはならないのだ…。

※例えば特定ドメインについての文章を書く場合、書き手側の知識以上のクオリティにはならない。

— ハヤカワ五味 (@hayakawagomi) October 29, 2024

これ、平たく言ってしまえば、生成AIって私たちを10倍にも100倍にもエンパワメントしてくれる存在だと思うのですが、0に何を掛け算したところで0って感じですねえ。

ただ、これだけだと「でも、生成AIは私ができない◯◯や◯◯ができます！スキル以上のことができないわけではないです！」みたいなコメントがつくので、もう少し具体的に説明するのであれば、望んでいる最終形態がない、もしくは見えていない場合はそれを実行することが難しいということです。

例えばですが、私はコーディングができませんが生成AIのツールを活用することで簡易的なゲームや自動化の仕組みを作ることが可能です。これは確かに、いわゆるスキルだけで見たら「コーディングはできない」のですが、「最終的に作りたいものが見えている」状態ではあります。なので、これは生成AIでエンパワメントすることで実現が可能になりえるということです。

逆にAIを活用したところでできないことでいうと、例えば、全く知らない言語の文章作成とか。それこそ先ほどのポストのリプライ欄で私が話していたのは「どれだけ良いプロンプトであろうが、サンスクリット語のアウトプットだったら(評価)無理じゃね？」という話です。

もう少し具体的な話で言えば、自分が詳しくない分野の記事作成とかもそうですね。
例えば、コミケについて全く知らないし興味がない人が、コミケ参加方法についての記事を書こうとする時、どういう情報を載せたら有意義なのかもわかりませんし、アウトプットの真偽を評価することもできません。こういう場合に生成AIを使うとなると、ボリューミィなゴミが出力されるだけで使い物にならないと思います。

そして、私の観測範囲では「この文章はAIっぽい！私はわかる！」「AIっぽくクオリティが低いからやめろ！」みたいな議論になっているときは、大体ボリューミィなゴミについて議論されていることが多いです。そして、仮にそのアウトプットを出した人に対して「AIをやめろ」と言ってやめさせたところで、次は手作りの控えめなゴミが出てくるだけでゴミであることには変わらないと思います。

つまり私が言いたいのは、多くの場合「内容が薄く、ピントが合っておらず、無意味なアウトプット」について「AIっぽい、AIやめろ！」という意見が飛びますが、この際の本当に必要な言葉は「AIをやめろ」ではなく「もう少し学べ」であり「AIにエンパワーされてアウトプットのボリュームが増えたところで、落第点だぞ」ということが重要なんだと思います。

(ちなみに、元々自分が”できなかった”分野だと、”できる”ことが嬉しくてボリューミィなゴミに感動しちゃうことってあると思います。例えば、イラストが描けない人が画像生成でイラストを出せるようになると、イラストを出せるということ自体が嬉しくて多用したり、長文が書けない人であれば長文を多用したりなりがちだと思うのですが、プライベートではなく仕事でそれをやるとそこそこ嫌われるのでやめましょう！)

話を戻して、では、生成AI活用に必要なのは何なのでしょうか？
今後どんどん生成AIが進歩していくので、あくまで今時点での話ですが、私は以下のように考えています。