AIの幻想：ChatGPTが生むハルシネーションとその落とし穴
はじめに
ChatGPTを活用している方は、ハルシネーション（人工知能（AI）が事実に基づかない情報を生成する現象）をご存知でしょうか。この現象では、まるで幻覚を見ているかのようにもっともらしい嘘をつくことがあります。この場合、生成された文章を注意深く確認すれば、それが嘘であることが分かります。
しかし、不慣れな人がプログラムコードを生成した場合、そのコードを実行した際にもっともらしい結果が出力されることがあります。このとき、プログラムコード自体が間違っているか、あるいはプログラムコードが何を実行しているのかを理解できない場合、大きな問題となります。これについて話を進めていきたいと思います。
ChatGPTでコード生成する怖さ
日本経済新聞に掲載されていた以下の記事を御覧ください。
時間のない方は、この記事を要約した以下の文章を御覧ください。
この記事は、人工知能サービス「ChatGPT」の進化と社会への影響について述べています。ChatGPTは、社会のインフラとして広く受け入れられ、多くの人が業務に依存していることが指摘されています。ChatGPT Plusのような有料版は画像生成機能を持ち、スマートフォンアプリでは音声入出力が可能です。また、企業ではChatGPTをITシステムに統合し、業務の効率化を図っています。
特に、ChatGPTがプログラムコードの生成を可能にしたことが注目されていますが、この機能には注意も必要であると指摘されています。ブログ記事では、複雑なコードを生成する例が示されていますが、その正確性については疑問が残る場合があると言及されています。このことから、プログラムのバグや誤った結果のリスクが示されており、プログラムの正確性を保証するための方法として「テスト駆動開発（TDD）」が推奨されています。
TDDは、プログラムの小機能ごとにテストを行いながら開発を進める方法であり、AIを利用しても効果的です。この方法は、プログラムの仕様を正確に反映させ、誤りを減らすのに役立ちます。将来的には、すべてのプログラムがAIによって生成される時代が来るかもしれませんが、その際にもTDDの考え方が重要になると述べられています。
「テスト駆動開発（TDD）」の参考サイト
肝に銘じるべきこと
プログラムコードを作成することに精通しているプログラマーだけでなく、プログラミング初心者もChatGPTを用いてプログラムコードを生成することが可能です。
これは素晴らしいことですが、一方で以下のような懸念があります。①バグを含む誤ったプログラムコード（アプリ）が広まる恐れ、②悪意のあるプログラムコード（アプリ）が犯罪に利用される可能性。
①については、記事にあるように、TDD（テスト駆動開発）によってある程度抑制できますが、②のような犯罪をどのように防ぐのでしょうか？プログラムコードをチェックするAIが必要になるかもしれません。恐らく、すでにそのようなAIは存在するかもしれません。
ChatGPTなどの生成AIの活用により生活が便利になり、仕事の効率が向上することは間違いありません。しかし、その一方で、新技術を活用した犯罪行為を考える人々もいることを忘れてはなりません。