AIは万能ではないが役に立つ〜香川県三豊市のChatGPTを活用したごみ出し案内システムの試験運用に学ぶ
ヒューマノーム研究所・代表の瀬々です。
先日、香川県の三豊市がChatGPTを活用したごみ出し案内の試験運用を実施した詳報がITMediaで報じられ、「本格導入の条件として正答率99%を設定した」という条件設定の妥当性がX（旧Twitter）で話題となりました。
記事では導入が見送られた理由として「特定の固有名詞（例：ファブリーズ）に対応できない」「『環境衛生課へお問合せください』という文言を表示しても、職員の負担が減らない」といった点があげられています。これらの課題を踏まえプロジェクトは一旦見送られることとなったようです。このような結果を公開することは、三豊市にとっても、実験を担当した松尾研究室にとっても勇気ある行動であり、その透明性に感謝します。
さて、この事例には、AIプロジェクトをスタートし、進行させる上で必ず抑えておきたいポイントが多く含まれていると感じました。この記事では、AIビジネスに携わる者の視点で、本件に関する解説と課題点について、（一部推測を交えながら）解説していきます。
1. トライアルの重要性
AI開発に取り掛かる前に、AIの精度をどこまで高めることができるかをあらかじめ予測することは非常に困難です。AIの判断方式は人間のそれとは異なっているため、人間にとって簡単なことがAIにとっては難しいかもしれませんし、またその逆もあり得るためです。このギャップは、専門家であっても予測しづらいものです。
三豊市が初となる試みに取り組んだこと、また、最新技術を使えば更に改善できるのではないかと2回目のトライアルを行ったことは評価されるべきです。そして、このトライアルを経てもなお、職員の負担軽減と市民の利便性向上を探求し続ける姿勢には、頭が下がります。
三豊市は「市役所が行う業務のうち、対市民向けの業務でAIに任せっきりでも大丈夫、または職員の負担軽減につながる業務があるのかどうか……模索は続ける」とし、今後も生成AIを使った業務効率化を探求する姿勢を見せた。
2. 真に解決すべき問題の特定
AIの活用時、特に最先端のChatGPTを用いる場合は、AIによる完璧な予測結果が期待されがちです。本件における三豊市職員の方々の感想「AIは万能ではないということが分かった」ということは非常に重要な学びです。
繰り返しになりますが、AIは人間の思うように動いてくれるものではありません。「AI」という人間とは異なる判断基準・原理原則を持ったパートナーに対し、どの様に動いてもらうのか？を考える必要があります。
この時、大切になるのが「自分たちは何を解決したいのか」という課題です。三豊市の例では以下の住民からの要望があったようです。
「知りたい（ゴミ出しの）情報にすぐに回答できてほしい（職員が数時間要するケースが存在している）」
「外国人市民が増加傾向であり、多言語に対応してほしい」
「24時間対応可能にしてほしい」
上記の目的が叶うシステムのあり方を考えた場合、解決する手法をAIだけに限定する必要性は特にありません。分からない問題に対しては「お電話でお問い合わせください」という返答をして、残りは職員による回答をするような、柔軟な手法も考えて良いはずです。実際、三豊市のケースでも、あいまいな質問に対しては「環境衛生課へお問い合わせください」という対応をしていたそうです。
それでも「結局職員の負担は減らない」という結論となったことから、ごく一部の例外的なケースの対応に、市の職員の方々が苦慮されていたのだろうと推察されます。おそらく、これがゴミ分別AIの実装に至らなかった要因だったのでしょう。
このプロジェクトにおいて、AI開発に着手する前に対応できたことがあるとすれば、市の職員の方々に「どのような事例が業務の負担増につながっているのか」を丁寧にヒアリングすることだったと思います。そうすることで、本当に解くべき問題は、全てのごみ分別の質問に対する99%の正答率を目指すことではなく、職員の方が時間をかけることになっている特殊ケースだけに対応すればよい、という課題設定となる可能性があります。
例えば、適切な処理方法の回答につなげるヒントを市の職員の方に提供するような、回答時間を短縮する「職員サポートAI」を開発する、という選択肢もあり得るでしょう。「高い正答率のAIを提供する」というゴールは、一般的に顧客に納得してもらいやすい指標ではありますが、問題設定がずれていると、本当に解くべき問題が解けなかった、という事態も起こり得ます。これも、本件から得られる教訓です。
3. AIや計算機の得手不得手を踏まえ、パートナーとして考える
AIは過去の事例をもとに回答を返します。そのため、新製品や少数の事例しか存在しないものを対象とする質問については、うまく回答することができません。三豊市の「ファブリーズ」は典型的な例だと思います。
確かにファブリーズは日本人には一定の認知度がありますが、世界各国によってシェアも異なるでしょう。また、英語圏以外では異なる商品名で販売されている、という事情もあります。ChatGPTにそこまで込み入った理解を求めるのは難しいかもしれません。
ごみの分別は、各自治体ごとに大きさや素材などをもとに分類表を作成し、各家庭ではその分類表をもとにごみを分ける、という流れで実施されます。
この分類表を活用する形で、例えば AIを使うのではなく、Yes / No で答えられるような質問に繰り返し回答し、処理方法を絞り込む形式であっても、多くのケースは回答可能でしょう。判断の難しいケースのみ、市に問い合わせたり、写真を送ってもらうようなインタフェースも考えられるかもしれません。目的の一つであった多言語対応や24時間対応の一部は、このインタフェースでも叶えられるでしょう。人間が24時間対応するのはなかなか難しいものの、計算機であれば実現可能です。
また、市のサービスでは、多様なユーザへの対応が不可欠です。例えば、視覚障害者への音声応答や、インターネットに不慣れな方々に対しての音声対話インタフェースなど、ChatGPTを柔軟に組み合わせた活用で、より人間らしいサポートを提供できる可能性があるでしょう。
特に公共サービスでは「少しでも誤った回答をしたら、その回答が独り歩きをして問題を起こすのではないか」などと心配をされる場合もあるかと思います。この点に関しては、日本全体としてAIを受け入れる素地を広げる必要があると考えています。
我々の携わる医療AIの開発においても「誤診が起こったらどうしよう」という問題に直面します。しかし、医療AIの世界的な潮流では、人間でも間違うときは間違うため、「人間と同等の精度が出るのであれば、人間が対応してもAIが対応しても同じ」と割り切り、24時間働くことができるAIの利点を活かすことで、より多くの患者さんを救うことを目指しています。
同様に、市民サービスにおいても、一定の割り切りのもとAIの導入をすることで、職員さんの負担も減り、より多くの住民の方々が満足できるサービス設計ができるのではないか、と考えます。
4. まとめ
今回は、三豊市のChatGPT導入トライアルを例に、AIと人間は違いを理解し、互いの良いところを補完しあえるシステムを構築することが重要である、というお話をさせていただきました。三豊市のトライアルの結果を礎に、より多くの市民が幸せになるような行政サービスに発展することを切に願っています。
当社は、本件のようなAIの社会実装プロジェクトにおける適切な課題設定に関するコンサルテーションや技術サポートを実施しております。また、本当に解決すべき課題検討をお手伝いするオンラインツール Humanome Eyes, Humanome CatData もご提供しております。
AI導入でお困りの際は、どうぞお気軽にご相談ください。みなさまの悩みと技術のかけはしとなるよう、AI開発をお手伝いさせていただきます。
AI・DX・データサイエンスについてのご質問・共同研究等についてはお気軽にお問い合わせ下さい！