【イベントレポート】医療系スタートアップのLLMへの取り組み・事例紹介
こんにちは、広報の上島です。
PharmaXでは、2023年1月より月1ペースでテックイベントを開催しています。
4月は「企業フェーズごとの事例で学ぶ技術広報」、5月は「LLM PoC LT会～PharmaXでの取り組み外部紹介～」というテーマで開催しました。
（4月のイベントレポートもよろしければご覧ください）
6月のテーマは「医療系スタートアップのLLMへの取り組み・事例紹介」。
GPT3.5や4が発表されてから数ヶ月が経ち、企業でもプロダクトに用いられ、実際に大きなインパクトが生まれた事例もいくつか発表されています。
そこで今回は、医療系スタートアップであるHOKUTOさんとPharmaXの2社が登壇し、医療系のスタートアップで実際にLLMを使った事例がどのように生み出されているのか、今後どのような展望があるのかについて、実例を交えたディスカッションを行いました。
この記事では、ディスカッションの中でどのような議論が交わされたのかをお伝えします！
（お時間がある方はアーカイブとあわせてご覧ください）
今回の登壇者とLT紹介
では今回の登壇者・モデレーターのご紹介と各企業のLT資料をご紹介します。
株式会社HOKUTO エンジニア つらら さん
Flutterエンジニア兼スクラムマスターとして、医師向け臨床支援アプリHOKUTOの開発に従事。脳の構造にまで言及するHOKUTOのユニークなバリューに惹かれて、2022年4月に入社。プロフィール画像はペットのセキセイインコ。社内ではインコとして認知されている。
コーポレートサイト
採用ページ
LTタイトル：Objective達成の鍵はリリースまでの速度！ 論文要約AIをリリースまでの過程や今後の課題
今回は、私たちがLLMを活用して新機能を開発した過程を共有します。これには、明確な目標設定からスピーディなリリースに至るまでの背景、そしてそこから得られたノウハウが含まれます。この話が、スタートアップのエンジニアやその道を歩み始めている方々の参考になれば幸いです。
株式会社HOKUTO エンジニアリングマネージャー 岸本 卓 さん
iOSエンジニアとして数社経験を経て、2017年にクックパッド株式会社、2020年に株式会社メルカリに入社。メルカリではiOSエンジニアからエンジニアリングマネージャーに転身し2年ほど務める。2023年に株式会社HOKUTOに入社。 iOS/Flutter/Firebaseあたりが一番得意な領域。
PharmaX株式会社 取締役・エンジニアリング責任者
上野 彰大 さん
東京大学農学生命科学研究科卒業。大阪府堺市生出身。新卒でIGPI（経営共創基盤）に入社し、2018年12月にPharmaX株式会社（旧・株式会社YOJO Technologies）を共同創業。全社戦略、エンジニアリング責任者。趣味でエンジニアリング勉強会を数年続けている。得意なのは、統計、機械学習、データ分析。
コーポレートサイト
採用ページ
LTタイトル：医療系スタートアップでのLLMの取り組みと今後の展望
PharmaXは、オンライン完結で医薬品を購入することが可能なオンライン薬局を運営するスタートアップです。GPT-4の発表後、LLM専任チームを作り、様々なPoCを行ってきました。特に、薬剤師のオペレーションを劇的に効率化するようなPoC結果を創出しており、プロダクトでの実運用も見据えています。今回は、これまでの成果のまとめと、今後の展望についてお話できればと考えております。
PharmaX株式会社 エンジニア 古家 大 さん（モデレーター）
ニフティ株式会社にてベトナムのオフショア開発のマネジメントを経験後、フリーランスとして独立。ITスタートアップを中心に複数社のサービス開発に携わる。 「医療者と患者さんの日常を繋げたい」という想いが合致し、参画。当社では開発生産性が高く、強いエンジニアリング組織作りにチャレンジ中。
医療系スタートアップにおけるLLMの活用での課題と今後の展望とは
今回のパネルディスカッションは、大きく2つのテーマで行いました。
1つ目は「LLMを使った機能をプロダクトに乗せるうえでの課題や改善ポイント」について、2つ目は「今後AI領域で実現すると事業インパクトのあること」について各社よりお話いただきました。
また、最後には「今後AIを活用してプロダクトにしていきたいこと」について登壇者お一人ずつに伺っています。
30分にわたる議論の中で、2社の共通点や各社のプロダクトだからこその課題や今後の展望が見えてきました。
ここからは、今回のディスカッションであがった2社の声を紹介していきます。
各社のLT発表内容について、動画や資料で確認いただいた上で読み進めていただくと、よりパネルディスカッションの内容が理解しやすくなりますので、よろしければご覧ください。
LLMを使った機能をプロダクトに乗せていく上での課題や改善ポイント
各社LLMを使ったプロダクトリリースやPoCを行う中で、共通の課題やそれぞれの改善策が今回のディスカッションで見えてきましたので紹介します。
レイテンシの高さが共通課題
まず共通の課題として、返信速度や応答速度におけるレイテンシの高さについてあがっていました。具体的に各社がどのような課題を感じているかまとめています。
PharmaX：
PharmaXでは、患者さんとのチャットによる相談に対して、薬剤師が一人ひとりに寄り添いながら対応しています。
薬剤師業務を効率化するためにLLMを活用できないかとPoCを行う中で、チャット返信速度が上がると、薬剤師の生産性向上と患者満足度の向上につながるのではないかという考えが出てきました。
しかしPoCを進める中で、既存のオペレーションに引っ張られてしまうという課題があります。
チャットの返信速度を上げてビジネスへのインパクトを出すためには、レイテンシが気にならないアプリケーションの構築が必要です。
対策案として、例えば薬剤師がユーザー画面にログインし、過去のチャット内容を遡って確認している間に返信内容を自動生成できると、レイテンシが気にならず生産効率も上がるのではないかと考えています。
HOKUTO：
臨床支援AIと論文AIの2つのAIサービスにおいて、プロンプトを投げてから回答が得られるまでに発生する待ち時間は、ユーザーにとって快適な応答時間とは言えません。
そこで私たちが考えた対策として、「キャッシュの活用」があります。
論文AIについては、投げるトークンの量がかなり多く、コストだけを考えても大変であるため、コストとのバランスを鑑みながらキャッシュを活用しています。
残念ながら、臨床支援AIではキャッシュの利用が難しく、具体的に検討できていません。
具体的なキャッシュの活用方法としては、以下の方法を試しています。
論文をピックアップした理由に関してChatGPTが考えた内容をキャッシュ
論文要約のサマライズ結果自体をキャッシュ
DeepLの翻訳結果自体もキャッシュ
これらのキャッシュデータはFirestoreへ保存しています。
論文の内容は基本的に大幅に変わることはないため、回答も変わらないという想定のもと、すでに検索したワードや論文であればキャッシュ結果からすぐにユーザに返答できるように運用しています。
プロダクトを本番導入するうえでのセキュリティ対策の課題
プロダクトを本番導入するうえで、セキュリティについて気になる方も多いと思います。そこで、どのような対応をされているか、その中での課題や改善策について伺ったところ、各社が利用するサービスについての利点や課題についてお話いただきました。
PharmaX：
セキュリティについては、私たちはAzure OpenAI Serviceの使用を予定しています。
特に医療系では、ネットワークを閉じるようにと言われているため、Azure の権限管理のしやすさは利点といえるでしょう。
Microsoftのサービスでは、データの入出力を監視していますが、申請すると監視を解除することが可能です。そのため第三者への情報提供についても扱いやすい仕様となっています。
また申請するとGPT-4も解放されるため、利用しやすいと考えています。
基本的なプロダクトは、GCPにのってマルチクラウド間でセキュア通信をするように構築し、Azure OpenAI Serviceにつなげています。ただし、インフラ基盤の構築が必要である大変さが課題だと感じています。
HOKUTO：
私たちはOpenAIのAPIを活用しています。
しかし、GPT-3.5だと精度の問題で安定しにくく、GPT-4だと速度がやや遅いため少し厳しいなどと、プロンプトインジェクション対策の観点から完全な対応は難しいと課題を感じています。
そのため、意図しない入力を避けるための対策を行っています。
例えば、臨床支援AIに不正な入力があった場合には、Slack通知によりインジェクションが試されていることを検知できるようにしています。
しかし、常に安定して検知できないため、まだ解決すべき課題が残っています。
また、Webページにて性別や説明対象者を選択するセレクトボックスに対してバリュー以外の値が入った場合には、フロント側でバリデーションをかけたり、入力を受け取るAPIサーバー側でもバリデーションをかけたり、プロンプトにプロンプトチェックしてもらったり、ということも行いながらモニタリングを行っています。
行動データが収集できると改善の幅が広がっていく
2つ目のテーマでは、「今後AI領域でどんなことが実現できるとインパクトがあるか」についてお話を伺いました。
各社それぞれ違ったプロダクトの中で、AIの活用によりユーザーの行動データが収集できるとさらによいプロダクトへと改善できるのでは、といった共有の意見も出てきましたので紹介します。
PharmaX：
AIを活用することでリアルタイムで文字起こしができ、その内容をもとにさらに先まで考えてくれるようになると、取り組みの幅がかなり広がると思っています。
例えば、会話を区切り、その都度Whisperに投げて文字起こしをしていくことも、現時点で不可能ではないと考えています。
リアルタイムでの文字起こしが可能になるかどうかは、どこまでAIやLLMが会話の続きを予測して処理してくれるか次第です。「こういう話をしているからこういう判断をしましょう」というようなプロンプトを入れ込むことや、リアルタイムでプロンプトを変更することまでできたら、現時点でもリアルタイムでの文字起こしはできるかもしれません。
また、調剤ロボットに自然言語で話しかけ、その内容をなにかしらの言語に置き換えて指示出しできると、薬剤師業務の生産性へのインパクトはあると思います。
さらに、オンライン診療/服薬指導などのオンラインサービスの場合、録画データが残っていると医療者と患者さんとの会話内容からデータを取れるため、AIとの相性はいいと思います。
HOKUTO：
ユーザーがアプリを開いた時点で、その人が必要な情報が出てくるような体験が提供できるようになると、インパクトが大きいと思います。
現時点では、ユーザーがアプリを開き、自分の欲しい情報を検索もしくはお気に入りをするというワンステップが必要です。
もしも、スマートフォン以外の詳細な行動データのインプットが可能になり、それに付随してプライバシー保護や法整備が進むことで実現できるのではと考えています。
現在、臨床現場で使われるアプリはHOKUTOのものだけで競合はいません。
もし、アプリをインストールした医師が院内でどのような会話をしたか、またアプリ内での行動ログ（例えば、アプリで検索した薬剤や疾患など）からその医師が担当している患者についての情報がわかるようになると、アプリを開いた時点で「あなたが担当しているこの症例に対して、このような情報が必要ですよね」と情報をすぐに表示できるようになり、より使い勝手のいいアプリになるかもしれません。
そのためには、ユーザーが納得できる形でのプライバシー保護が必要になります。
また、今後オフラインのLLMが発展すると、どの情報をオンラインに接続して提供するかをユーザーが自分で選択できるようになることで、例えばカンファレンスの場での情報データの収集も実現できるかもしれません。
このように、アプリをより高精度化していくことは、今後のHOKUTOの方向性として考えています。
今後AIを活用してプロダクトにしていきたいこと
最後にお一人ずつ、今後AIを活用してプロダクトにしていきたいことをお伺いしました。
PharmaX上野さん：
LLMはオペレーションとの相性がいいため、AIを活用し薬剤師の生産性を高めていくことで、患者満足度を高めていきたいと考えています。
HOKUTOつららさん：
AIと共存して、形を作っていくことです。
HOKUTOの場合だと、医師をより快適に支援できるような形を作っていくことだと考えています。
HOKUTO岸本さん：
完全にAIにとって代わってもらうというよりは、AIが得意なところやAIだからできるところに委ねつつ、HOKUTOのミッションを達成するためにどのような活用できるかを模索していきたいと考えています。
まとめ
実際にLLMを各社のプロダクトに取り入れた中での課題や今後の活用の幅についてお伺いし、医療業界における可能性を感じることができたディスカッションでした。
どの業界においても、LLMの活用はスタートしたばかり。
登壇された3名の方のお話にもあったように、AIの良いところを活かしながらユーザー体験向上し、各社それぞれのミッションの達成へ向けて、より精度の高いプロダクトが今後発表されることを期待したいなと思います。
ご登壇いただいたHOKUTOのつららさん、岸本さん、各社関係者のみなさん、ありがとうございました。
お知らせ
8月には、「リアルな事例から学ぶ！大規模システムリプレイスの裏側」というテーマで開催を予定しています。
株式会社Mediiさん、株式会社カラダノートさん、PharmaXの3社で、限られたリソースの中でリプレイスを経験した時を振り返り、どのような意思決定をしたのか、また今後の技術的な狙いについて発表する予定です。
ぜひご参加をお待ちしております！
私たちとともにオンラインを中心とした新しい医療体験を一緒に作ってみたいと思った方、もっとPharmaXについて知りたいと思った方はこちらを覗いてみてください。
まずは気軽にお話しましょう！