Cubecが医療言語モデルを開発する意味〜Vision-Knowledgeモデルによる診療支援〜
CubecではAIが医療現場でより深く、有意義に活用される未来のために「医療に特化した大規模言語モデルを紹介する」全7回をシリーズでお届けしていきます。少し難しい医療LLMの世界をわかりやすくお伝えするために、案内役としてLLM初心者のアリ君と、博士を案内役にお伝えしていきます。博士として説明するのは、Cubec共同創業者でCAIOの新井田信彦です（アリが好き）。
第1回目は「Cubecが医療特化の大規模言語モデル開発に着手する意味」を博士に聞いてみます。
質問1：なぜ、私たちの取り組みを見える化するのか？
博士、いよいよ「医療に特化した大規模言語モデルを紹介する」連載が始まりました！今は初心者のボクも、LLMを理解できるようにがんばります！！
ところで・・・、すごくそもそもな質問ですが、博士はなぜこの連載を始めようと思ったのですか？
私たちがこの連載を始めた理由は、AIで医療の発展に貢献したいからです。特に、大規模言語モデル（LLM）に対する私たちの考え方や具体的な取り組みを皆さんと共有したいのです。
医療機器の開発には高い透明性と安全性が求められます。そこで、開発過程で得られた知見や視点を見える化することで、私たちの取り組みの新規性と同時に、安全性への配慮も示していきたいです。
このシリーズのテーマは「医療×LLM」です。主に次の方々を対象としています。
医療におけるAIの貢献に期待を寄せるビジネスプレイヤー
ヘルスケア分野で活躍されている方々
ヘルスケア領域でのAI開発に挑戦されている方々
本題に入る前に、私自身のバックグラウンドについても少し話しましょう。私は大学院で循環器領域におけるテンソル・シミュレーション（多次元データ構造を使ってモデル化したものをシミュレーションする手法）を学び、その後データサイエンティストとして20年近いキャリアを積んできました。この経験から、機械学習による問題解決力が医療の発展に貢献できると確信し、Cubecを立ち上げました。創業する前のアイデアベースのディスカッションから数えると2年以上、このプロジェクトに携わっています。
取り上げるコンテンツは、幅広いLLMの学術的な領域から、医療に適用する場合の課題やそこへのアプローチなどです。ただし、難しい理論や複雑な数式の説明は極力避け、実務に役立つ内容を心がけます。
私たちの最終的な目標は、この連載を通じて医療の発展に貢献し、患者さんや医療従事者の皆様のお役に立つことです。AIと医療の融合がもたらす可能性について、できるだけわかりやすくお伝えしていきます。
質問２：Cubecが開発しているLLMを用いた医療機器とは？
LLMを医療に役立てるということなんですが、実際にCubecが開発している医療機器とはどんなものなのですか？
Cubecでは、近年患者数が増加傾向にある慢性疾患の領域において、診療する医師を支援する医療機器を開発しています。現在、複数の大学病院、医療機関と連携し、診断治療支援のプログラム医療機器開発を進めています。
当初から取り組んでいるのは心不全の領域です。慢性期の患者さんが診察に来た際に、その時の検査値から心不全の度合いや、薬剤の提案をする行うプロダクトを開発しています。
質問3：医療LLMの開発を始めて見えた課題は？
なるほど、医療LLMを慢性疾患の診察に使うんですね。
お医者さんが診察する時に使うというと、たとえば「どんな薬を処方したいいか」「専門病院に紹介した方がいいか」みたいなことをLLMが答えるイメージがありますが・・・。
プロダクト開発を進める中で、新たな課題が見えてきました。私たちの提供価値は、専門医の判断に裏付けされた教師データによって、各患者さんの状態や薬剤の提案など「何をすればいいか」＝「What」を答えるモデルです。
しかし、実際の診療場面では、結論である「What」に加え、その結論に至る過程、つまり「なぜその判断に至ったか」＝「Why」も求められるシーンがあります。そこで、前者のWhatに答える機能を「Vision」、後者のWhyに答える機能を「Knowledge」とし、Vision-Knowledgeモデルにより、心不全に立ち向かう構想を持つようになりました。
質問4：Vision-Knowledgeモデルが実現可能に
Vision-Knowledgeモデル・・・？？？
だんだん難しくなってきました。これはAIを開発する人たちの中では、前から存在していたモデルなんですか？
Vision-Knowledgeモデルの構想は、以前は実現可能性の低いものでした。その理由は、このモデルがVisionモデルとKnowledgeモデルの2つの要素から構成されていており、両方を高いレベルで実現する技術が必要だったからです。
Visionモデルについては、ビッグデータと教師ありのアノテーション、それをモデル化するアンサンブル学習やディープラーニングによって、ある程度実現できていました。しかし、Knowledgeモデルの実現には多くの技術的課題があり、長らく困難とされていました。
ところが、2023年に状況が大きく変わりました。LLM（大規模言語モデル）の中核技術であるTransformer、特にDecoder-Onlyモデルの可能性に着目し、LLM自体と関連ライブラリの急速な発展により、Knowledgeモデルの開発が現実的になったのです。
私たちCubecはこの技術的進歩を活かし、Vision-Knowledgeモデル構想を立ち上げました。このモデルで実現したいのは、それぞれの専門知識を持った医師が相談しながら診療を進めるような世界観です。つまり、AIが単に答えを出すだけでなく、その判断の根拠や過程も示せるようになることを目指しています。
この「医療×LLM」シリーズでは、Vision-Knowledgeモデルの実現に向けた技術的課題とその解決策について詳しく話していく予定です。AIが医療現場でより深く、有意義に活用される未来に向けて、私たちの取り組みを紹介していきます。
シリーズ全体像と次回のテーマ
Cubecは医師の診断・治療に寄与する医療機器開発を通じて、患者さんに寄り添うことを大切にしています。そのため、安全性、透明性を重視し、臨床に貢献するプロダクト開発を進めます。そんな私たちが取り組む姿をこのシリーズで発信していきます。
スケジュールは次の通りです。次回は「第2回：大規模言語モデルを因数分解して解像度を上げる」をお届けします。
楽しみにしていてくださいね。
今後の予定
第1回：Cubecが医療特化の大規模言語モデル開発に着手する意味
第2回：大規模言語モデルを因数分解して解像度を上げる
第3回：広義のモデル開発がLLMの民衆化を加速した（RAG、Prompting、Agent）
第4回：一部のプラットフォーマによる事前学習と基盤モデル（Pre-training、Foundation model）
第5回：裾野が広まりつつあるファインチューニング（FT）
第6回：大規模言語モデルにおける強化学習（RLHF）
第7回：Cubecが取り組む大規模言語モデルの現状
さらに専門的な情報を知りたい人には、論文紹介もしています。
Cubecは一緒にチャレンジしてくれる仲間を募集しています。
興味があればぜひ、カジュアル面談も申し込んでください。
Cubecでは多様なバックグラウンドのメンバーが活躍しています。実際にどんな仕事をしているのか、メンバー紹介もご覧ください。