CyberagentのLLM使用感と人工呼吸器設定におけるmechanical power
今日はTXP勉強会は2テーマ。
1. LLMの分類と、話題のCyberagenetのLLMを触ってみた感についてのレポート
インターンのI君によるレポート。DXやデータサイエンスにおいてもLLMの活躍は容易に想像できるので、色々調べて触ってもらっていました。社長が東大医学部卒なのもあってか、インターンには同学部の方が多いのですが、優秀だけど興味ないことには本当に興味ない人が多いような気はしてます。
利用可能な言語モデルとしてGPT・PaLM・LLaMA・Alpaca・Alpaca LoRA・BLOOMなど様々なモデルが出現していますが、実際に用いるとなると気をつけたいのはパラメータのサイズ、商用利用可能性、日本語対応、ローカルで使えるかどうかあたり。ちなみに関連サービスのChatPDFは研究論文読むのには不向きだと思ったので僕の臨床研究論文作成マニュアルではバッサリ切ったのですが、インターンはガイドライン読んだりするのに便利なので使ってるとの事でした。
で、サイバーエージェントですが、Abemaで将棋やMリーグを見たり、某ソシャゲにお世話になってる身としては、自分たちから巻き上げたお金がこうやってLLMの開発活かされているのだと思うと嬉しいですね…。
SNSとかでも記事になっていますが、OpenCALMそのままではやはり難しいですが、ファインチューニングするとかなり良さそう。ただ得られた結果のバリデーションをどうするか、というのが今回は少し議論に。
LLM利用は自分たちが作成したいサービスあるいは研究において何がしたいのか次第で、まあこの辺は実装してから伝えられるものがあるといいなと。
2. 人工呼吸器設定におけるmechanical power
現在、TXP＋外部の先生たちで欧州集中治療学会（ESICM）の第5回データソンに参加しています。昨年のdatathonでは優勝してて、主催者側から「お前ら来年も出るよな？」的な感じで圧をかけられたので。
データ切り出しから解析まで全部やるので、チームのデータハンドリング技術の習得や実践をまとめて短期間に詰め込めて、教育としてはアリ？なように思います。受賞すれば実績になりますし、そのまま論文にもなります。
ESICM datathonではMIMICなどと同様のAmsterdamUMCdbを用いているのですが、一ヶ月前にテーマが3つ発表され、どれか一つを選ぶ形です。そこで僕たちが選んだのがmechanical powerの話。ただ参加した中には医学部生もいて話がちんぷんかんぷんなので、お願いして知己のプロに講演してもらいました。
根本的な考えは人工呼吸は害だから肺保護換気しよう、という点。例えば換気量を減らし、プラトー圧を減らし、非同調を回避して…と。集中治療医からすれば普通のことでも学生や初期研修医にはかなり辛いですよね、この辺り（少なくとも自分は辛かったし、人工呼吸器は一部のマニアな先生のものだと当時は思っていましたが）。
そこでさらにmechanical powerと出てきても困るわけで。肺傷害の発生に重要なのは静的な圧力ではなく肺に及ぼされる一分間あたりの仕事量、すなわちmechanical power。ただこれ、色々な式があって計算が面倒くさく、簡略化した式でも下記。
強い自発呼吸努力が肺障害を招くというのが最近のホットトピックなように思いますが、その辺りも考慮して色々解析したいところ。