Biomedical Entity Linking with Triple-aware Pre-Training

Biomedical Entity Linking with Triple-aware Pre-Training

1. **学術的背景と問い**
バイオ医学的エンティティのリンクは、テキストマイニングや質問応答などのバイオ医学的自然言語処理タスクにおいて、極めて重要な役割を果たしています。しかし、現在の大規模言語モデル（LLM）を使用してバイオ医学的エンティティをリンクする際の困難性は、これらのエンティティがテキスト中でまばらに分散しており、LLMの訓練中にほとんど見かけないためです。これに対する「問い」は、「異なるバイオ医学的エンティティ間の高次元的な意味的結びつきを把握するために、我々はどのようにLLMを改良すれば良いのか？」というものです。

2. **研究目的及び独自性と創造性**
この研究の目的は、知識グラフ（KG）から合成されたコーパスによって強力な生成型LLMを事前に訓練する新しいフレームワークを提案することです。その独自性と創造性は、エンティティの関係知識を無視するか、あるいは劇的な忘却を引き起こす既存手法に対し、エンティティの同義語、説明、関係情報を含むことの利点を検証する新たなアプローチにあります。

3. **研究の着想と位置づけ**
バイオ医学的自然言語処理タスクに必要なバイオ医学的エンティティのリンキングの困難性と、知識グラフ情報をLLMに組み込むことに焦点を当てた最近の研究が着想の源となっています。本研究は、LLMの訓練を改善し、バイオ医学的エンティティのリンキングにおける困難を克服するための新しいフレームワーク提案により、この課題の解決を目指しています。

4. **研究結果**
私たちは、KGから合成されたコーパスによって強力な生成型LLMを事前に訓練する新しいフレームワークを提案しました。しかし、評価の結果、同義語、説明、関係情報を含めることの利益を確認することはできませんでした。

5. **有効性の検証**
フレームワークの有効性の確認は、フレームワークが同義語、説明、関係情報を包含することの利点を評価することで行われました。しかし、評価の結果、これらの情報を含むことの利益は確認できませんでした。