GenTKG: Generative Forecasting on Temporal Knowledge Graph

GenTKG: Generative Forecasting on Temporal Knowledge Graph

1. 本研究の学術的背景は、大規模言語モデル（LLM）の急速な進歩が関心を引き起こし、従来の埋め込みベースやルールベースのモデルが支配的であった時系列知識グラフ（tKG）の領域における問題にあります。研究課題の核心な学術的「問い」は、事前学習されたLLMが構造化された時系列関係データを理解し、時系列関係予測の基盤モデルとして埋め込みベースやルールベースのモデルに取って代わることができるかという点です。

2. 本研究の目的は、時系列知識グラフ上での予測タスクを実現するための生成的設定において、新しい枠組みを提案することです。生成的な予測タスクにおいては、複雑な時系列グラフデータ構造とLLMsが処理できる順序性の自然な表現との間に大きなギャップが存在し、また、tKGの大規模なデータサイズとLLMsの高い計算コストの間にも大きな障害があります。本研究では、従来の方法よりも計算リソースの制約下で時系列関係予測の性能が向上するGENTKGという生成的予測フレームワークを提案します。

3. 本研究の着想は、時系列知識予測を生成的な予測に取り込むことで生まれました。また、関連する国内外の研究動向については、従来の埋め込みベースやルールベースのモデルが支配的であった時系列グラフ予測の領域において、新たに進化した大規模言語モデルを活用しようとする試みが行われていることを述べています。しかし、従来の方法と比較して競争力を持つことはできませんでした。そこで、本研究では、事前学習されたLLMsが構造化された時系列関係データを理解できるかどうかという点に疑問を投げかけています。

4. 本研究では、生成的予測タスクのためのGENTKGというフレームワークを提案しています。このフレームワークは、時系列論理ルールベースの検索戦略と、軽量のパラメータ効率の高い指示調整を組み合わせており、低計算リソース下で従来の時系列関係予測方法を上回るパフォーマンスを発揮します。また、GENTKGは再学習なしで未知のデータセットでも優れた汎化性能を持つことも示しています。

5. 本研究の有効性は、実験によって検証されています。実験の結果、GENTKGが従来の時系列関係予測方法よりも優れたパフォーマンスを発揮し、計算リソースの制約下での予測タスクにおいても優れた性能を示すことが確認されました。また、再学習なしで未知のデータセットに対しても優れた性能を発揮することも示されました。