言語モデルに基づく知識グラフの構造を学習するリンク予測手法

概要

本稿では,知識グラフ構造の表現を学習するEntity間のリンク予測を行う際に,その初期ベクトルを事前にリンク予測タスクを学習した言語モデルを元に計算する方法を提案する.Entity間のリンク予測を行う既存手法には,知識グラフ構造を学習するグラフベースの手法と,知識グラフをテキストと見なして言語モデルを構築し,それを元にリンク予測をする言語モデルベースの手法が存在する.これらの手法には共に長所と短所があり,これらの長所を活かす方法の提案が求められている.しかし,グラフ構造を考慮して言語モデルをファインチューニングする方法では,リンク予測の性能が低いことが既に報告されている.評価実験の結果,本提案はグラフベース手法と同等かそれ以上の性能を有し,一部のユースケースでは既存の言語モデルベース手法よりも性能が高くなることを確認できた.

引用情報

劉 晨曦, 木村 優介, 波多野 賢治, 言語モデルに基づく知識グラフの構造を学習するリンク予測手法, 情報処理学会研究報告, Vol.2023-IFAT-150, No.5, pp.1-6, 2023-03-28.