ナレッジグラフ(KG)上のマルチホップ論理クエリ応答は、知識推論の分野におけるホットトピックです。従来の埋め込み手法の多くは、訓練用とテスト用のエンティティがすべて見えている(すなわち直推式)ことを前提としています。しかし現実世界では、大規模なKGには訓練時に一度も登場しないエンティティが大量に含まれます。グラフ全体を訓練するのはコストが高く、現実的にはほぼ不可能です。つまり、新しいエンティティの推論が必要になったとき、既存モデルのほとんどは機能しなくなってしまうのです。
直推式推論のボトルネック
既存の手法は主に、連言・選言・否定の操作を含む存在一階論理(EFO)クエリを対象としています。これらはメッセージパッシング層を通じて既知のエンティティ間で情報を伝播させますが、新しいエンティティに遭遇すると、推論の連鎖全体が途切れてしまいます。その背景には「既知ノードの全体集合」への暗黙の前提があり、現実のリソース不足と直接衝突します。大規模なECサイトやバイオ医薬分野のKGを例にとると、ノード数は数億に達することもあり、完全な訓練はほぼ不可能です。したがって、帰納的シナリオ(テストグラフに訓練グラフには存在しないエンティティが含まれる)に対処できる手法こそが、実用的な方向性と言えます。
InductWave の革新:ウェーブレット帰納埋め込み
InductWave の核となるアイデアは、ウェーブレット変換を用いて帰納的埋め込みを構築することです。各エンティティに固定ベクトルを割り当てるのではなく、ウェーブレット基底関数によってノードの表現を動的に生成するため、訓練時に一度も出現していないノードでも、周囲のノードとの構造的関係に基づいて埋め込みを計算できます。これは帰納的推論を自然にサポートします。さらに重要なのは、InductWave がメッセージパッシングの層数を大幅に削減した点です。半分の層数でベースラインモデルと同等の性能を達成し、75%の層数では、ほとんどのクエリタイプで既存手法を全面的に上回ります。これは、より少ない計算リソース、より短い訓練時間、そして大規模グラフに対するより優れた拡張性を意味します。
- 帰納能力:訓練セットに存在しないエンティティの推論をサポートし、動的に成長するKGに対応
- 層数の効率性:より少ないメッセージパッシング層で優れた効果を達成し、過平滑化のリスクを軽減
- リソース節約:訓練











コメント
コメントはまだありません
最初のコメントを書きましょう