論文の概要: MERIT: Scaling KG Foundation Models with Relation Transformers
- arxiv url: http://arxiv.org/abs/2610.15638v1
- Date: Sun, 11 Oct 2026 14:14:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-19 17:30:13.708428
- Title: MERIT: Scaling KG Foundation Models with Relation Transformers
- Title(参考訳): MERIT:関係変換器を用いたKGファンデーションモデルのスケーリング
- Abstract要約: 我々は、トランスリレーショナルエンコーダを備えた最初のKGFMであるMERITを開発する。
それぞれの関係名は互いに付き合っており、モチーフはエッジではなくソフトな先行語として入力される。
56以上のベンチマークで、MERITはSoTA KGFMのゼロショットMRRと一致し、TRIXの6倍、FLOCKの100倍以上高速である。
- 参考スコア(独自算出の注目度): 20.798406591084706
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Knowledge graph (KG) foundation models (KGFMs) predict links on unseen graphs zero-shot. KGFMs have been pioneered by ULTRA which builds a relation graph from co-occurrences that match motif templates, and passes messages over it to obtain relation representations. More recent KGFMs such as MOTIF and TRIX increase the size of this relation graph, and FLOCK replaces message-passing with probabilistic random-walk ensembles. However, larger relation graphs mean more messages, and more walks mean more sequences to encode, so they improve performance at higher training and inference cost. This cost hinders their use in more complex reasoning tasks, such as complex query answering. To reverse this trend, we design MERIT, the first KGFM with a transformer relation encoder: every relation name attends to every other, and the motifs enter as a soft prior rather than as edges. Over 56 benchmarks, MERIT matches the zero-shot MRR of SoTA KGFMs while being 6x faster than TRIX and over 100x faster than FLOCK at inference. Fine-tuned for complex query answering like UltraQuery, MERITQuery improves over it at matched cost.
- Abstract(参考訳): 知識グラフ(KG)基礎モデル(KGFM)は、目に見えないグラフ上のリンクをゼロショットで予測する。
KGFMは、モチーフテンプレートにマッチする共起物から関係グラフを構築し、その上にメッセージを渡して関係表現を得るULTRAによって開拓されている。
近年のMOTIFやTRIXのようなKGFMは、この関係グラフのサイズを増大させ、FLOCKはメッセージパッシングを確率論的ランダムウォークアンサンブルに置き換えている。
しかし、より大きなリレーショナルグラフはより多くのメッセージを意味し、ウォークはエンコードするシーケンス数が多いため、より高いトレーニングと推論コストでパフォーマンスが向上する。
このコストは、複雑なクエリ応答のような、より複雑な推論タスクでの使用を妨げる。
この傾向を逆転するために、我々は、トランスフォーマリレーションエンコーダを備えた最初のKGFMであるMERITを設計する。
56以上のベンチマークで、MERITはSoTA KGFMのゼロショットMRRと一致し、TRIXの6倍、FLOCKの100倍以上高速である。
UltraQueryのような複雑なクエリ応答のために微調整されたMERITQueryは、一致したコストでそれを改善します。
関連論文リスト
- Every Little Helps: Building Knowledge Graph Foundation Model with Fine-grained Transferable Multi-modal Tokens [60.15844119489298]
マルチモーダル知識グラフ推論(MMKGR)は、グラフ構造情報とマルチモーダルエンティティコンテンツの両方を活用することで、欠落したリンクを予測することを目的としている。
本稿では,MMKGR のトークンベース基盤モデル (TOFU) を提案する。
17のトランスダクティブ, インダクティブ, フルインダクティブMMKGによる実験結果から, TOFUは強いKGFM, MMKGRベースラインより一貫して優れていた。
論文 参考訳(メタデータ) (2026-02-11T13:32:09Z) - THOR: Inductive Link Prediction over Hyper-Relational Knowledge Graphs [15.89751830563422]
ハイパーリレーショナルknOwledge gRaphsのインダクティブリンク予測手法THORを提案する。
THORは、2つの並列グラフエンコーダとトランスフォーマーデコーダを持つ2つの基礎グラフから学習するために設計されている。
その結果、THORは、66.1%、55.9%、20.4%の改善率で、最も優れたルールベース、半インダクティブ、完全インダクティブ技術よりも大きなベースラインのコレクションを上回っていることがわかった。
論文 参考訳(メタデータ) (2026-02-05T08:15:49Z) - ChartVerse: Scaling Chart Reasoning via Reliable Programmatic Synthesis from Scratch [57.01439313241121]
グラフの複雑さを定量化する新しい指標であるRollout Posterior Entropy(RPE)を紹介する。
また、推論厳密性を保証するために、真正対応の逆QA合成を開発する。
さらに, モデルフェールレートに基づく試料をろ過し, 高品質なCoT (Chain-of-Thought) 推算を行った。
論文 参考訳(メタデータ) (2026-01-20T05:11:44Z) - MuCo-KGC: Multi-Context-Aware Knowledge Graph Completion [0.0]
Multi-Context-Aware Knowledge Graph Completion (MuCo-KGC) は、グラフ内のリンクされたエンティティや関係からのコンテキスト情報を利用して、テールエンティティを予測する新しいモデルである。
MuCo-KGCは、エンティティ記述と負の三重項サンプリングの必要性を排除し、性能を高めながら計算の複雑さを著しく低減する。
FB15k-237、WN18RR、CoDEx-S、CoDEx-Mなどの標準データセットに関する実験は、MuCo-KGCが3つのデータセット上で最先端の手法より優れていることを示した。
論文 参考訳(メタデータ) (2025-03-05T01:18:11Z) - GFM-RAG: Graph Foundation Model for Retrieval Augmented Generation [83.72561905487447]
本稿では,新しいグラフ基盤モデル (GFM) である GFM-RAG について紹介する。
GFM-RAGは、複雑なクエリ-知識関係をキャプチャするグラフ構造を理由とする、革新的なグラフニューラルネットワークによって実現されている。
効率とニューラルスケーリング法則との整合性を維持しつつ、最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2025-02-03T07:04:29Z) - LUKE-Graph: A Transformer-based Approach with Gated Relational Graph
Attention for Cloze-style Reading Comprehension [13.173307471333619]
本稿では,文書内のエンティティ間の直感的な関係に基づく異種グラフ構築モデルLUKE-Graphを提案する。
次に、アテンション読み込み(RGAT)を用いて、事前学習したLUKEモデルによって符号化されたグラフの推論情報と文脈表現を融合する。
実験結果から,LUKE-Graphはコモンセンス推論による最先端性能を実現することが示された。
論文 参考訳(メタデータ) (2023-03-12T14:31:44Z) - Explainable Sparse Knowledge Graph Completion via High-order Graph
Reasoning Network [111.67744771462873]
本稿では,スパース知識グラフ(KG)のための新しい説明可能なモデルを提案する。
高次推論をグラフ畳み込みネットワーク、すなわちHoGRNに結合する。
情報不足を緩和する一般化能力を向上させるだけでなく、解釈可能性も向上する。
論文 参考訳(メタデータ) (2022-07-14T10:16:56Z) - Jointly Cross- and Self-Modal Graph Attention Network for Query-Based
Moment Localization [77.21951145754065]
本稿では,共同グラフを渡る反復的メッセージのプロセスとして,このタスクをリキャストするクロスモーダルグラフ注意ネットワーク(CSMGAN)を提案する。
CSMGANは2つのモード間の高次相互作用を効果的に捉えることができ、より正確な局所化を可能にします。
論文 参考訳(メタデータ) (2020-08-04T08:25:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。