Fugu-MT 論文翻訳(概要): PAC-Bayesian Generalization Bounds for Knowledge Graph Representation Learning

論文の概要: PAC-Bayesian Generalization Bounds for Knowledge Graph Representation Learning

arxiv url: http://arxiv.org/abs/2405.06418v2
Date: Mon, 3 Jun 2024 14:27:59 GMT
ステータス: 処理完了
システム内更新日: 2024-06-04 14:48:46.218748
Title: PAC-Bayesian Generalization Bounds for Knowledge Graph Representation Learning
Title（参考訳）: 知識グラフ表現学習のためのPAC-Bayesian一般化境界
Authors: Jaejun Lee, Minsung Hwang, Joyce Jiyoung Whang,
Abstract要約: 知識グラフ表現学習法における最初のPAC-Bayesian一般化境界について述べる。一般化境界における重要な要素は、3つの実世界の知識グラフ上での実際の一般化誤差を説明することができる。
参考スコア（独自算出の注目度）: 10.212459579454265
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: While a number of knowledge graph representation learning (KGRL) methods have been proposed over the past decade, very few theoretical analyses have been conducted on them. In this paper, we present the first PAC-Bayesian generalization bounds for KGRL methods. To analyze a broad class of KGRL models, we propose a generic framework named ReED (Relation-aware Encoder-Decoder), which consists of a relation-aware message passing encoder and a triplet classification decoder. Our ReED framework can express at least 15 different existing KGRL models, including not only graph neural network-based models such as R-GCN and CompGCN but also shallow-architecture models such as RotatE and ANALOGY. Our generalization bounds for the ReED framework provide theoretical grounds for the commonly used tricks in KGRL, e.g., parameter-sharing and weight normalization schemes, and guide desirable design choices for practical KGRL methods. We empirically show that the critical factors in our generalization bounds can explain actual generalization errors on three real-world knowledge graphs.
Abstract（参考訳）: 知識グラフ表現学習(KGRL)法は過去10年間にいくつか提案されてきたが、理論的な分析はほとんど行われていない。本稿では,KGRL法に対する最初のPAC-Bayesian一般化境界について述べる。 KGRLモデルの幅広いクラスを分析するために、関係対応メッセージパッシングエンコーダと三重項分類デコーダからなるReED(Relation-aware Encoder-Decoder)という汎用フレームワークを提案する。我々のReEDフレームワークは、R-GCNやCompGCNといったグラフニューラルネットワークモデルだけでなく、RotatEやANALOGYといった浅層構造モデルを含む、少なくとも15種類の既存のKGRLモデルを表現できます。我々のReEDフレームワークの一般化境界は、KGRL、例えばパラメータ共有および重み正規化スキームにおいてよく使われるトリックの理論的根拠を提供し、実用的なKGRL法において望ましい設計選択を導出する。実世界の3つの知識グラフ上で、一般化境界の臨界要素が実際の一般化誤差を説明できることを実証的に示す。

関連論文リスト

A Prompt-Based Knowledge Graph Foundation Model for Universal In-Context Reasoning [17.676185326247946]
そこで本研究では,テキスト内学習,すなわちKG-ICLを介し,プロンプトに基づくKGファウンデーションモデルを提案する。クエリにおけるエンティティや関係を発見できないような一般化機能を備えたプロンプトグラフを符号化するために,まず統一トークン化器を提案する。そこで我々は,プロンプトエンコーディングとKG推論を行う2つのメッセージパッシングニューラルネットワークを提案する。
論文参考訳（メタデータ） (2024-10-16T06:47:18Z)
QT-DoG: Quantization-aware Training for Domain Generalization [58.439816306817306]
領域一般化のための量子化アウェアトレーニング(QT-DoG)を提案する。 QT-DoGは、モデル重みのノイズを誘導することで暗黙の正則化器として量子化を利用する。我々は、QT-DoGが様々なデータセット、アーキテクチャ、量子化アルゴリズムにまたがって一般化することを実証する。
論文参考訳（メタデータ） (2024-10-08T13:21:48Z)
A Margin-based Multiclass Generalization Bound via Geometric Complexity [6.554326244334867]
ニューラルネットワークに対するマージンベース多クラス一般化境界について検討する。ネットワークの余分な正規化幾何学的複雑さでスケールする一般化誤差に新たな上限を導出する。
論文参考訳（メタデータ） (2024-05-28T21:08:58Z)
On the Generalization Capability of Temporal Graph Learning Algorithms: Theoretical Insights and a Simpler Method [59.52204415829695]
テンポラルグラフ学習(TGL)は、様々な現実世界のアプリケーションにまたがる一般的なテクニックとなっている。本稿では,異なるTGLアルゴリズムの一般化能力について検討する。一般化誤差が小さく、全体的な性能が向上し、モデルの複雑さが低下する単純化されたTGLネットワークを提案する。
論文参考訳（メタデータ） (2024-02-26T08:22:22Z)
A Survey On Few-shot Knowledge Graph Completion with Structural and Commonsense Knowledge [3.4012007729454807]
FKGC(Few-shot KG completion)は、グラフ表現学習と少数ショット学習の長所を必要とする。本稿では、一般的に使われているKGとCKGのFKGC課題を紹介する。そこで,本研究では,KGのタイプと手法の観点から,既存の作品を体系的に分類し,要約する。
論文参考訳（メタデータ） (2023-01-03T16:00:09Z)
Towards Generalizable Graph Contrastive Learning: An Information Theory Perspective [47.201323867419184]
グラフコントラスト学習(GCL)は、グラフ学習表現において最も代表的なアプローチである。まず、GCL一般化能力のための測度GCL-GEを提案する。我々は、一般化能力を高めたInfoAdvという名前のGCLフレームワークを設計する。
論文参考訳（メタデータ） (2022-11-20T10:01:00Z)
Reasoning over Multi-view Knowledge Graphs [59.99051368907095]
ROMAは、マルチビューKG上で論理クエリに応答する新しいフレームワークである。大規模(数百万の事実など)のKGや粒度の細かいビューまでスケールする。トレーニング中に観測されていない構造やKGビューのクエリを一般化する。
論文参考訳（メタデータ） (2022-09-27T21:32:20Z)
Generalization Guarantee of Training Graph Convolutional Networks with Graph Topology Sampling [83.77955213766896]
グラフ畳み込みネットワーク(GCN)は近年,グラフ構造化データの学習において大きな成功を収めている。スケーラビリティ問題に対処するため、Gsの学習におけるメモリと計算コストを削減するため、グラフトポロジサンプリングが提案されている。本稿では,3層GCNのトレーニング(最大)におけるグラフトポロジサンプリングの最初の理論的正当性について述べる。
論文参考訳（メタデータ） (2022-07-07T21:25:55Z)
Contextualize Me -- The Case for Context in Reinforcement Learning [49.794253971446416]
文脈強化学習(cRL)は、このような変化を原則的にモデル化するためのフレームワークを提供する。我々は,cRLが有意義なベンチマークや一般化タスクに関する構造化推論を通じて,RLのゼロショット一般化の改善にどのように貢献するかを示す。
論文参考訳（メタデータ） (2022-02-09T15:01:59Z)
PPKE: Knowledge Representation Learning by Path-based Pre-training [43.41597219004598]
PPKEと呼ばれる知識埋め込み学習のためのパスベース事前学習モデルを提案する。本モデルはリンク予測と関係予測タスクのためのいくつかのベンチマークデータセットで最新の結果を得る。
論文参考訳（メタデータ） (2020-12-07T10:29:30Z)
Embedding Graph Auto-Encoder for Graph Clustering [90.8576971748142]
グラフ自動エンコーダ(GAE)モデルは、半教師付きグラフ畳み込みネットワーク(GCN)に基づく我々は、グラフクラスタリングのための特定のGAEベースのモデルを設計し、その理論、すなわち、埋め込みグラフオートエンコーダ(EGAE)と整合する。 EGAEは1つのエンコーダと2つのデコーダで構成される。
論文参考訳（メタデータ） (2020-02-20T09:53:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。