論文の概要: Learning Representations of Entities and Relations
- arxiv url: http://arxiv.org/abs/2201.13073v1
- Date: Mon, 31 Jan 2022 09:24:43 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-01 17:32:51.311979
- Title: Learning Representations of Entities and Relations
- Title(参考訳): 実体と関係の学習表現
- Authors: Ivana Bala\v{z}evi\'c
- Abstract要約: この論文は,リンク予測タスクに取り組むことを目的とした知識グラフ表現の改善に焦点を当てている。
最初のコントリビューションはHypERであり、リンク予測性能を単純化し改善する畳み込みモデルである。
第2のコントリビューションは比較的単純な線形モデルであるTuckERで、このモデルが導入された時点では、最先端のリンク予測性能が得られた。
第3の貢献は、双曲空間に埋め込まれた最初のマルチリレーショナルグラフ表現モデルである MuRP である。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Encoding facts as representations of entities and binary relationships
between them, as learned by knowledge graph representation models, is useful
for various tasks, including predicting new facts, question answering, fact
checking and information retrieval. The focus of this thesis is on (i)
improving knowledge graph representation with the aim of tackling the link
prediction task; and (ii) devising a theory on how semantics can be captured in
the geometry of relation representations. Most knowledge graphs are very
incomplete and manually adding new information is costly, which drives the
development of methods which can automatically infer missing facts. The first
contribution of this thesis is HypER, a convolutional model which simplifies
and improves upon the link prediction performance of the existing convolutional
state-of-the-art model ConvE and can be mathematically explained in terms of
constrained tensor factorisation. The second contribution is TuckER, a
relatively straightforward linear model, which, at the time of its
introduction, obtained state-of-the-art link prediction performance across
standard datasets. The third contribution is MuRP, first multi-relational graph
representation model embedded in hyperbolic space. MuRP outperforms all
existing models and its Euclidean counterpart MuRE in link prediction on
hierarchical knowledge graph relations whilst requiring far fewer dimensions.
Despite the development of a large number of knowledge graph representation
models with gradually increasing predictive performance, relatively little is
known of the latent structure they learn. We generalise recent theoretical
understanding of how semantic relations of similarity, paraphrase and analogy
are encoded in the geometric interactions of word embeddings to how more
general relations, as found in knowledge graphs, can be encoded in their
representations.
- Abstract(参考訳): 事実を実体の表現としてエンコードし、それらの間のバイナリ関係を知識グラフ表現モデルによって学習し、新しい事実の予測、質問応答、事実チェック、情報検索など様々なタスクに有用である。
この論文の焦点は、
(i)リンク予測課題に取り組むことを目的とした知識グラフ表現の改善
(ii)関係表現の幾何学において意味論がどのように捉えられるかという理論を考案する。
ほとんどの知識グラフは非常に不完全であり、手動で新しい情報を追加するのにコストがかかる。
この論文の最初の貢献はHypERであり、これは既存の畳み込み状態のConvEのリンク予測性能を単純化し改善し、制約付きテンソル分解の観点から数学的に説明できる畳み込みモデルである。
2つめの貢献は、比較的単純な線形モデルであるtuckerで、導入時点では、標準データセットにわたる最先端のリンク予測性能が得られた。
第3の貢献は、双曲空間に埋め込まれた最初のマルチリレーショナルグラフ表現モデル MuRP である。
MuRP は既存のモデルやユークリッドの MuRE よりも、階層的な知識グラフ関係のリンク予測に優れており、次元ははるかに少ない。
予測性能が徐々に向上する多くの知識グラフ表現モデルの開発にもかかわらず、彼らが学習する潜在構造についてはあまり知られていない。
本研究では, 単語埋め込みの幾何学的相互作用において, 類似性, 言い換え, アナロジーの意味関係がどのようにエンコードされ, 知識グラフに見られるようなより一般的な関係がそれらの表現にどのようにエンコードされるかに関する最近の理論的理解を一般化する。
関連論文リスト
- Graph-Dictionary Signal Model for Sparse Representations of Multivariate Data [49.77103348208835]
グラフの有限集合がラプラシアンの重み付き和を通してデータ分布の関係を特徴付けるグラフ辞書信号モデルを定義する。
本稿では,観測データからグラフ辞書表現を推論するフレームワークを提案する。
我々は,脳活動データに基づく運動画像復号作業におけるグラフ辞書表現を利用して,従来の手法よりも想像的な動きをよりよく分類する。
論文 参考訳(メタデータ) (2024-11-08T17:40:43Z) - Explainable Representations for Relation Prediction in Knowledge Graphs [0.0]
本稿では、知識グラフにおける関係予測を支援するための説明可能な表現のための新しいアプローチであるSEEKを提案する。
それは、エンティティと各サブグラフの学習表現の間の関連する共有意味的側面を識別することに基づいている。
本研究では,タンパク質間相互作用予測と遺伝子発現関連予測の2つの実世界の関係予測タスクについてSEEKを評価した。
論文 参考訳(メタデータ) (2023-06-22T06:18:40Z) - Beyond spectral gap (extended): The role of the topology in
decentralized learning [58.48291921602417]
機械学習モデルのデータ並列最適化では、労働者はモデルの推定値を改善するために協力する。
現在の理論では、コラボレーションはトレーニング単独よりも学習率が大きいことを説明していない。
本稿では,疎結合分散最適化の正確な図面を描くことを目的とする。
論文 参考訳(メタデータ) (2023-01-05T16:53:38Z) - Beyond spectral gap: The role of the topology in decentralized learning [58.48291921602417]
機械学習モデルのデータ並列最適化では、労働者はモデルの推定値を改善するために協力する。
本稿では、労働者が同じデータ分散を共有するとき、疎結合な分散最適化の正確な図面を描くことを目的とする。
我々の理論は深層学習における経験的観察と一致し、異なるグラフトポロジーの相対的メリットを正確に記述する。
論文 参考訳(メタデータ) (2022-06-07T08:19:06Z) - KGRefiner: Knowledge Graph Refinement for Improving Accuracy of
Translational Link Prediction Methods [4.726777092009553]
本稿では,知識グラフの精細化手法を提案する。
これにより知識グラフがより情報的になり、リンク予測操作をより正確に行うことができる。
提案手法は,翻訳リンク予測手法の性能を大幅に向上させることができることを示す。
論文 参考訳(メタデータ) (2021-06-27T13:32:39Z) - TCL: Transformer-based Dynamic Graph Modelling via Contrastive Learning [87.38675639186405]
我々は,動的に進化するグラフを連続的に扱う,TCLと呼ばれる新しいグラフニューラルネットワークアプローチを提案する。
我々の知る限りでは、これは動的グラフ上の表現学習にコントラスト学習を適用する最初の試みである。
論文 参考訳(メタデータ) (2021-05-17T15:33:25Z) - Knowledge Hypergraph Embedding Meets Relational Algebra [13.945694569456665]
本稿では,知識ハイパーグラフのリンク予測を行うReAlEと呼ばれるシンプルな埋め込みモデルを提案する。
理論上、reale は完全表現的であり、原始関係代数演算の大きな部分集合を表現できるという証明と経験的証拠を与える。
論文 参考訳(メタデータ) (2021-02-18T18:57:44Z) - Hyperbolic Graph Embedding with Enhanced Semi-Implicit Variational
Inference [48.63194907060615]
半単純グラフ変分自動エンコーダを用いて,低次元グラフ潜在表現における高次統計量を取得する。
我々は、階層構造を示すグラフを効率的に表現するために、ポインケア埋め込みを通して潜在空間に双曲幾何学を組み込む。
論文 参考訳(メタデータ) (2020-10-31T05:48:34Z) - LineaRE: Simple but Powerful Knowledge Graph Embedding for Link
Prediction [7.0294164380111015]
本研究では,4つの接続パターンと4つのマッピング特性をモデル化可能な新しい埋め込みモデルLineaREを提案する。
複数の実世界のデータセットに対する実験結果から、提案したLineaREモデルは、リンク予測タスクのための既存の最先端モデルよりも大幅に優れていることが示された。
論文 参考訳(メタデータ) (2020-04-21T14:19:43Z) - Tensor Graph Convolutional Networks for Multi-relational and Robust
Learning [74.05478502080658]
本稿では,テンソルで表されるグラフの集合に関連するデータから,スケーラブルな半教師付き学習(SSL)を実現するためのテンソルグラフ畳み込みネットワーク(TGCN)を提案する。
提案アーキテクチャは、標準的なGCNと比較して大幅に性能が向上し、最先端の敵攻撃に対処し、タンパク質間相互作用ネットワーク上でのSSL性能が著しく向上する。
論文 参考訳(メタデータ) (2020-03-15T02:33:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。