論文の概要: RatE: Relation-Adaptive Translating Embedding for Knowledge Graph
Completion
- arxiv url: http://arxiv.org/abs/2010.04863v1
- Date: Sat, 10 Oct 2020 01:30:30 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-08 22:28:55.308429
- Title: RatE: Relation-Adaptive Translating Embedding for Knowledge Graph
Completion
- Title(参考訳): RatE: 知識グラフ補完のための関係適応型翻訳埋め込み
- Authors: Hao Huang, Guodong Long, Tao Shen, Jing Jiang, Chengqi Zhang
- Abstract要約: 複素空間における新たな重み付き積の上に構築された関係適応変換関数を提案する。
次に、関係適応型翻訳埋め込み(RatE)アプローチを示し、各グラフを3倍にスコアする。
- 参考スコア(独自算出の注目度): 51.64061146389754
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Many graph embedding approaches have been proposed for knowledge graph
completion via link prediction. Among those, translating embedding approaches
enjoy the advantages of light-weight structure, high efficiency and great
interpretability. Especially when extended to complex vector space, they show
the capability in handling various relation patterns including symmetry,
antisymmetry, inversion and composition. However, previous translating
embedding approaches defined in complex vector space suffer from two main
issues: 1) representing and modeling capacities of the model are limited by the
translation function with rigorous multiplication of two complex numbers; and
2) embedding ambiguity caused by one-to-many relations is not explicitly
alleviated. In this paper, we propose a relation-adaptive translation function
built upon a novel weighted product in complex space, where the weights are
learnable, relation-specific and independent to embedding size. The translation
function only requires eight more scalar parameters each relation, but improves
expressive power and alleviates embedding ambiguity problem. Based on the
function, we then present our Relation-adaptive translating Embedding (RatE)
approach to score each graph triple. Moreover, a novel negative sampling method
is proposed to utilize both prior knowledge and self-adversarial learning for
effective optimization. Experiments verify RatE achieves state-of-the-art
performance on four link prediction benchmarks.
- Abstract(参考訳): 多くのグラフ埋め込み手法がリンク予測による知識グラフ補完のために提案されている。
これらのうち、翻訳埋め込みアプローチは軽量な構造、高い効率と高い解釈可能性の利点を享受している。
特に複素ベクトル空間に拡張すると、対称性、反対称性、反転、合成を含む様々な関係パターンを扱う能力を示す。
しかし、複素ベクトル空間で定義された過去の翻訳埋め込みアプローチは2つの主要な問題に悩まされている。
1) 2つの複素数の厳密な乗算を伴う翻訳関数によって,モデルの表現能力とモデル化能力が制限される。
2)一対多関係によるあいまいさの埋め込みは明示的に緩和されない。
本稿では,複素空間における新しい重み付き積に基づく関係適応翻訳関数を提案し,重み付けは学習可能であり,その重み付けは埋め込みサイズに依存しない。
翻訳関数は関係ごとに8つのスカラーパラメータしか必要としないが、表現力を改善し、埋め込みあいまいさの問題を軽減する。
この関数に基づいて、関係適応型翻訳埋め込み(RatE)アプローチを示し、各グラフを3倍にスコアする。
さらに,事前知識と自己学習の両方を効果的に最適化するために,新しいネガティブサンプリング手法を提案する。
RatEは4つのリンク予測ベンチマークで最先端のパフォーマンスを達成する。
関連論文リスト
- Knowledge Composition using Task Vectors with Learned Anisotropic Scaling [51.4661186662329]
本稿では,パラメータブロックと異なる学習係数を線形に組み合わせ,タスクベクトルレベルでの異方性スケーリングを実現するアルゴリズムであるaTLASを紹介する。
このような線形結合は事前学習されたモデルの低内在性を明示的に利用しており、学習可能なパラメータは数係数のみであることを示す。
本稿では,タスク算術,少数ショット認識,テスト時間適応において,教師なしあるいは教師なしの目的を用いた手法の有効性を実証する。
論文 参考訳(メタデータ) (2024-07-03T07:54:08Z) - Entity or Relation Embeddings? An Analysis of Encoding Strategies for Relation Extraction [19.019881161010474]
関係抽出は、本質的にはテキスト分類問題であり、事前学習言語モデル(LM)を微調整することで取り組める。
既存のアプローチでは、LMを微調整して頭と尾のエンティティの埋め込みを学習し、それらのエンティティの埋め込みから関係を予測する。
本稿では,より直接的な方法で関係を捉えることにより,関係抽出モデルを改善することができるという仮説を立てる。
論文 参考訳(メタデータ) (2023-12-18T09:58:19Z) - Disentangled Representation Learning with Transmitted Information Bottleneck [57.22757813140418]
textbfDisTIB (textbfTransmitted textbfInformation textbfBottleneck for textbfDisd representation learning) は情報圧縮と保存のバランスを保った新しい目的である。
論文 参考訳(メタデータ) (2023-11-03T03:18:40Z) - Understanding Augmentation-based Self-Supervised Representation Learning
via RKHS Approximation and Regression [53.15502562048627]
最近の研究は、自己教師付き学習とグラフラプラシアン作用素のトップ固有空間の近似との関係を構築している。
この研究は、増強に基づく事前訓練の統計的分析に発展する。
論文 参考訳(メタデータ) (2023-06-01T15:18:55Z) - Mutual Exclusivity Training and Primitive Augmentation to Induce
Compositionality [84.94877848357896]
最近のデータセットは、標準的なシーケンス・ツー・シーケンスモデルにおける体系的な一般化能力の欠如を露呈している。
本稿では,セq2seqモデルの振る舞いを分析し,相互排他バイアスの欠如と全例を記憶する傾向の2つの要因を同定する。
広範に使用されている2つの構成性データセット上で、標準的なシーケンス・ツー・シーケンスモデルを用いて、経験的改善を示す。
論文 参考訳(メタデータ) (2022-11-28T17:36:41Z) - ProjB: An Improved Bilinear Biased ProjE model for Knowledge Graph
Completion [1.5576879053213302]
この研究は、計算の複雑さが低く、モデル改善の可能性が高いため、ProjE KGEを改善する。
FB15KやWN18のようなベンチマーク知識グラフ(KG)の実験結果から、提案手法はエンティティ予測タスクにおける最先端モデルよりも優れていることが示された。
論文 参考訳(メタデータ) (2022-08-15T18:18:05Z) - TransHER: Translating Knowledge Graph Embedding with Hyper-Ellipsoidal
Restriction [14.636054717485207]
本稿では知識グラフ埋め込みのための新しいスコア関数TransHERを提案する。
我々のモデルでは、まずエンティティを2つの別々の超楕円体にマッピングし、その1つについて関係特異的な翻訳を行う。
実験結果から,TransHERは最先端のパフォーマンスを実現し,異なる領域やスケールのデータセットに一般化可能であることが示された。
論文 参考訳(メタデータ) (2022-04-27T22:49:27Z) - STaR: Knowledge Graph Embedding by Scaling, Translation and Rotation [20.297699026433065]
ビリニア法は知識グラフ埋め込み(KGE)において主流であり、実体と関係性の低次元表現を学習することを目的としている。
以前の研究では、主に非可換性のような6つの重要なパターンが発見されている。
上述の2つの部分からなるバイリニアモデルスケーリング翻訳・回転(STaR)を提案する。
論文 参考訳(メタデータ) (2022-02-15T02:06:22Z) - PairRE: Knowledge Graph Embeddings via Paired Relation Vectors [24.311361524872257]
関係表現毎にペア化されたベクトルを持つモデルであるPairREを提案する。
3つの重要な関係パターン、対称性/反対称性、逆および合成を符号化することができる。
挑戦的なOpen Graphベンチマークの2つのナレッジグラフデータセットに、最先端の新たなデータセットを設定しました。
論文 参考訳(メタデータ) (2020-11-07T16:09:03Z) - Cogradient Descent for Bilinear Optimization [124.45816011848096]
双線形問題に対処するために、CoGDアルゴリズム(Cogradient Descent Algorithm)を導入する。
一方の変数は、他方の変数との結合関係を考慮し、同期勾配降下をもたらす。
本アルゴリズムは,空間的制約下での1変数の問題を解くために応用される。
論文 参考訳(メタデータ) (2020-06-16T13:41:54Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。