論文の概要: Relation Prediction as an Auxiliary Training Objective for Improving
Multi-Relational Graph Representations
- arxiv url: http://arxiv.org/abs/2110.02834v1
- Date: Wed, 6 Oct 2021 15:09:32 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-07 21:54:56.911979
- Title: Relation Prediction as an Auxiliary Training Objective for Improving
Multi-Relational Graph Representations
- Title(参考訳): 多元関係グラフ表現改善のための補助訓練目標としての関係予測
- Authors: Yihong Chen, Pasquale Minervini, Sebastian Riedel, Pontus Stenetorp
- Abstract要約: マルチリレーショナルグラフ表現学習のための自己指導型学習目標を提案する。
新しい訓練目標には、与えられた三重項の主題と対象を予測する用語だけでなく、関係型を予測する用語も含まれている。
様々なデータセットとモデルの実験により、関係予測がエンティティのランキングを大幅に改善できることが示されている。
- 参考スコア(独自算出の注目度): 28.09811898820369
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Learning good representations on multi-relational graphs is essential to
knowledge base completion (KBC). In this paper, we propose a new
self-supervised training objective for multi-relational graph representation
learning, via simply incorporating relation prediction into the commonly used
1vsAll objective. The new training objective contains not only terms for
predicting the subject and object of a given triple, but also a term for
predicting the relation type. We analyse how this new objective impacts
multi-relational learning in KBC: experiments on a variety of datasets and
models show that relation prediction can significantly improve entity ranking,
the most widely used evaluation task for KBC, yielding a 6.1% increase in MRR
and 9.9% increase in Hits@1 on FB15k-237 as well as a 3.1% increase in MRR and
3.4% in Hits@1 on Aristo-v4. Moreover, we observe that the proposed objective
is especially effective on highly multi-relational datasets, i.e. datasets with
a large number of predicates, and generates better representations when larger
embedding sizes are used.
- Abstract(参考訳): 多元関係グラフ上で良い表現を学ぶことは知識ベース補完(kbc)に不可欠である。
本稿では,汎用の1vsall目標に関係予測を組み込むことにより,多元関係グラフ表現学習のための新しい自己教師付き学習目標を提案する。
新しい訓練目標には、与えられた三重項の主題と対象を予測する用語だけでなく、関係型を予測する用語も含まれている。
この新たな目的がKBCのマルチリレーショナル学習に与える影響を分析した結果,さまざまなデータセットやモデルを用いた実験により,KBCの最も広く使用されている評価タスクであるエンティティランキングが大幅に向上し,FB15k-237ではHits@1が6.1%,FB15k-237ではHits@1が9.9%,Aristo-v4ではHits@1が3.1%,Hits@1が3.4%増加した。
さらに,提案手法は,多項データセット,すなわち,多くの述語を持つデータセットにおいて特に有効であり,より大きな埋め込みサイズを使用する場合には,より優れた表現を生成する。
関連論文リスト
- MUSE: Integrating Multi-Knowledge for Knowledge Graph Completion [0.0]
知識グラフ補完(KGC)は、欠落した(リレーション)部分(ヘッドエンティティ)--(リレーション]->(テールエンティティ)三重項を予測することを目的としている。
既存のKGCメソッドのほとんどは、単一の特徴(例えば、関係型)やサブグラフアグリゲーションに焦点を当てている。
本稿では,知識認識型推論モデル(MUSE)を提案する。
論文 参考訳(メタデータ) (2024-09-26T04:48:20Z) - MUSE: Multi-Knowledge Passing on the Edges, Boosting Knowledge Graph Completion [0.0]
Knowledge Graph Completionは、(ヘッドエンティティ)-[リレーション]-(テールエンティティ)三重項の不足情報を予測することを目的としています。
本稿では,3次元の埋め込み空間を学習する知識認識推論モデル MUSE を提案する。
実験の結果,MUSEは4つの公開データセットにおいて,他のベースラインよりも有意に優れていた。
論文 参考訳(メタデータ) (2024-08-09T18:10:02Z) - Bad Students Make Great Teachers: Active Learning Accelerates Large-Scale Visual Understanding [9.112203072394648]
パワーロースケーリングは、均一サンプリングによる大規模トレーニングが違法に遅いことを示している。
アクティブな学習手法は、最も関係のある事例に基づいて学習を優先順位付けすることで、データの効率を向上させることを目的としている。
論文 参考訳(メタデータ) (2023-12-08T19:26:13Z) - Evaluating and Incentivizing Diverse Data Contributions in Collaborative
Learning [89.21177894013225]
フェデレートされた学習モデルがうまく機能するためには、多様で代表的なデータセットを持つことが不可欠である。
データの多様性を定量化するために用いられる統計的基準と、使用するフェデレート学習アルゴリズムの選択が、結果の平衡に有意な影響を及ぼすことを示す。
我々はこれを活用して、データ収集者がグローバルな人口を代表するデータに貢献することを奨励する、シンプルな最適なフェデレーション学習機構を設計する。
論文 参考訳(メタデータ) (2023-06-08T23:38:25Z) - Continual Contrastive Finetuning Improves Low-Resource Relation
Extraction [34.76128090845668]
関係抽出は低リソースのシナリオやドメインでは特に困難である。
近年の文献は自己教師型学習によって低リソースREに取り組みつつある。
コントラスト学習の一貫した目的を用いたREモデルの事前学習と微調整を提案する。
論文 参考訳(メタデータ) (2022-12-21T07:30:22Z) - LP-BERT: Multi-task Pre-training Knowledge Graph BERT for Link
Prediction [3.5382535469099436]
LP-BERTは、マルチタスク事前学習と知識グラフ微調整の2つのトレーニング段階を含む。
WN18RRとUMLSデータセット、特にHits@10インジケータを5%改善した。
論文 参考訳(メタデータ) (2022-01-13T09:18:30Z) - MSeg: A Composite Dataset for Multi-domain Semantic Segmentation [100.17755160696939]
セマンティックセグメンテーションデータセットを異なるドメインから統合する合成データセットであるMSegを提案する。
一般化と画素レベルのアノテーションのアライメントを調整し,2万枚以上のオブジェクトマスクを8万枚以上の画像で再現する。
MSegでトレーニングされたモデルは、WildDash-v1のリーダーボードで、トレーニング中にWildDashのデータに触れることなく、堅牢なセマンティックセグメンテーションのためにランク付けされている。
論文 参考訳(メタデータ) (2021-12-27T16:16:35Z) - KGE-CL: Contrastive Learning of Knowledge Graph Embeddings [64.67579344758214]
本稿では,知識グラフ埋め込みのための簡易かつ効率的な学習フレームワークを提案する。
これは、関連するエンティティと異なる三重項におけるエンティティ-リレーションのカップルのセマンティック距離を短縮することができる。
WN18RRデータセットで51.2% MRR、46.8% Hits@1、59.1% MRR、51.8% Hits@1、YAGO3-10データセットで達成できる。
論文 参考訳(メタデータ) (2021-12-09T12:45:33Z) - Combining Task Predictors via Enhancing Joint Predictability [53.46348489300652]
そこで本研究では,目標予測能力に基づいて参照の関連性を測定し,その関連性を高めるための新しい予測器組合せアルゴリズムを提案する。
提案アルゴリズムはベイズフレームワークを用いて,すべての参照の関連性について共同で評価する。
視覚属性ランキングとマルチクラス分類シナリオから得られた実世界の7つのデータセットの実験に基づいて,本アルゴリズムが性能向上に寄与し,既存の予測器の組み合わせアプローチの適用範囲を広くすることを示した。
論文 参考訳(メタデータ) (2020-07-15T21:58:39Z) - Novel Human-Object Interaction Detection via Adversarial Domain
Generalization [103.55143362926388]
本研究では,新たな人-物間相互作用(HOI)検出の問題点を考察し,モデルの一般化能力を向上させることを目的とした。
この課題は、主に対象と述語の大きな構成空間に起因し、全ての対象と述語の組み合わせに対する十分な訓練データが欠如している。
本稿では,予測のためのオブジェクト指向不変の特徴を学習するために,対数領域の一般化の統一的な枠組みを提案する。
論文 参考訳(メタデータ) (2020-05-22T22:02:56Z) - A Simple Framework for Contrastive Learning of Visual Representations [116.37752766922407]
本稿では,視覚表現のコントラスト学習のためのシンプルなフレームワークであるSimCLRについて述べる。
我々は,データ拡張の構成が効果的な予測タスクを定義する上で重要な役割を担っていることを示す。
我々は、ImageNet上での自己教師付き半教師付き学習において、従来の手法よりもかなり優れています。
論文 参考訳(メタデータ) (2020-02-13T18:50:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。