論文の概要: Entity Aware Negative Sampling with Auxiliary Loss of False Negative
Prediction for Knowledge Graph Embedding
- arxiv url: http://arxiv.org/abs/2210.06242v1
- Date: Wed, 12 Oct 2022 14:27:51 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-13 13:01:15.582169
- Title: Entity Aware Negative Sampling with Auxiliary Loss of False Negative
Prediction for Knowledge Graph Embedding
- Title（参考訳）: 知識グラフ埋め込みのための偽負予測の補助損失を伴うエンティティ認識負サンプリング
- Authors: Sang-Hyun Je
- Abstract要約: 我々はEANS(Entity Aware Negative Smpling)と呼ばれる新しい手法を提案する。
EANSは、整列した実体指数空間にガウス分布を採用することにより、正に類似した負の実体をサンプリングすることができる。
提案手法は, 正のサンプルサイズによらず高品質な負のサンプルを生成し, 偽の負のサンプルの影響を効果的に軽減することができる。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Knowledge graph (KG) embedding is widely used in many downstream applications
using KGs. Generally, since KGs contain only ground truth triples, it is
necessary to construct arbitrary negative samples for representation learning
of KGs. Recently, various methods for sampling high-quality negatives have been
studied because the quality of negative triples has great effect on KG
embedding. In this paper, we propose a novel method called Entity Aware
Negative Sampling (EANS), which is able to sample negative entities resemble to
positive one by adopting Gaussian distribution to the aligned entity index
space. Additionally, we introduce auxiliary loss for false negative prediction
that can alleviate the impact of the sampled false negative triples. The
proposed method can generate high-quality negative samples regardless of
negative sample size and effectively mitigate the influence of false negative
samples. The experimental results on standard benchmarks show that our EANS
outperforms existing the state-of-the-art methods of negative sampling on
several knowledge graph embedding models. Moreover, the proposed method
achieves competitive performance even when the number of negative samples is
limited to only one.
- Abstract（参考訳）: 知識グラフ(KG)埋め込みは、KGを用いた多くの下流アプリケーションで広く使われている。
一般に、KGsは三重項のみを含むため、KGsの表現学習のための任意の負のサンプルを構築する必要がある。
近年, 負三重項の品質がKGの埋め込みに大きく影響するため, 高品質な負のサンプリング法が研究されている。
本稿では, 正に類似する負のエンティティを, 整列したエンティティインデックス空間にガウス分布を適用してサンプリングできる Entity Aware Negative Smpling (EANS) という新しい手法を提案する。
さらに,サンプルされた偽陰性三重項の影響を緩和できる偽陰性予測のための補助損失を導入する。
提案手法は, 負の試料サイズに関わらず高品質な負の試料を生成でき, 偽の負の試料の影響を効果的に軽減できる。
標準ベンチマークにおける実験結果から,我々のeanは,いくつかの知識グラフ埋め込みモデルにおいて,既存の負サンプリングの最先端手法よりも優れていることが示された。
さらに, 負のサンプル数が1つに制限された場合でも, 提案手法は競合性能を得る。
関連論文リスト
- From Overfitting to Robustness: Quantity, Quality, and Variety Oriented Negative Sample Selection in Graph Contrastive Learning [38.87932592059369]
グラフコントラスト学習(GCL)は、ノードの埋め込みを学習する正負の学習と対比することを目的としている。
ノード分類下流タスクにおける有意義な埋め込み学習において, 正のサンプルと比較して, 負のサンプルの変化, 量, 品質が重要な役割を担っている。
本研究では, 負のサンプルの品質, バリエーション, 量について包括的に検討し, 新たな累積サンプル選択法を提案する。
論文 参考訳（メタデータ） (2024-06-21T10:47:26Z) - Contrastive Learning with Negative Sampling Correction [52.990001829393506]
PUCL(Positive-Unlabeled Contrastive Learning)という新しいコントラスト学習手法を提案する。
PUCLは生成した負のサンプルをラベルのないサンプルとして扱い、正のサンプルからの情報を用いて、対照的な損失のバイアスを補正する。
PUCLは一般的なコントラスト学習問題に適用でき、様々な画像やグラフの分類タスクにおいて最先端の手法より優れている。
論文 参考訳（メタデータ） (2024-01-13T11:18:18Z) - Your Negative May not Be True Negative: Boosting Image-Text Matching
with False Negative Elimination [62.18768931714238]
提案手法は, サンプリングによる新規な偽陰性除去 (FNE) 戦略である。
その結果,提案した偽陰性除去戦略の優位性が示された。
論文 参考訳（メタデータ） (2023-08-08T16:31:43Z) - SimANS: Simple Ambiguous Negatives Sampling for Dense Text Retrieval [126.22182758461244]
評価結果によると, 正の値にランク付けされた負の値は, 一般的にはより情報的であり, 偽陰の可能性が低いことがわかった。
そこで本研究では,よりあいまいな負のサンプリングに新しいサンプリング確率分布を組み込んだ,単純な曖昧な負のサンプリング手法であるSimANSを提案する。
論文 参考訳（メタデータ） (2022-10-21T07:18:05Z) - Negative Sampling for Recommendation [7.758275614033198]
高品質なネガティブなインスタンスを効果的にサンプルする方法は、レコメンデーションモデルを適切にトレーニングするために重要である。
我々は、高品質なネガティブは、テクスチュンフォームネスとテクスチュンバイアスネスの両方であるべきだと論じる。
論文 参考訳（メタデータ） (2022-04-02T09:50:19Z) - Language Model-driven Negative Sampling [8.299192665823542]
知識グラフ埋め込み(KGE)は、究極の下流タスク(リンク予測、質問応答)の表現学習と推論を目的として、知識グラフ(KG)の実体と関係をベクトル空間に符号化する。
KGE はクローズドワールドの仮定に従い、KG の現在のすべての事実を正(正)であると仮定するので、既存の三重項の真性テストの学習過程において、負のサンプルを必要とする。
そこで本稿では,KGsにおける既存のリッチテキスト知識を考慮したネガティブサンプリング手法を提案する。
論文 参考訳（メタデータ） (2022-03-09T13:27:47Z) - MixKG: Mixing for harder negative samples in knowledge graph [33.4379457065033]
知識グラフ埋め込み(KGE)は、多くの実世界のアプリケーションのための低次元ベクトルへの実体と関係を表現することを目的としている。
そこで本研究では,知識グラフのより厳しい負のサンプルを生成するために,MixKGという安価で効果的な手法を提案する。
2つの公開データセットと4つの古典的KGE手法の実験は、MixKGが以前の負サンプリングアルゴリズムよりも優れていることを示している。
論文 参考訳（メタデータ） (2022-02-19T13:31:06Z) - Rethinking InfoNCE: How Many Negative Samples Do You Need? [54.146208195806636]
半定量的理論フレームワークを用いて, InfoNCE に最適化された負のサンプル数について検討した。
トレーニングの有効性関数を最大化する$K$値を用いて,最適負サンプリング比を推定する。
論文 参考訳（メタデータ） (2021-05-27T08:38:29Z) - Understanding Negative Sampling in Graph Representation Learning [87.35038268508414]
最適化目標と結果のばらつきを決定するためには, 正のサンプリングと同様に負のサンプリングが重要であることを示す。
我々は,自己コントラスト近似による正の分布を近似し,メトロポリス・ハスティングスによる負のサンプリングを高速化するメトロポリス・ハスティングス(MCNS)を提案する。
提案手法は,リンク予測,ノード分類,パーソナライズドレコメンデーションを含む,下流グラフ学習タスクをカバーする5つのデータセットに対して評価する。
論文 参考訳（メタデータ） (2020-05-20T06:25:21Z) - Reinforced Negative Sampling over Knowledge Graph for Recommendation [106.07209348727564]
我々は、高品質なネガティブを探索する強化学習エージェントとして機能する新しい負サンプリングモデル、知識グラフポリシーネットワーク(kgPolicy)を開発した。
kgPolicyは、ターゲットのポジティブなインタラクションからナビゲートし、知識を意識したネガティブなシグナルを適応的に受信し、最終的にはリコメンダをトレーニングする潜在的なネガティブなアイテムを生成する。
論文 参考訳（メタデータ） (2020-03-12T12:44:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。