論文の概要: How Many and How Much? Contrastive Learning with Negative Samples for Knowledge Graph Embedding
- arxiv url: http://arxiv.org/abs/2610.37389v1
- Date: Tue, 27 Oct 2026 15:12:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-28 21:04:31.672339
- Title: How Many and How Much? Contrastive Learning with Negative Samples for Knowledge Graph Embedding
- Title（参考訳）: 負のサンプルを用いた知識グラフ埋め込みの対比学習
- Abstract要約: 2つの効果的な戦略を持つKGEモデルのための新しいコントラスト学習フレームワークであるRADARを提案する。
RADARは, 従来の固定予算法と比較して, 全モデル--KG組み合わせの平均KGE性能を向上し, サンプル偽陰性率を90%以上低減することを示した。
- 参考スコア（独自算出の注目度）: 0.5271072635937927
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Knowledge graph embedding (KGE), a fundamental technique for knowledge-centric Web and KG-augmented AI applications, is commonly trained through contrastive learning with negative samples to learn discriminative representations. Despite its empirical success, two crucial questions regarding negative samples remain underexplored: (Q1) how many negative samples should be used for each positive sample and (Q2) how much should each negative sample contribute to learning? To answer these questions, we propose RADAR, a novel contrastive learning framework for KGE models with two effective strategies, respectively: (1) Risk-aware negative budget allocation quantifies false-negative sampling risk by modeling an open-world KG as a stochastic partial observation of its closed-world counterpart and adaptively assigns a negative budget to each positive sample based on its risk; (2) Distribution-calibrated negative weighting assigns negative weights by calibrating the weighting strength for each positive based on two complementary characteristics of the negative-score distribution: dispersion and concentration. Extensive experiments on 3 real-world KGs with 4 KGE models reveal that RADAR achieves the best KGE performance on average across all model--KG combinations and reduces sampled false negatives by over 90% compared with conventional fixed-budget methods.
- Abstract（参考訳）: 知識グラフ埋め込み(KGE)は、知識中心のWebとKG強化AIアプリケーションの基本技術であり、否定的なサンプルを用いた対照的な学習を通じて、差別的な表現を学ぶために一般的に訓練されている。
実証的な成功にもかかわらず、陰性サンプルに関する2つの重要な疑問が未解決のままである: (Q1) 各正のサンプルに対して負のサンプルをいくつ使うべきか (Q2) 各負のサンプルが学習にどの程度貢献すべきか?
これらの疑問に答えるために, RADARは, リスク対応負の予算配分を, オープンワールドのKGを確率的部分的観察としてモデル化し, 負の予算をそれぞれの正のサンプルに適応的に割り当てることにより, 偽の正のサンプリングリスクを定量化すること, 2) 負のスコア分布の2つの相補的特性に基づいて, 負の重み付け強度を校正して負の重み付けを行う。
4つのKGEモデルを持つ3つの実世界のKGに対する大規模な実験により、RADARは全てのモデル--KGの組み合わせで平均して最高のKGE性能を達成し、従来の固定予算法と比較して90%以上のサンプル偽陰性を減少させることがわかった。
関連論文リスト
- What Really Works for Universal Multimodal Embeddings? A Controlled Study of Contrastive Training Strategies [52.38593911447628]
本研究では,制御された再現可能な条件下でのコントラストトレーニング戦略の有効性について検討した。
既存の戦略のほとんどは、標準に整合したベースラインよりも限界的な利益をもたらし、全体的なパフォーマンスをさらに低下させています。
本研究は,一般的なコントラスト戦略を実証し,汎用マルチモーダル埋め込みモデルのトレーニングに有効なレシピを提供する。
論文 参考訳（メタデータ） (2026-10-10T16:19:27Z) - From Overfitting to Robustness: Quantity, Quality, and Variety Oriented Negative Sample Selection in Graph Contrastive Learning [38.87932592059369]
グラフコントラスト学習(GCL)は、ノードの埋め込みを学習する正負の学習と対比することを目的としている。
ノード分類下流タスクにおける有意義な埋め込み学習において, 正のサンプルと比較して, 負のサンプルの変化, 量, 品質が重要な役割を担っている。
本研究では, 負のサンプルの品質, バリエーション, 量について包括的に検討し, 新たな累積サンプル選択法を提案する。
論文 参考訳（メタデータ） (2024-06-21T10:47:26Z) - Contrastive Learning with Negative Sampling Correction [52.990001829393506]
PUCL(Positive-Unlabeled Contrastive Learning)という新しいコントラスト学習手法を提案する。
PUCLは生成した負のサンプルをラベルのないサンプルとして扱い、正のサンプルからの情報を用いて、対照的な損失のバイアスを補正する。
PUCLは一般的なコントラスト学習問題に適用でき、様々な画像やグラフの分類タスクにおいて最先端の手法より優れている。
論文 参考訳（メタデータ） (2024-01-13T11:18:18Z) - Entity Aware Negative Sampling with Auxiliary Loss of False Negative
Prediction for Knowledge Graph Embedding [0.0]
我々はEANS(Entity Aware Negative Smpling)と呼ばれる新しい手法を提案する。
EANSは、整列した実体指数空間にガウス分布を採用することにより、正に類似した負の実体をサンプリングすることができる。
提案手法は, 正のサンプルサイズによらず高品質な負のサンプルを生成し, 偽の負のサンプルの影響を効果的に軽減することができる。
論文 参考訳（メタデータ） (2022-10-12T14:27:51Z) - Language Model-driven Negative Sampling [8.299192665823542]
知識グラフ埋め込み(KGE)は、究極の下流タスク(リンク予測、質問応答)の表現学習と推論を目的として、知識グラフ(KG)の実体と関係をベクトル空間に符号化する。
KGE はクローズドワールドの仮定に従い、KG の現在のすべての事実を正(正)であると仮定するので、既存の三重項の真性テストの学習過程において、負のサンプルを必要とする。
そこで本稿では,KGsにおける既存のリッチテキスト知識を考慮したネガティブサンプリング手法を提案する。
論文 参考訳（メタデータ） (2022-03-09T13:27:47Z) - MixKG: Mixing for harder negative samples in knowledge graph [33.4379457065033]
知識グラフ埋め込み(KGE)は、多くの実世界のアプリケーションのための低次元ベクトルへの実体と関係を表現することを目的としている。
そこで本研究では,知識グラフのより厳しい負のサンプルを生成するために,MixKGという安価で効果的な手法を提案する。
2つの公開データセットと4つの古典的KGE手法の実験は、MixKGが以前の負サンプリングアルゴリズムよりも優れていることを示している。
論文 参考訳（メタデータ） (2022-02-19T13:31:06Z) - Rethinking InfoNCE: How Many Negative Samples Do You Need? [54.146208195806636]
半定量的理論フレームワークを用いて, InfoNCE に最適化された負のサンプル数について検討した。
トレーニングの有効性関数を最大化する$K$値を用いて,最適負サンプリング比を推定する。
論文 参考訳（メタデータ） (2021-05-27T08:38:29Z) - Doubly Contrastive Deep Clustering [135.7001508427597]
本稿では、サンプルビューとクラスビューの両方でコントラスト損失を構築する新しい二重コントラストディープクラスタリング(DCDC)フレームワークを紹介します。
具体的には、サンプルビューに対して、元のサンプルとその拡張バージョンのクラス分布を正のサンプルペアとして設定する。
クラスビューでは、クラスのサンプル分布から正のペアと負のペアを構築します。
このように、2つのコントラスト損失は、サンプルとクラスレベルでのミニバッチサンプルのクラスタリング結果をうまく制限します。
論文 参考訳（メタデータ） (2021-03-09T15:15:32Z) - Understanding Negative Sampling in Graph Representation Learning [87.35038268508414]
最適化目標と結果のばらつきを決定するためには, 正のサンプリングと同様に負のサンプリングが重要であることを示す。
我々は,自己コントラスト近似による正の分布を近似し,メトロポリス・ハスティングスによる負のサンプリングを高速化するメトロポリス・ハスティングス(MCNS)を提案する。
提案手法は,リンク予測,ノード分類,パーソナライズドレコメンデーションを含む,下流グラフ学習タスクをカバーする5つのデータセットに対して評価する。
論文 参考訳（メタデータ） (2020-05-20T06:25:21Z) - Reinforced Negative Sampling over Knowledge Graph for Recommendation [106.07209348727564]
我々は、高品質なネガティブを探索する強化学習エージェントとして機能する新しい負サンプリングモデル、知識グラフポリシーネットワーク(kgPolicy)を開発した。
kgPolicyは、ターゲットのポジティブなインタラクションからナビゲートし、知識を意識したネガティブなシグナルを適応的に受信し、最終的にはリコメンダをトレーニングする潜在的なネガティブなアイテムを生成する。
論文 参考訳（メタデータ） (2020-03-12T12:44:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。