Fugu-MT 論文翻訳(概要): Globally Correlation-Aware Hard Negative Generation

論文の概要: Globally Correlation-Aware Hard Negative Generation

arxiv url: http://arxiv.org/abs/2411.13145v1
Date: Wed, 20 Nov 2024 09:19:12 GMT
ステータス: 翻訳完了
システム内更新日: 2024-11-21 16:12:09.489328
Title: Globally Correlation-Aware Hard Negative Generation
Title（参考訳）: 相関性を考慮したハード負生成のグローバル化
Authors: Wenjie Peng, Hongxiang Huang, Tianshui Chen, Quhui Ke, Gang Dai, Shuangping Huang,
Abstract要約: 我々はGCA-HNG(Globally correlation-Aware Hard Negative Generation)フレームワークを提案する。 GCA-HNGはまず、グローバルな視点からサンプル相関を学習し、これらの相関を利用して、硬度適応的で多様な負を生成する。実験の結果,提案したGCA-HNGは4つの画像検索ベンチマークデータセットの関連手法よりも優れていることがわかった。
参考スコア（独自算出の注目度）: 10.01484541395438
License:
Abstract: Hard negative generation aims to generate informative negative samples that help to determine the decision boundaries and thus facilitate advancing deep metric learning. Current works select pair/triplet samples, learn their correlations, and fuse them to generate hard negatives. However, these works merely consider the local correlations of selected samples, ignoring global sample correlations that would provide more significant information to generate more informative negatives. In this work, we propose a Globally Correlation-Aware Hard Negative Generation (GCA-HNG) framework, which first learns sample correlations from a global perspective and exploits these correlations to guide generating hardness-adaptive and diverse negatives. Specifically, this approach begins by constructing a structured graph to model sample correlations, where each node represents a specific sample and each edge represents the correlations between corresponding samples. Then, we introduce an iterative graph message propagation to propagate the messages of node and edge through the whole graph and thus learn the sample correlations globally. Finally, with the guidance of the learned global correlations, we propose a channel-adaptive manner to combine an anchor and multiple negatives for HNG. Compared to current methods, GCA-HNG allows perceiving sample correlations with numerous negatives from a global and comprehensive perspective and generates the negatives with better hardness and diversity. Extensive experiment results demonstrate that the proposed GCA-HNG is superior to related methods on four image retrieval benchmark datasets. Codes and trained models are available at \url{https://github.com/PWenJay/GCA-HNG}.
Abstract（参考訳）: ハード・ネガティブ・ジェネレーションは、決定境界を決定するのに役立つ情報的負のサンプルを生成し、より深いメートル法学習を促進することを目的としている。現在の作業では、ペア/トリップレットのサンプルを選択し、相関関係を学習し、それらを融合してハードネガティブを生成する。しかしながら、これらの研究は、選択されたサンプルの局所的な相関を単に考慮し、より情報的な負を生成するためにより重要な情報を提供するグローバルなサンプル相関を無視している。本研究では,まずグローバルな視点からサンプル相関を学習し,これらの相関を利用して,強度適応型および多種多様な負を生成するGCA-HNG(Globally correlation-Aware Hard Negative Generation)フレームワークを提案する。具体的には、各ノードが特定のサンプルを示し、各エッジが対応するサンプル間の相関を表すような、サンプル相関をモデル化するための構造化グラフの構築から始まる。次に,グラフ全体を通してノードとエッジのメッセージを伝播する反復的なグラフメッセージ伝搬を導入し,サンプル相関をグローバルに学習する。最後に、学習したグローバル相関のガイダンスを用いて、HNGのアンカーと多重負を結合するチャネル適応方式を提案する。現在の手法と比較して、GCA-HNGは、大域的かつ包括的な視点から多くの負のサンプル相関を知覚し、より硬さと多様性のよい負を生成できる。その結果,提案したGAA-HNGは4つの画像検索ベンチマークデータセットの関連手法よりも優れていることがわかった。コードとトレーニングされたモデルは、 \url{https://github.com/PWenJay/GCA-HNG}で入手できる。

関連論文リスト

Diversified and Adaptive Negative Sampling on Knowledge Graphs [11.139278325106272]
本稿では,知識グラフ上での多変量および適応負値サンプリングDANS(Diversified and Adaptive Negative Smpling DANS)手法を提案する。 DANSは2つの経路を通じてより多様な負の三重項を生成する双方向ジェネレータと、よりきめ細かい例を生成する適応機構を備えている。一方,2方向ジェネレータはより多様な負の例で全体の情報量を増加させる一方,適応機構はよりきめ細かなサンプリングによって個々の情報量を増加させる。
論文参考訳（メタデータ） (2024-10-10T03:53:49Z)
Graph Out-of-Distribution Generalization via Causal Intervention [69.70137479660113]
本稿では,ノードレベルの分散シフトの下で頑健なグラフニューラルネットワーク(GNN)をトレーニングするための,概念的に単純だが原則化されたアプローチを提案する。本手法は,環境推定器と熟練GNN予測器を協調する因果推論に基づく新たな学習目標を提案する。本モデルでは,様々な分散シフトによる一般化を効果的に向上し,グラフOOD一般化ベンチマーク上での最先端の精度を最大27.4%向上させることができる。
論文参考訳（メタデータ） (2024-02-18T07:49:22Z)
GUESR: A Global Unsupervised Data-Enhancement with Bucket-Cluster Sampling for Sequential Recommendation [58.6450834556133]
本研究では,グローバルな視点から複雑な関連性を持つ項目表現を強化するために,グラフコントラスト学習を提案する。本稿では,CapsNetモジュールを拡張したターゲットアテンション機構により,ユーザの動的嗜好を導出する。提案したGUESRは,大幅な改善を達成できただけでなく,汎用的な拡張戦略ともみなすことができた。
論文参考訳（メタデータ） (2023-03-01T05:46:36Z)
Enhancing Graph Contrastive Learning with Node Similarity [4.60032347615771]
グラフコントラスト学習(GCL)は、自己教師型学習の代表的なフレームワークである。 GCLは、意味的に類似したノード(正のサンプル)と異種ノード(負のサンプル)とアンカーノードとの対比によってノード表現を学習する。本稿では,全ての正のサンプルと偽陰性サンプルを含まない拡張目的を提案する。
論文参考訳（メタデータ） (2022-08-13T22:49:20Z)
Generating Counterfactual Hard Negative Samples for Graph Contrastive Learning [22.200011046576716]
グラフコントラスト学習は教師なしグラフ表現学習の強力なツールである。最近の研究は、通常、正のサンプルと同一のトレーニングバッチから、または外部の無関係なグラフから、負のサンプルをサンプリングする。我々は、textbfCounterfactual Mechanism を利用して、TextbfContrastive Learning のための人工的硬質負のサンプルを生成する方法を提案する。
論文参考訳（メタデータ） (2022-07-01T02:19:59Z)
Language Model-driven Negative Sampling [8.299192665823542]
知識グラフ埋め込み(KGE)は、究極の下流タスク(リンク予測、質問応答)の表現学習と推論を目的として、知識グラフ(KG)の実体と関係をベクトル空間に符号化する。 KGE はクローズドワールドの仮定に従い、KG の現在のすべての事実を正(正)であると仮定するので、既存の三重項の真性テストの学習過程において、負のサンプルを必要とする。そこで本稿では,KGsにおける既存のリッチテキスト知識を考慮したネガティブサンプリング手法を提案する。
論文参考訳（メタデータ） (2022-03-09T13:27:47Z)
Prototypical Graph Contrastive Learning [141.30842113683775]
本稿では,有意なサンプリングバイアスを緩和するために,プロトタイプグラフコントラスト学習(PGCL)手法を提案する。具体的には、PGCLは、グラフデータの基盤となる意味構造を、意味論的に類似したグラフを同じグループにクラスタリングすることでモデル化し、同時に、同じグラフの異なる拡張に対するクラスタリング一貫性を奨励する。クエリのために、PGCLはさらに、プロトタイプ(クラスタセントロイド)とクエリプロトタイプの間の距離に基づいて、負のサンプルを再重み付けする。
論文参考訳（メタデータ） (2021-06-17T16:45:31Z)
Relation-aware Graph Attention Model With Adaptive Self-adversarial Training [29.240686573485718]
本稿では,不均一なマルチリレーショナルグラフにおける関係予測タスクのエンドツーエンドソリューションについて述べる。特にパイプライン内の2つのビルディングブロック、すなわちヘテロジニアスグラフ表現学習と負のサンプリングに対処する。パラメータフリーな負のサンプリング手法であるadaptive self-adversarial (asa) 負のサンプリングを導入する。
論文参考訳（メタデータ） (2021-02-14T16:11:56Z)
GANs with Variational Entropy Regularizers: Applications in Mitigating the Mode-Collapse Issue [95.23775347605923]
深層学習の成功に基づいて、GAN(Generative Adversarial Networks)は、観測されたサンプルから確率分布を学習するための現代的なアプローチを提供する。 GANはしばしば、ジェネレータが入力分布の既存のすべてのモードをキャプチャできないモード崩壊問題に悩まされる。情報理論のアプローチを採り、生成したサンプルのエントロピーの変動的下限を最大化し、それらの多様性を増大させる。
論文参考訳（メタデータ） (2020-09-24T19:34:37Z)
Understanding Negative Sampling in Graph Representation Learning [87.35038268508414]
最適化目標と結果のばらつきを決定するためには, 正のサンプリングと同様に負のサンプリングが重要であることを示す。我々は,自己コントラスト近似による正の分布を近似し,メトロポリス・ハスティングスによる負のサンプリングを高速化するメトロポリス・ハスティングス(MCNS)を提案する。提案手法は,リンク予測,ノード分類,パーソナライズドレコメンデーションを含む,下流グラフ学習タスクをカバーする5つのデータセットに対して評価する。
論文参考訳（メタデータ） (2020-05-20T06:25:21Z)
Reinforced Negative Sampling over Knowledge Graph for Recommendation [106.07209348727564]
我々は、高品質なネガティブを探索する強化学習エージェントとして機能する新しい負サンプリングモデル、知識グラフポリシーネットワーク(kgPolicy)を開発した。 kgPolicyは、ターゲットのポジティブなインタラクションからナビゲートし、知識を意識したネガティブなシグナルを適応的に受信し、最終的にはリコメンダをトレーニングする潜在的なネガティブなアイテムを生成する。
論文参考訳（メタデータ） (2020-03-12T12:44:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。