論文の概要: Divergence-Based Similarity Function for Multi-View Contrastive Learning

• arxiv url: http://arxiv.org/abs/2507.06560v1
• Date: Wed, 09 Jul 2025 05:28:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-10 17:37:43.483064
• Title: Divergence-Based Similarity Function for Multi-View Contrastive Learning
• Title（参考訳）: 多視点コントラスト学習のための多様性に基づく類似性関数
• Authors: Jae Hyoung Jeon, Cheolsu Lim, Myungjoo Kang,
• Abstract要約: 本稿では,各拡張ビューの集合を分布として表現することにより,結合構造を捉える分散型類似関数(DSF)を提案する。 大規模な実験により、DSFはkNN分類や線形評価など、様々なタスクにおけるパフォーマンスを一貫して改善することが示された。
• 参考スコア（独自算出の注目度）: 5.330266804358638
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent success in contrastive learning has sparked growing interest in more effectively leveraging multiple augmented views of an instance. While prior methods incorporate multiple views at the loss or feature level, they primarily capture pairwise relationships and fail to model the joint structure across all views. In this work, we propose a divergence-based similarity function (DSF) that explicitly captures the joint structure by representing each set of augmented views as a distribution and measuring similarity as the divergence between distributions. Extensive experiments demonstrate that DSF consistently improves performance across various tasks, including kNN classification and linear evaluation, while also offering greater efficiency compared to other multi-view methods. Furthermore, we establish a theoretical connection between DSF and cosine similarity, and show that, unlike cosine similarity, DSF operates effectively without requiring a temperature hyperparameter.
• Abstract（参考訳）: 対照的な学習の最近の成功は、インスタンスの複数の拡張ビューをより効果的に活用することへの関心が高まっている。 従来の手法では、損失や特徴レベルで複数のビューが組み込まれていたが、主にペアワイズな関係を捉え、すべてのビューでジョイント構造をモデル化できない。 本研究では,各拡張ビューの集合を分布として表現し,類似度を分布間の分岐として測定することにより,結合構造を明示的にキャプチャする分散型類似度関数(DSF)を提案する。 大規模な実験により、DSFは、kNN分類や線形評価など、様々なタスクにおけるパフォーマンスを一貫して改善すると同時に、他のマルチビュー手法よりも高い効率を提供することを示した。 さらに, DSFとコサイン類似性の理論的関係を確立し, コサイン類似性とは異なり, DSFは温度ハイパーパラメータを必要とせずに効果的に動作することを示した。

関連論文リスト

• Balancing Similarity and Complementarity for Federated Learning [91.65503655796603]
  フェデレートラーニング(FL)は、モバイルとIoTシステムにおいてますます重要になっている。 FLの重要な課題の1つは、非i.d.データのような統計的不均一性を管理することである。 FL協調における類似性と相補性のバランスをとる新しいフレームワークである texttFedSaC を導入する。
  論文  参考訳（メタデータ） (2024-05-16T08:16:19Z)
• Identical and Fraternal Twins: Fine-Grained Semantic Contrastive Learning of Sentence Representations [6.265789210037749]
  コントラスト学習フレームワークのIdentical Twins と Fraternal Twins を導入する。 また,提案したツインズ・ロスの有効性を証明するために,概念実証実験と対照的な目的を組み合わせる。
  論文  参考訳（メタデータ） (2023-07-20T15:02:42Z)
• Attributable Visual Similarity Learning [90.69718495533144]
  本稿では、画像間のより正確で説明可能な類似度測定のための帰属的視覚類似度学習(AVSL)フレームワークを提案する。 人間の意味的類似性認知に動機づけられた2つの画像とグラフとの類似性を表現するために,一般化された類似性学習パラダイムを提案する。 CUB-200-2011、Cars196、Stanford Online Productsデータセットの実験は、既存の深い類似性学習方法よりも大幅に改善されたことを示している。
  論文  参考訳（メタデータ） (2022-03-28T17:35:31Z)
• Weak Augmentation Guided Relational Self-Supervised Learning [80.0680103295137]
  本稿では、異なるインスタンス間の関係をモデル化して表現を学習する新しいリレーショナル自己教師型学習(ReSSL)フレームワークを提案する。 提案手法では,異なるインスタンス間でのペアワイズ類似度の分布を,テクトitrelationmetricとして高めている。 実験の結果,提案したReSSLは,ネットワークアーキテクチャの異なる最先端手法よりも大幅に優れていた。
  論文  参考訳（メタデータ） (2022-03-16T16:14:19Z)
• ReSSL: Relational Self-Supervised Learning with Weak Augmentation [68.47096022526927]
  自己教師付き学習は、データアノテーションなしで視覚表現を学ぶことに成功しました。 本稿では,異なるインスタンス間の関係をモデル化して表現を学習する新しいリレーショナルSSLパラダイムを提案する。 提案したReSSLは,性能とトレーニング効率の両面で,従来の最先端アルゴリズムよりも大幅に優れています。
  論文  参考訳（メタデータ） (2021-07-20T06:53:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。