論文の概要: Towards Understanding the Mechanism of Contrastive Learning via Similarity Structure: A Theoretical Analysis

• arxiv url: http://arxiv.org/abs/2304.00395v1
• Date: Sat, 1 Apr 2023 21:53:29 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-04 18:28:15.887822
• Title: Towards Understanding the Mechanism of Contrastive Learning via Similarity Structure: A Theoretical Analysis
• Title（参考訳）: 類似構造によるコントラスト学習のメカニズム理解に向けて:理論的分析
• Authors: Hiroki Waida, Yuichiro Wada, L\'eo and\'eol, Takumi Nakagawa, Yuhui Zhang, Takafumi Kanamori
• Abstract要約: Kernel Contrastive Learning (KCL) と呼ばれるカーネルベースのコントラスト学習フレームワークについて検討する。 本稿では,統計的依存関係の観点から学習表現の類似性構造を定式化する。 下流タスクの分類誤差の新しい上限を示し、これは我々の理論が比較学習の実証的成功と一致することを説明している。
• 参考スコア（独自算出の注目度）: 10.29814984060018
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Contrastive learning is an efficient approach to self-supervised representation learning. Although recent studies have made progress in the theoretical understanding of contrastive learning, the investigation of how to characterize the clusters of the learned representations is still limited. In this paper, we aim to elucidate the characterization from theoretical perspectives. To this end, we consider a kernel-based contrastive learning framework termed Kernel Contrastive Learning (KCL), where kernel functions play an important role when applying our theoretical results to other frameworks. We introduce a formulation of the similarity structure of learned representations by utilizing a statistical dependency viewpoint. We investigate the theoretical properties of the kernel-based contrastive loss via this formulation. We first prove that the formulation characterizes the structure of representations learned with the kernel-based contrastive learning framework. We show a new upper bound of the classification error of a downstream task, which explains that our theory is consistent with the empirical success of contrastive learning. We also establish a generalization error bound of KCL. Finally, we show a guarantee for the generalization ability of KCL to the downstream classification task via a surrogate bound.
• Abstract（参考訳）: コントラスト学習は自己指導型表現学習への効果的なアプローチである。 近年、コントラスト学習の理論的な理解が進んでいるが、学習表現のクラスターを特徴づける方法についての研究はまだ限られている。 本稿では, 理論的観点からのキャラクタリゼーションの解明を目的とする。 この目的のために、カーネル関数を他のフレームワークに適用する際に重要な役割を果たすカーネルコントラスト学習(KCL)と呼ばれるカーネルベースのコントラスト学習フレームワークを検討する。 本稿では,統計的依存関係の観点から学習表現の類似性構造を定式化する。 この定式化によるカーネルベースコントラスト損失の理論的性質について検討する。 まず,カーネルベースのコントラスト学習フレームワークを用いて学習した表現の構造を特徴付ける。 本稿では,下流課題の分類誤差の新たな上限を示し,本理論がコントラスト学習の実証的成功と一致していることを示す。 また、KCLの一般化誤差境界も確立する。 最後に,KCL の下流分類タスクへの一般化能力の保証を代理境界を用いて示す。

関連論文リスト

• Graph-level Protein Representation Learning by Structure Knowledge Refinement [50.775264276189695]
  本稿では、教師なしの方法でグラフ全体の表現を学習することに焦点を当てる。 本稿では、データ構造を用いて、ペアが正か負かの確率を決定する構造知識精製(Structure Knowledge Refinement, SKR)という新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-01-05T09:05:33Z)
• Hierarchical Decomposition of Prompt-Based Continual Learning: Rethinking Obscured Sub-optimality [55.88910947643436]
  大量のラベルのないデータを実際に扱うためには、自己教師付き事前トレーニングが不可欠である。 HiDe-Promptは、タスク固有のプロンプトと統計のアンサンブルで階層的なコンポーネントを明示的に最適化する革新的なアプローチである。 実験では,HiDe-Promptの優れた性能と,継続学習における事前学習パラダイムへの頑健さを実証した。
  論文  参考訳（メタデータ） (2023-10-11T06:51:46Z)
• Provable Compositional Generalization for Object-Centric Learning [55.658215686626484]
  既知の概念の新規な構成に一般化する学習表現は、人間と機械の知覚のギャップを埋めるのに不可欠である。 本稿では,デコーダの構造的仮定を満足し,エンコーダとデコーダの整合性を強制するオートエンコーダが,構成を確実に一般化するオブジェクト中心表現を学習することを示す。
  論文  参考訳（メタデータ） (2023-10-09T01:18:07Z)
• Cluster-aware Semi-supervised Learning: Relational Knowledge Distillation Provably Learns Clustering [15.678104431835772]
  我々はリレーショナル知識蒸留(RKD)の理論的理解に向けて最初の一歩を踏み出した。 半教師付き学習では,クラスタ認識学習の一般的な枠組みを通じて,RKDのラベル効率を実証する。 正確なクラスタリングを学習する共通の効果にもかかわらず、RKDは"グローバル"な視点を促進する。
  論文  参考訳（メタデータ） (2023-07-20T17:05:51Z)
• A Theoretical Study of Inductive Biases in Contrastive Learning [32.98250585760665]
  モデルクラスから派生した帰納的バイアスの効果を取り入れた,自己指導型学習に関する最初の理論的分析を行った。 モデルが限られたキャパシティを持つ場合、コントラスト表現はモデルアーキテクチャと互換性のある特定のクラスタリング構造を復元することを示す。
  論文  参考訳（メタデータ） (2022-11-27T01:53:29Z)
• Synergies between Disentanglement and Sparsity: Generalization and Identifiability in Multi-Task Learning [79.83792914684985]
  我々は,最大スパース基底予測器が不整合表現をもたらす条件を提供する新しい識別可能性の結果を証明した。 この理論的な結果から,両レベル最適化問題に基づくアンタングル表現学習の実践的アプローチを提案する。
  論文  参考訳（メタデータ） (2022-11-26T21:02:09Z)
• Integrating Prior Knowledge in Contrastive Learning with Kernel [4.050766659420731]
  我々は、カーネル理論を用いて、(i)事前知識の統合を可能にし、(i)元のInfoNCE損失における負の正の結合を取り除くという、分離均一性(decoupled uniformity)と呼ばれる新しい損失を提案する。 教師なしの環境では、CLは自然画像と医用画像の両方で表現を改善するために生成モデルから恩恵を受けることを実証的に実証する。
  論文  参考訳（メタデータ） (2022-06-03T15:43:08Z)
• A Free Lunch from the Noise: Provable and Practical Exploration for Representation Learning [55.048010996144036]
  ある雑音仮定の下では、対応するマルコフ遷移作用素の線型スペクトル特性を自由な閉形式で得られることを示す。 本稿では,スペクトルダイナミクス埋め込み(SPEDE)を提案する。これはトレードオフを破り,雑音の構造を利用して表現学習のための楽観的な探索を完遂する。
  論文  参考訳（メタデータ） (2021-11-22T19:24:57Z)
• The Eigenlearning Framework: A Conservation Law Perspective on Kernel Regression and Wide Neural Networks [1.6519302768772166]
  テストリスクとカーネルリッジ回帰の他の一般化指標について、簡単なクローズドフォーム推定を導出する。 関数の正規直交基底を学習するKRRの能力を制限するシャープな保存法則を同定する。
  論文  参考訳（メタデータ） (2021-10-08T06:32:07Z)
• The Power of Contrast for Feature Learning: A Theoretical Analysis [42.20116348668721]
  対照的な学習は、標準的な自己エンコーダや生成的敵ネットワークよりも優れていることを示す。 また、教師付きコントラスト学習におけるラベル付きデータの影響についても説明する。
  論文  参考訳（メタデータ） (2021-10-06T03:10:28Z)
• Deep Clustering by Semantic Contrastive Learning [67.28140787010447]
  Semantic Contrastive Learning (SCL) と呼ばれる新しい変種を紹介します。 従来のコントラスト学習とディープクラスタリングの両方の特徴を探求する。 コントラスト学習と深層クラスタリングの強みを統一的なアプローチで増幅することができる。
  論文  参考訳（メタデータ） (2021-03-03T20:20:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。