論文の概要: Self-supervised Learning from a Multi-view Perspective

• arxiv url: http://arxiv.org/abs/2006.05576v4
• Date: Mon, 22 Mar 2021 20:40:22 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-23 04:22:42.874127
• Title: Self-supervised Learning from a Multi-view Perspective
• Title（参考訳）: 多視点から見た自己指導型学習
• Authors: Yao-Hung Hubert Tsai, Yue Wu, Ruslan Salakhutdinov, Louis-Philippe Morency
• Abstract要約: 自己教師型表現はタスク関連情報を抽出し,タスク関連情報を破棄することができることを示す。 我々の理論的枠組みは、自己教師型学習目標設計のより広い空間への道を開くものである。
• 参考スコア（独自算出の注目度）: 121.63655399591681
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As a subset of unsupervised representation learning, self-supervised representation learning adopts self-defined signals as supervision and uses the learned representation for downstream tasks, such as object detection and image captioning. Many proposed approaches for self-supervised learning follow naturally a multi-view perspective, where the input (e.g., original images) and the self-supervised signals (e.g., augmented images) can be seen as two redundant views of the data. Building from this multi-view perspective, this paper provides an information-theoretical framework to better understand the properties that encourage successful self-supervised learning. Specifically, we demonstrate that self-supervised learned representations can extract task-relevant information and discard task-irrelevant information. Our theoretical framework paves the way to a larger space of self-supervised learning objective design. In particular, we propose a composite objective that bridges the gap between prior contrastive and predictive learning objectives, and introduce an additional objective term to discard task-irrelevant information. To verify our analysis, we conduct controlled experiments to evaluate the impact of the composite objectives. We also explore our framework's empirical generalization beyond the multi-view perspective, where the cross-view redundancy may not be clearly observed.
• Abstract（参考訳）: 教師なし表現学習のサブセットとして、自己教師付き表現学習は、自己定義された信号を監督として採用し、学習された表現をオブジェクト検出や画像キャプションなどの下流タスクに使用する。 自己教師付き学習のための多くのアプローチは自然にマルチビューの視点に従っており、入力(原画像など)と自己教師付き信号(強化画像など)はデータの冗長な2つのビューとして見ることができる。 本稿では,この多視点の視点から,自己監督学習を成功させる特性をより理解するための情報理論的枠組みを提案する。 具体的には,自己指導型学習表現がタスク関連情報を抽出し,タスク関連情報を破棄できることを実証する。 我々の理論的枠組みは、自己教師型学習目標設計のより大きな空間への道を開く。 特に,事前のコントラスト学習目標と予測学習目標のギャップを橋渡しする複合目的を提案し,タスクの無関係な情報を破棄するための追加目的語を提案する。 分析を検証するために, 複合目的の影響を評価するための制御実験を行った。 我々はまた、クロスビュー冗長性が明確に観察されないマルチビュー視点を越えて、フレームワークの経験的一般化についても検討する。

関連論文リスト

• A Probabilistic Model Behind Self-Supervised Learning [53.64989127914936]
  自己教師付き学習(SSL)では、アノテートラベルなしで補助的なタスクを通じて表現が学習される。 自己教師型学習のための生成潜在変数モデルを提案する。 対照的な方法を含む識別的SSLのいくつかのファミリーは、表現に匹敵する分布を誘導することを示した。
  論文  参考訳（メタデータ） (2024-02-02T13:31:17Z)
• Revisiting Self-supervised Learning of Speech Representation from a Mutual Information Perspective [68.20531518525273]
  我々は、情報理論の観点から、既存の自己教師型音声の手法を詳しく検討する。 我々は線形プローブを用いて、対象情報と学習された表現の間の相互情報を推定する。 我々は、ラベルを使わずに、データの異なる部分間の相互情報を見積もる自己教師型の表現を評価する可能性を探る。
  論文  参考訳（メタデータ） (2024-01-16T21:13:22Z)
• Towards Unsupervised Representation Learning: Learning, Evaluating and Transferring Visual Representations [1.8130068086063336]
  我々は3つの視点から教師なし(視覚的)表現学習の分野に貢献する。 我々は、教師なし、バックプロパゲーションのない畳み込み自己組織型ニューラルネットワーク(CSNN)を設計する。 我々は、プリテキストとターゲットオブジェクトに依存しないメトリクスを定義するために、広く使われている(非)線形評価プロトコルの上に構築する。 CARLANEは,2次元車線検出のための最初の3方向sim-to-realドメイン適応ベンチマークであり,自己教師付き学習に基づく手法である。
  論文  参考訳（メタデータ） (2023-11-30T15:57:55Z)
• Semi-supervised learning made simple with self-supervised clustering [65.98152950607707]
  自己教師付き学習モデルは、人間のアノテーションを必要とせずにリッチな視覚表現を学習することが示されている。 本稿では,クラスタリングに基づく自己教師付き手法を半教師付き学習者へと変換する,概念的に単純だが経験的に強力な手法を提案する。
  論文  参考訳（メタデータ） (2023-06-13T01:09:18Z)
• Matching Multiple Perspectives for Efficient Representation Learning [0.0]
  本稿では,自己教師型学習とマルチパースペクティブマッチング技術を組み合わせたアプローチを提案する。 我々は,同一オブジェクトの複数ビューと多種多様な自己教師付き事前学習アルゴリズムを組み合わせることで,オブジェクト分類性能が向上することを示す。
  論文  参考訳（メタデータ） (2022-08-16T10:33:13Z)
• Self-Supervised Visual Representation Learning with Semantic Grouping [50.14703605659837]
  我々は、未ラベルのシーン中心のデータから視覚表現を学習する問題に取り組む。 本研究では,データ駆動型セマンティックスロット,すなわちSlotConによる協調型セマンティックグルーピングと表現学習のためのコントラスト学習を提案する。
  論文  参考訳（メタデータ） (2022-05-30T17:50:59Z)
• Visual Probing: Cognitive Framework for Explaining Self-Supervised Image Representations [12.485001250777248]
  近年,画像表現学習のための自己教師付き手法が,完全教師付き競技者に対して,同等以上の結果を提供するようになった。 そこで本研究では,自己教師型モデルを説明するための新しい視覚探索フレームワークを提案する。 自己指導型表現の文脈において,これらのアナログの有効性と適用性を示す。
  論文  参考訳（メタデータ） (2021-06-21T12:40:31Z)
• Which Mutual-Information Representation Learning Objectives are Sufficient for Control? [80.2534918595143]
  相互情報は、データの表現を学習するために魅力的な形式を提供する。 本稿では,最適政策の学習と表現のための状態表現の十分性について定式化する。 意外なことに、これらの2つの目的は、MDPの構造に関する軽度で一般的な仮定を前提に、不十分な表現をもたらす可能性がある。
  論文  参考訳（メタデータ） (2021-06-14T10:12:34Z)
• Contrastive learning, multi-view redundancy, and linear models [38.80336134485453]
  表現学習に対する一般的な自己指導的アプローチは、対照的な学習である。 この研究は、マルチビュー設定におけるコントラスト学習の理論分析を提供する。
  論文  参考訳（メタデータ） (2020-08-24T01:31:47Z)
• Self-Supervised Learning Across Domains [33.86614301708017]
  本稿では,ドメイン間のオブジェクト認識の問題に対して,同様のアプローチを適用することを提案する。 モデルでは,教師付き方式でセマンティックラベルを学習し,同じ画像上の自己教師型信号から学習することで,データに対する理解を深める。 この二次的なタスクは、ネットワークが対象の形状、空間配向や部分相関といった概念を学ぶのに役立ち、分類タスクの正規化として機能する。
  論文  参考訳（メタデータ） (2020-07-24T06:19:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。