論文の概要: Leveraging Hidden Structure in Self-Supervised Learning

• arxiv url: http://arxiv.org/abs/2106.16060v1
• Date: Wed, 30 Jun 2021 13:35:36 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-01 14:06:47.050546
• Title: Leveraging Hidden Structure in Self-Supervised Learning
• Title（参考訳）: 自己監督型学習における隠れ構造の導入
• Authors: Emanuele Sansone
• Abstract要約: 本稿では,自己指導と構造学習を統合した相互情報目的に基づく原則的枠組みを提案する。 CIFAR-10の予備実験により、下流分類タスクにおいて、提案フレームワークがより高度な一般化性能を達成することを示す。
• 参考スコア（独自算出の注目度）: 2.385916960125935
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This work considers the problem of learning structured representations from raw images using self-supervised learning. We propose a principled framework based on a mutual information objective, which integrates self-supervised and structure learning. Furthermore, we devise a post-hoc procedure to interpret the meaning of the learnt representations. Preliminary experiments on CIFAR-10 show that the proposed framework achieves higher generalization performance in downstream classification tasks and provides more interpretable representations compared to the ones learnt through traditional self-supervised learning.
• Abstract（参考訳）: 本研究は,自己教師付き学習を用いて生画像から構造化表現を学習する問題を考察する。 本稿では,自己指導と構造学習を統合した相互情報目的に基づく原則的枠組みを提案する。 さらに,学習した表現の意味を解釈するためのポストホックな手順を考案した。 CIFAR-10の予備実験により、提案フレームワークは下流の分類タスクにおいて高い一般化性能を達成し、従来の自己教師あり学習よりも解釈可能な表現を提供することを示した。

関連論文リスト

• Decorrelation-based Self-Supervised Visual Representation Learning for Writer Identification [10.55096104577668]
  本稿では,自己教師型学習のデコリレーションに基づくパラダイムを探求し,著者識別のための不整合脳卒中の特徴の学習に適用する。 提案手法は,著者識別ベンチマークにおいて,現代の自己教師型学習フレームワークよりも優れていることを示す。 我々の知る限り、本研究は、著者検証タスクの学習表現に自己教師付き学習を適用した最初のものである。
  論文  参考訳（メタデータ） (2024-10-02T11:43:58Z)
• A Probabilistic Model Behind Self-Supervised Learning [53.64989127914936]
  自己教師付き学習(SSL)では、アノテートラベルなしで補助的なタスクを通じて表現が学習される。 自己教師型学習のための生成潜在変数モデルを提案する。 対照的な方法を含む識別的SSLのいくつかのファミリーは、表現に匹敵する分布を誘導することを示した。
  論文  参考訳（メタデータ） (2024-02-02T13:31:17Z)
• Structural Adversarial Objectives for Self-Supervised Representation Learning [19.471586646254373]
  本稿では,自己指導型表現学習の差別化を,構造モデリングの責務を付加することで行うことを提案する。 ネットワーク上の効率的なスムーズ性正規化器と組み合わせて、これらの目的は識別器を案内し、情報表現の抽出を学ぶ。 実験により,GANを自己指導対象に組み込むことで,表現学習の観点から評価された差別化要因が,対照的な学習アプローチによって訓練されたネットワークと競合することを示す。
  論文  参考訳（メタデータ） (2023-09-30T12:27:53Z)
• Semi-supervised learning made simple with self-supervised clustering [65.98152950607707]
  自己教師付き学習モデルは、人間のアノテーションを必要とせずにリッチな視覚表現を学習することが示されている。 本稿では,クラスタリングに基づく自己教師付き手法を半教師付き学習者へと変換する,概念的に単純だが経験的に強力な手法を提案する。
  論文  参考訳（メタデータ） (2023-06-13T01:09:18Z)
• Homomorphic Self-Supervised Learning [1.0742675209112622]
  私たちは、同型自己監督学習と呼ばれる一般的なフレームワークを紹介します。 本稿では,拡張同型特徴抽出器を用いた入力拡張の利用を仮定する方法について述べる。
  論文  参考訳（メタデータ） (2022-11-15T16:32:36Z)
• An Empirical Investigation of Representation Learning for Imitation [76.48784376425911]
  視覚、強化学習、NLPにおける最近の研究は、補助的な表現学習の目的が、高価なタスク固有の大量のデータの必要性を減らすことを示している。 本稿では,表現学習アルゴリズムを構築するためのモジュラーフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-05-16T11:23:42Z)
• Co$^2$L: Contrastive Continual Learning [69.46643497220586]
  近年の自己教師型学習のブレークスルーは、このようなアルゴリズムが視覚的な表現を学習し、見えないタスクにもっとうまく移行できることを示している。 本稿では、連続的な学習と伝達可能な表現の維持に焦点を当てたリハーサルに基づく連続学習アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-06-28T06:14:38Z)
• Learning from Extrinsic and Intrinsic Supervisions for Domain Generalization [95.73898853032865]
  ドメイン間を同時に一般化する方法を学ぶための新しいドメイン一般化フレームワークを提案する。 提案手法の有効性を2つの標準オブジェクト認識ベンチマークで示す。
  論文  参考訳（メタデータ） (2020-07-18T03:12:24Z)
• Self-supervised Learning from a Multi-view Perspective [121.63655399591681]
  自己教師型表現はタスク関連情報を抽出し,タスク関連情報を破棄することができることを示す。 我々の理論的枠組みは、自己教師型学習目標設計のより広い空間への道を開くものである。
  論文  参考訳（メタデータ） (2020-06-10T00:21:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。