論文の概要: Self-Supervised Disentanglement by Leveraging Structure in Data
Augmentations
- arxiv url: http://arxiv.org/abs/2311.08815v1
- Date: Wed, 15 Nov 2023 09:34:08 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-16 16:33:53.393009
- Title: Self-Supervised Disentanglement by Leveraging Structure in Data
Augmentations
- Title(参考訳): データ拡張における構造レバレッジによる自己監督的絡み合い
- Authors: Cian Eastwood, Julius von K\"ugelgen, Linus Ericsson, Diane
Bouchacourt, Pascal Vincent, Bernhard Sch\"olkopf, Mark Ibrahim
- Abstract要約: スタイルの特徴を捨てるのではなく、スタイルの特徴を取り除こうとする原則的なアプローチを導入する。
鍵となる考え方は、複数のスタイルの埋め込み空間を追加することである: (i) それぞれが全対一拡大に不変であり、 (ii) 合同エントロピーが最大化される。
合成データセットに対するアプローチの利点を実証的に実証し、ImageNet上で有望だが限定的な結果を示す。
- 参考スコア(独自算出の注目度): 29.80817077432093
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Self-supervised representation learning often uses data augmentations to
induce some invariance to "style" attributes of the data. However, with
downstream tasks generally unknown at training time, it is difficult to deduce
a priori which attributes of the data are indeed "style" and can be safely
discarded. To address this, we introduce a more principled approach that seeks
to disentangle style features rather than discard them. The key idea is to add
multiple style embedding spaces where: (i) each is invariant to all-but-one
augmentation; and (ii) joint entropy is maximized. We formalize our structured
data-augmentation procedure from a causal latent-variable-model perspective,
and prove identifiability of both content and (multiple blocks of) style
variables. We empirically demonstrate the benefits of our approach on synthetic
datasets and then present promising but limited results on ImageNet.
- Abstract(参考訳): 自己教師付き表現学習は、しばしばデータの「スタイル」属性に対する不変性を引き起こすためにデータ拡張を用いる。
しかしながら、トレーニング時に下流タスクが一般的に不明なため、データの属性が実際に"スタイル"であり、安全に破棄できる優先順位を推測することは困難である。
この問題に対処するため、私たちはスタイル機能を破棄するよりも、より原則化されたアプローチを導入しました。
鍵となるアイデアは、複数のスタイルの埋め込み空間を追加することです。
i) それぞれが全対一増分に不変であること、及び
(ii)ジョイントエントロピーを最大化する。
因果的潜在変数モデルの観点から、構造化データ提供手順を定式化し、コンテンツと(複数ブロックの)スタイル変数の両方の識別可能性を証明する。
我々は、合成データセットに対するアプローチの利点を実証し、imagenetに有望だが限定的な結果を提示する。
関連論文リスト
- Do Generated Data Always Help Contrastive Learning? [32.58214897368031]
コントラスト学習(CL)は、教師なし視覚表現学習において最も成功したパラダイムの1つである。
生成モデル、特に拡散モデルの増加に伴い、実際のデータ分布に近い現実的な画像を生成する能力はよく認識されている。
しかし、生成したデータ(DDPMのような優れた拡散モデルからでも)は、コントラスト学習に害を与えることもある。
論文 参考訳(メタデータ) (2024-03-19T05:17:47Z) - GCISG: Guided Causal Invariant Learning for Improved Syn-to-real
Generalization [1.2215956380648065]
人工的に生成されたデータを用いたディープラーニングモデルのトレーニングは、トレーニングデータが不足している場合の代替となる可能性がある。
本稿では,データ生成のための因果的枠組みを用いて,領域ギャップを特徴付ける。
そこで本研究では,構文から現実への一般化を促進するスタイル不変表現の学習をモデルに促す因果不変学習を提案する。
論文 参考訳(メタデータ) (2022-08-22T02:39:05Z) - Style Interleaved Learning for Generalizable Person Re-identification [69.03539634477637]
DG ReIDトレーニングのための新しいスタイルインターリーブラーニング(IL)フレームワークを提案する。
従来の学習戦略とは異なり、ILには2つの前方伝播と1つの後方伝播が組み込まれている。
我々のモデルはDG ReIDの大規模ベンチマークにおいて最先端の手法を一貫して上回ることを示す。
論文 参考訳(メタデータ) (2022-07-07T07:41:32Z) - MetAug: Contrastive Learning via Meta Feature Augmentation [28.708395209321846]
対照的な学習は、情報的特徴、すなわち「堅い」(肯定的または否定的な)特徴に大きく依存している、と我々は主張する。
このような特徴を探索する上で重要な課題は、ランダムなデータ拡張を適用することで、ソースのマルチビューデータを生成することである。
本稿では,潜在空間における特徴を直接拡張し,大量の入力データなしで識別表現を学習することを提案する。
論文 参考訳(メタデータ) (2022-03-10T02:35:39Z) - Learning Conditional Invariance through Cycle Consistency [60.85059977904014]
本稿では,データセットの変動の有意義な要因と独立な要因を識別する新しい手法を提案する。
提案手法は,対象プロパティと残りの入力情報に対する2つの別個の潜在部分空間を含む。
我々は,より意味のある因子を同定し,よりスペーサーや解釈可能なモデルに導く合成および分子データについて実証する。
論文 参考訳(メタデータ) (2021-11-25T17:33:12Z) - CADDA: Class-wise Automatic Differentiable Data Augmentation for EEG
Signals [92.60744099084157]
本研究では、勾配に基づく学習に適した微分可能データ拡張を提案する。
本研究は,臨床関連睡眠ステージ分類課題におけるアプローチの意義を示す。
論文 参考訳(メタデータ) (2021-06-25T15:28:48Z) - Hard-label Manifolds: Unexpected Advantages of Query Efficiency for
Finding On-manifold Adversarial Examples [67.23103682776049]
画像分類モデルに対する最近のゼロオーダーのハードラベル攻撃は、ファーストオーダーのグラデーションレベルの代替品に匹敵する性能を示している。
最近、グラデーションレベルの設定では、通常の敵対的な例がデータ多様体から離れ、オンマニホールドの例が実際には一般化エラーであることが示されている。
雑音の多い多様体距離オラクルに基づく情報理論論的議論を提案し、敵の勾配推定を通じて多様体情報を漏洩させる。
論文 参考訳(メタデータ) (2021-03-04T20:53:06Z) - Removing Bias in Multi-modal Classifiers: Regularization by Maximizing
Functional Entropies [88.0813215220342]
いくつかのモダリティは、他のものよりも分類結果に容易に寄与することができる。
機能的エントロピーと機能的フィッシャー情報とを結合した対数ソボレフの不等式に基づく手法を開発した。
VQA-CPv2 と SocialIQ の2つの挑戦的マルチモーダルデータセットに対して,より均一にモダリティを活用しながら,最先端の結果を得る。
論文 参考訳(メタデータ) (2020-10-21T07:40:33Z) - What Should Not Be Contrastive in Contrastive Learning [110.14159883496859]
本稿では,タスク依存不変性に関する事前知識を必要としない,対照的な学習フレームワークを提案する。
我々のモデルは、異なる埋め込み空間を構築することで、視覚表現の様々な要因や不変要素を捉えることを学習する。
我々は、共有バックボーンを持つマルチヘッドネットワークを使用し、各オーグメンテーションにまたがる情報をキャプチャし、ダウンストリームタスクにおけるすべてのベースラインより優れている。
論文 参考訳(メタデータ) (2020-08-13T03:02:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。