論文の概要: Weakly Supervised Invariant Representation Learning Via Disentangling
Known and Unknown Nuisance Factors
- arxiv url: http://arxiv.org/abs/2209.06827v1
- Date: Thu, 15 Sep 2022 01:15:11 GMT
- ステータス: 処理完了
- システム内更新日: 2022-09-16 12:04:55.455913
- Title: Weakly Supervised Invariant Representation Learning Via Disentangling
Known and Unknown Nuisance Factors
- Title(参考訳): 未知および未知のニュアサンス因子の分離による弱教師付き不変表現学習
- Authors: Jiageng Zhu, Hanchen Xie, Wael Abd-Almageed
- Abstract要約: 予測的, 未知のニュアンス情報を含む3つの分割からなる, アンタングル表現を学習するために, 弱教師付き信号を導入する。
実験の結果,提案手法は4つの標準ベンチマークにおいて,最先端(SOTA)手法よりも優れていた。
- 参考スコア(独自算出の注目度): 12.012459418829732
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Disentangled and invariant representations are two critical goals of
representation learning and many approaches have been proposed to achieve
either one of them. However, those two goals are actually complementary to each
other so that we propose a framework to accomplish both of them simultaneously.
We introduce a weakly supervised signal to learn disentangled representation
which consists of three splits containing predictive, known nuisance and
unknown nuisance information respectively. Furthermore, we incorporate
contrastive method to enforce representation invariance. Experiments shows that
the proposed method outperforms state-of-the-art (SOTA) methods on four
standard benchmarks and shows that the proposed method can have better
adversarial defense ability comparing to other methods without adversarial
training.
- Abstract(参考訳): 不等角表現と不変表現は表現学習の2つの重要な目標であり、それらのどちらかを達成するために多くのアプローチが提案されている。
しかし,これら2つの目標が互いに相補的であることから,両者を同時に達成するためのフレームワークを提案する。
本稿では,予測的,未知のニュアンス情報を含む3つの分割からなる不整合表現を学習するために,弱教師付き信号を導入する。
さらに,表現不変性を強制するためにコントラスト法を取り入れた。
実験の結果,提案手法は4つの標準ベンチマークにおいて最先端(SOTA)手法より優れており,対戦型トレーニングを伴わない他の手法と比較して,対戦型防御能力を向上できることが示された。
関連論文リスト
- Towards Efficient and Effective Self-Supervised Learning of Visual
Representations [41.92884427579068]
自己監督は視覚的表現学習のための提案的な方法として現れてきた。
より高速に収束する適切な補助タスクを用いて,これらの手法を強化することを提案する。
提案手法は回転予測のタスクを利用して,既存の最先端手法の効率を向上させる。
論文 参考訳(メタデータ) (2022-10-18T13:55:25Z) - Resisting Adversarial Attacks in Deep Neural Networks using Diverse
Decision Boundaries [12.312877365123267]
深層学習システムは、人間の目には認識できないが、モデルが誤分類される可能性がある、人工的な敵の例に弱い。
我々は,オリジナルモデルに対する多様な決定境界を持つディフェンダーモデルを構築するための,アンサンブルに基づく新しいソリューションを開発した。
我々は、MNIST、CIFAR-10、CIFAR-100といった標準画像分類データセットを用いて、最先端の敵攻撃に対する広範な実験を行った。
論文 参考訳(メタデータ) (2022-08-18T08:19:26Z) - On the duality between contrastive and non-contrastive self-supervised
learning [0.0]
自己指導型学習は、対照的なアプローチと非対照的なアプローチに分けることができる。
コントラストと非コントラストの家族がいかに近いかを示します。
また、下流のパフォーマンスにデザイン選択の影響(またはその欠如)を示す。
論文 参考訳(メタデータ) (2022-06-03T08:04:12Z) - Towards Better Understanding Attribution Methods [77.1487219861185]
モデル決定に最も影響を及ぼす画像領域を特定するために、ポストホック属性法が提案されている。
本稿では,これらの手法の忠実度をより確実に評価するための3つの新しい評価手法を提案する。
また,いくつかの属性法の性能を著しく向上する処理後平滑化ステップを提案する。
論文 参考訳(メタデータ) (2022-05-20T20:50:17Z) - Unsupervised Voice-Face Representation Learning by Cross-Modal Prototype
Contrast [34.58856143210749]
同一性ラベルを使わずに,音声映像から音声表現を学習する手法を提案する。
これまでの研究では、音声と顔の相関を確立するために、クロスモーダルなインスタンス識別タスクが用いられてきた。
比較手法を生かし, 偽陰性の悪影響に抵抗し, 正の逸脱に抵抗するクロスモーダル・プロトタイプ・コントラッシブ・ラーニング(CMPC)を提案する。
論文 参考訳(メタデータ) (2022-04-28T07:28:56Z) - Deterministic and Discriminative Imitation (D2-Imitation): Revisiting
Adversarial Imitation for Sample Efficiency [61.03922379081648]
本稿では,敵対的トレーニングやmin-max最適化を必要としない非政治的サンプル効率の手法を提案する。
実験の結果, D2-Imitation はサンプル効率の向上に有効であることが示唆された。
論文 参考訳(メタデータ) (2021-12-11T19:36:19Z) - Contrastive Learning for Fair Representations [50.95604482330149]
訓練された分類モデルは、意図せずバイアスのある表現や予測につながる可能性がある。
対戦訓練のような既存の分類モデルのデバイアス化手法は、訓練に高価であり、最適化が困難であることが多い。
比較学習を取り入れたバイアス軽減手法を提案し、同じクラスラベルを共有するインスタンスに類似した表現を推奨する。
論文 参考訳(メタデータ) (2021-09-22T10:47:51Z) - Concurrent Discrimination and Alignment for Self-Supervised Feature
Learning [52.213140525321165]
既存の自己指導型学習手法は,(1)どの特徴が分離されるべきかを明確に示すこと,あるいは(2)どの特徴が閉じるべきかを明確に示すこと,のいずれかのプリテキストタスクを用いて学習する。
本研究では,識別・調整手法の正の側面を組み合わせて,上記の課題に対処するハイブリッド手法を設計する。
本手法は,識別的予測タスクによってそれぞれ反発とアトラクションのメカニズムを明確に特定し,ペアビュー間の相互情報を同時に最大化する。
確立された9つのベンチマーク実験により,提案モデルが自己監督と移動の既成結果より一貫して優れていることが示された。
論文 参考訳(メタデータ) (2021-08-19T09:07:41Z) - Few-Shot Fine-Grained Action Recognition via Bidirectional Attention and
Contrastive Meta-Learning [51.03781020616402]
現実世界のアプリケーションで特定のアクション理解の需要が高まっているため、きめ細かいアクション認識が注目を集めている。
そこで本研究では,各クラスに付与されるサンプル数だけを用いて,新規なきめ細かい動作を認識することを目的とした,数発のきめ細かな動作認識問題を提案する。
粒度の粗い動作では進展があったが、既存の数発の認識手法では、粒度の細かい動作を扱う2つの問題に遭遇する。
論文 参考訳(メタデータ) (2021-08-15T02:21:01Z) - Deep Clustering by Semantic Contrastive Learning [67.28140787010447]
Semantic Contrastive Learning (SCL) と呼ばれる新しい変種を紹介します。
従来のコントラスト学習とディープクラスタリングの両方の特徴を探求する。
コントラスト学習と深層クラスタリングの強みを統一的なアプローチで増幅することができる。
論文 参考訳(メタデータ) (2021-03-03T20:20:48Z) - A Simple Framework for Uncertainty in Contrastive Learning [11.64841553345271]
我々は、事前訓練されたコントラッシブ表現に対して不確実性を割り当てることを学ぶための単純なアプローチを導入する。
我々は、表現から表現空間の分布への深いネットワークを訓練し、その分散を信頼度尺度として用いることができる。
本実験では,(1) モデル動作の視覚的解釈,(2) 展開モデルへの入力における新しいノイズの検出,(3) 異常検出,そして,11タスクで10のベースライン手法を上回り,最大14%の絶対性向上を実現していることを示す。
論文 参考訳(メタデータ) (2020-10-05T14:17:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。