論文の概要: Weakly-Supervised Disentanglement Without Compromises

• arxiv url: http://arxiv.org/abs/2002.02886v4
• Date: Tue, 20 Oct 2020 15:22:16 GMT
• ステータス: 処理完了
• システム内更新日: 2023-01-03 04:01:34.941618
• Title: Weakly-Supervised Disentanglement Without Compromises
• Title（参考訳）: 妥協のない弱教師付き絡み合い
• Authors: Francesco Locatello, Ben Poole, Gunnar R\"atsch, Bernhard Sch\"olkopf, Olivier Bachem, Michael Tschannen
• Abstract要約: インテリジェントエージェントは、環境の変化を観察することで、有用な表現を学べるべきである。 変動の要因の少なくとも1つを共有する非I.d.画像のペアとしてそのような観測をモデル化する。 我々は,どの因子が変化したかのみを知るだけで,非絡み合った表現を学ぶのに十分であることを示す。
• 参考スコア（独自算出の注目度）: 53.55580957483103
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Intelligent agents should be able to learn useful representations by observing changes in their environment. We model such observations as pairs of non-i.i.d. images sharing at least one of the underlying factors of variation. First, we theoretically show that only knowing how many factors have changed, but not which ones, is sufficient to learn disentangled representations. Second, we provide practical algorithms that learn disentangled representations from pairs of images without requiring annotation of groups, individual factors, or the number of factors that have changed. Third, we perform a large-scale empirical study and show that such pairs of observations are sufficient to reliably learn disentangled representations on several benchmark data sets. Finally, we evaluate our learned representations and find that they are simultaneously useful on a diverse suite of tasks, including generalization under covariate shifts, fairness, and abstract reasoning. Overall, our results demonstrate that weak supervision enables learning of useful disentangled representations in realistic scenarios.
• Abstract（参考訳）: 知的エージェントは、環境の変化を観察することで有用な表現を学習できるべきである。 変動の要因の少なくとも1つを共有する非I.d.画像のペアとしてそのような観測をモデル化する。 まず,どの因子が変化したのか,どの因子が変化したのかを知るだけで,不整合表現を学ぶのに十分であることを示す。 第2に、グループや個々の要因、あるいは変化した要因の数の注釈を必要とせずに、画像のペアから絡み合った表現を学習する実用的なアルゴリズムを提供する。 第3に,大規模な実験研究を行い,複数のベンチマークデータセットで不連続表現を確実に学習するには,このようなペアの観測が十分であることを示す。 最後に、学習した表現を評価し、共変量シフト、公正性、抽象的推論に基づく一般化など、多様なタスク群で同時に有用であることを示す。 全体として,弱い監督により,現実的なシナリオにおいて有用な不連続表現を学習できることが示される。

関連論文リスト

• Multi-View Causal Representation Learning with Partial Observability [36.37049791756438]
  同時に観察された視点から学習した表現の識別可能性を研究するための統一的な枠組みを提案する。 任意のビューのすべてのサブセット間で共有される情報は、コントラスト学習を用いてスムーズなビジェクションまで学習できることを実証する。 数値、画像、マルチモーダルデータセットに関する我々の主張を実験的に検証する。
  論文  参考訳（メタデータ） (2023-11-07T15:07:08Z)
• Leveraging sparse and shared feature activations for disentangled representation learning [112.22699167017471]
  本稿では,教師付きタスクの多種多様な集合から抽出した知識を活用し,共通不整合表現を学習することを提案する。 我々は6つの実世界分布シフトベンチマークと異なるデータモダリティに対するアプローチを検証する。
  論文  参考訳（メタデータ） (2023-04-17T01:33:24Z)
• On the Importance of Contrastive Loss in Multimodal Learning [34.91089650516183]
  簡単なマルチモーダルコントラスト学習モデルのトレーニングダイナミクスを解析する。 モデルが学習した表現の効率よくバランスをとるためには,コントラスト対が重要であることを示す。
  論文  参考訳（メタデータ） (2023-04-07T16:25:18Z)
• An Empirical Investigation of Representation Learning for Imitation [76.48784376425911]
  視覚、強化学習、NLPにおける最近の研究は、補助的な表現学習の目的が、高価なタスク固有の大量のデータの必要性を減らすことを示している。 本稿では,表現学習アルゴリズムを構築するためのモジュラーフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-05-16T11:23:42Z)
• RELAX: Representation Learning Explainability [10.831313203043514]
  本稿では、帰属に基づく表現の説明のための最初のアプローチであるRELAXを提案する。 ReLAXは、入力とマスクアウトされた自身のバージョンの間の表現空間における類似性を測定することで表現を説明する。 我々はRELAXの理論的解釈を提供し、教師なし学習を用いて訓練された特徴抽出器を新規に解析する。
  論文  参考訳（メタデータ） (2021-12-19T14:51:31Z)
• Desiderata for Representation Learning: A Causal Perspective [104.3711759578494]
  我々は表現学習の因果的視点を採り、非純粋性と効率性(教師なし表現学習)と非教師なし表現学習(教師なし表現学習)を定式化する。 これは、関心のデシダータを満たす程度を計算可能なメトリクスで評価し、単一の観測データセットから不純物や不整合表現を学習する。
  論文  参考訳（メタデータ） (2021-09-08T17:33:54Z)
• Investigating the Role of Negatives in Contrastive Representation Learning [59.30700308648194]
  ノイズコントラスト学習は教師なし表現学習の一般的な手法である。 我々は、これらのパラメータの1つの役割の曖昧さ、すなわち負の例の数に焦点をあてる。 結果が我々の理論と広く一致しているのに対して、我々の視覚実験はより悪質であり、性能は時々負の数に敏感である。
  論文  参考訳（メタデータ） (2021-06-18T06:44:16Z)
• Odd-One-Out Representation Learning [1.6822770693792826]
  ランダム・ワン・アウト観測に基づく下流の弱教師付きタスクがモデル選択に適していることを示す。 また,この課題を高度に遂行する,目覚しいメトリック学習型VAEモデルが,他の標準の教師なしおよび弱教師付きアンタングルメントモデルよりも優れていることを示す。
  論文  参考訳（メタデータ） (2020-12-14T22:01:15Z)
• A Sober Look at the Unsupervised Learning of Disentangled Representations and their Evaluation [63.042651834453544]
  モデルとデータの両方に帰納的バイアスを伴わずに,非教師なしの非教師付き表現学習は不可能であることを示す。 異なる手法は、対応する損失によって「強化」された特性を効果的に強制するが、よく見分けられたモデルは監督なしでは特定できないように見える。 以上の結果から,遠絡学習における今後の研究は,帰納的バイアスと(単純に)監督の役割を明確化すべきであることが示唆された。
  論文  参考訳（メタデータ） (2020-10-27T10:17:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。