論文の概要: Unsupervised Invariant Risk Minimization

• arxiv url: http://arxiv.org/abs/2505.12506v1
• Date: Sun, 18 May 2025 17:54:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-20 14:57:11.272482
• Title: Unsupervised Invariant Risk Minimization
• Title（参考訳）: 教師なし不変リスク最小化
• Authors: Yotam Norman, Ron Meir,
• Abstract要約: Emphinvariant Risk Minimization (IRM) のための新しい教師なしフレームワークを提案する。 従来のIRM法は、環境間の分散シフトに対して堅牢な表現を学ぶためにラベル付きデータに依存していた。 本フレームワークでは, ガウス的仮定の下で不変方向を抽出する線形手法である主不変成分分析(PICA)と, 環境不変要因と環境依存要因を混同する深部生成モデルである変動不変自己エンコーダ(VIAE)の2つの手法を紹介する。
• 参考スコア（独自算出の注目度）: 7.903539618132858
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We propose a novel unsupervised framework for \emph{Invariant Risk Minimization} (IRM), extending the concept of invariance to settings where labels are unavailable. Traditional IRM methods rely on labeled data to learn representations that are robust to distributional shifts across environments. In contrast, our approach redefines invariance through feature distribution alignment, enabling robust representation learning from unlabeled data. We introduce two methods within this framework: Principal Invariant Component Analysis (PICA), a linear method that extracts invariant directions under Gaussian assumptions, and Variational Invariant Autoencoder (VIAE), a deep generative model that disentangles environment-invariant and environment-dependent latent factors. Our approach is based on a novel ``unsupervised'' structural causal model and supports environment-conditioned sample-generation and intervention. Empirical evaluations on synthetic dataset and modified versions of MNIST demonstrate the effectiveness of our methods in capturing invariant structure, preserving relevant information, and generalizing across environments without access to labels.
• Abstract（参考訳）: 本稿では,ラベルが使用不可能な設定に不変性の概念を拡張した,新しい教師なしリスク最小化(IRM)フレームワークを提案する。 従来のIRM法は、環境間の分散シフトに対して堅牢な表現を学ぶためにラベル付きデータに依存していた。 対照的に,本手法は特徴分布アライメントによって不変性を再定義し,ラベルのないデータから堅牢な表現学習を可能にする。 本フレームワークでは, ガウス的仮定の下で不変方向を抽出する線形手法である主不変成分分析(PICA)と, 環境不変要因と環境依存要因を混同する深部生成モデルである変動不変自己エンコーダ(VIAE)の2つの手法を紹介する。 提案手法は,環境条件のサンプル生成と介入を支援する新しい「教師なし」構造因果モデルに基づく。 MNISTの合成データセットと修正版に関する実証的な評価は、不変構造を捕捉し、関連情報を保存し、ラベルにアクセスせずに環境全体にわたって一般化する手法の有効性を示す。

関連論文リスト

• Invariant Learning with Annotation-free Environments [2.592470112714595]
  不変学習は、経験的リスク最小化(ERM)と比較してドメインの一般化を改善するための有望なアプローチである 提案手法は,明示的な環境ラベルを必要とする手法に匹敵する性能と,アノテーションのない手法に匹敵する性能を達成し,ColoredMNISTベンチマークに予備的の有効性を示す。
  論文  参考訳（メタデータ） (2025-04-22T08:10:06Z)
• PseudoNeg-MAE: Self-Supervised Point Cloud Learning using Conditional Pseudo-Negative Embeddings [55.55445978692678]
  PseudoNeg-MAEは、ポイントクラウドマスマスキングオートエンコーダのグローバルな特徴表現を強化する。 本研究では,ネットワークが識別的表現を保ちながら,よりリッチな変換キューをキャプチャできる新たな損失を提案する。
  論文  参考訳（メタデータ） (2024-09-24T07:57:21Z)
• Proxy Methods for Domain Adaptation [78.03254010884783]
  プロキシ変数は、遅延変数を明示的にリカバリしたりモデル化したりすることなく、分散シフトへの適応を可能にする。 両設定の複雑な分散シフトに適応する2段階のカーネル推定手法を開発した。
  論文  参考訳（メタデータ） (2024-03-12T09:32:41Z)
• Diagnosing and Rectifying Fake OOD Invariance: A Restructured Causal Approach [51.012396632595554]
  不変表現学習(IRL)は、不変因果的特徴から環境から切り離されたラベルへの予測を促進する。 最近の理論的結果は、IRLによって回復されたいくつかの因果的特徴は、訓練環境ではドメイン不変のふりをするが、目に見えない領域では失敗する。 本研究では,RS-SCMに関する条件付き相互情報に基づく手法を開発し,その効果を巧みに補正する。
  論文  参考訳（メタデータ） (2023-12-15T12:58:05Z)
• Continual Invariant Risk Minimization [46.051656238770086]
  経験的リスク最小化は、学習モデルが不変な特徴表現をキャプチャしない場合、目に見えない環境での一般化の振る舞いを損なう可能性がある。 不変リスク最小化(IRM)は環境不変表現を発見するための最近の提案である。
  論文  参考訳（メタデータ） (2023-10-21T11:44:47Z)
• PAC Generalization via Invariant Representations [41.02828564338047]
  有限標本集合における$epsilon$-approximate不変性の概念を考える。 PAC学習にインスパイアされ、有限サンプルのアウト・オブ・ディストリビューション一般化保証を得る。 この結果から, 介入部位が非次境界ノードの一定サイズの部分集合内にある場合に, 周囲次元でスケールしない境界を示す。
  論文  参考訳（メタデータ） (2022-05-30T15:50:14Z)
• Balancing Fairness and Robustness via Partial Invariance [17.291131923335918]
  不変リスク最小化(IRM)は、アウト・オブ・ディストリビューション(OOD)問題を解決するための環境セットから不変機能を学ぶことを目的としている。 障害ケースを軽減するために、部分的な不変性フレームワークを議論する。 本研究は, 一定の条件下での公正性とリスクのトレードオフを軽減するため, 部分的不変リスク最小化が可能であることを示す。
  論文  参考訳（メタデータ） (2021-12-17T06:41:47Z)
• Heterogeneous Risk Minimization [25.5458915855661]
  分散一般化のための不変学習法は、複数の学習環境を利用して不変関係を見つけることによって提案されている。 現代のデータセットは、明示的なソースラベルなしで複数のソースからのデータをマージすることで組み立てられる。 不均一リスク最小化(HRM: Heterogeneous Risk Minimization)フレームワークを提案し、データと不変関係間の潜在不均質性の共同学習を実現する。
  論文  参考訳（メタデータ） (2021-05-09T02:51:36Z)
• The Risks of Invariant Risk Minimization [52.7137956951533]
  不変リスク最小化(Invariant Risk Minimization)は、データの深い不変性を学ぶという考え方に基づく目標である。 我々は、IRMの目的に基づく分類の最初の分析と、最近提案されたこれらの代替案について、かなり自然で一般的なモデルで分析する。 IRMは、テストデータがトレーニング分布と十分に類似していない限り、破滅的に失敗する可能性がある。
  論文  参考訳（メタデータ） (2020-10-12T14:54:32Z)
• Invariant Causal Prediction for Block MDPs [106.63346115341862]
  環境全体にわたる一般化は、実世界の課題への強化学習アルゴリズムの適用の成功に不可欠である。 本稿では,多環境環境における新しい観測を一般化するモデル不適合状態抽象化(MISA)を学習するための不変予測法を提案する。
  論文  参考訳（メタデータ） (2020-03-12T21:03:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。