論文の概要: Unveiling Invariant and Transferable Latent Factors Across Heterogeneous Environments via ATLAS
- arxiv url: http://arxiv.org/abs/2607.18209v1
- Date: Mon, 20 Jul 2026 17:44:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-21 18:48:37.725896
- Title: Unveiling Invariant and Transferable Latent Factors Across Heterogeneous Environments via ATLAS
- Title(参考訳): ATLASによる不均質環境における不均一性と伝達性潜伏因子の解明
- Abstract要約: 異種環境を横断する潜在アライメントを用いた補助ラベルおよび不変誘導トランスファーATLASを提案する。
非整合不均一因子から予測不変因子と伝達可能因子を抽出するために補助ラベルからの監督を利用する。
ATLASは、下流の潜伏因子の回帰のためのニアオークル性能を向上し、補助ラベルが利用可能である場合の完全な潜伏信号を通して新しい環境における伝達可能な予測を可能にし、それ以外は頑健な不変要素のみの予測に還元する。
- 参考スコア(独自算出の注目度): 6.786570671919921
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper considers a multi-environment factor model in which high-dimensional covariates are collected from heterogeneous environments, with auxiliary labels available in a subset of these environments. The joint distribution of the covariates may vary across environments, whereas the latent structure is decomposed into invariant factors with shared loadings and heterogeneous factors with environment-specific loadings. Such a model is motivated by transfer learning and latent factor regression, where one seeks stable low-dimensional representations for both interpretation and robust out-of-sample prediction of the response $Y$. Leveraging the invariance principle, we show that the invariant and heterogeneous factors are disentangled under a minimal structural condition. Based on this, we propose ATLAS, an Auxiliary-label and invariance-guided Transfer via Latent Alignment across heterogeneous environmentS. ATLAS is a unified procedure that leverages the invariance principle to separate aligned invariant and unaligned heterogeneous factors, and further exploits supervision from auxiliary labels to extract prediction-invariant and transferable factors from those unaligned heterogeneous factors. ATLAS yields near-oracle performance for downstream latent factor regression, enables transferable prediction in new environments through the full latent signal when auxiliary labels are available, and reduces to robust invariant-factor-only prediction otherwise. We establish sharp non-asymptotic error bounds for recovering invariant and heterogeneous factors, identifying all the response-invariant factors, and estimating the invariant signal in $Y$.
- Abstract(参考訳): 本稿では,多次元共変体を異種環境から収集する多環境因子モデルについて考察する。
共変量体の共分散は環境によって異なる場合があるが、潜伏構造は共有負荷を伴う不変因子と環境固有の負荷を伴う異種因子に分解される。
そのようなモデルは、伝達学習と潜在因子回帰(英語版)によって動機付けられ、解釈と応答の頑健なアウト・オブ・サンプル予測の両方に対して安定な低次元表現を求める。
非分散原理を応用して、不変因子と不均一因子が極小構造条件下で解離することを示す。
これに基づいて、異種環境におけるラテントアライメントによる補助ラベルと不変誘導転送であるATLASを提案する。
ATLASは、非分散原理を活用して、非整合不変因子と非整合異種因子を分離し、さらに補助ラベルからの監督を利用して、非整合異種因子から予測不変因子と移動可能因子を抽出する統一的な手順である。
ATLASは、下流の潜伏因子の回帰のためのニアオークル性能を向上し、補助ラベルが利用可能である場合の完全な潜伏信号を通して新しい環境における伝達可能な予測を可能にし、それ以外は頑健な不変要素のみの予測に還元する。
非漸近的非漸近的誤差境界を確立することにより、不変および不均一な因子を復元し、全ての応答不変因子を同定し、その不変信号を$Y$で推定する。
関連論文リスト
- Environment-Adaptive Covariate Selection: Learning When to Use Spurious Correlations for Out-of-Distribution Prediction [33.69413571438309]
結果の真の原因のサブセットのみを観測した場合に,アウト・オブ・ディストリビューション予測が失敗することを示す。
環境適応型共変量選択アルゴリズムを提案する。
EACSは、様々な分布シフトの下で静的因果、不変、およびERMベースの予測器を一貫して上回る。
論文 参考訳(メタデータ) (2026-01-05T18:13:02Z) - Unsupervised Invariant Risk Minimization [7.903539618132858]
Emphinvariant Risk Minimization (IRM) のための新しい教師なしフレームワークを提案する。
従来のIRM法は、環境間の分散シフトに対して堅牢な表現を学ぶためにラベル付きデータに依存していた。
本フレームワークでは, ガウス的仮定の下で不変方向を抽出する線形手法である主不変成分分析(PICA)と, 環境不変要因と環境依存要因を混同する深部生成モデルである変動不変自己エンコーダ(VIAE)の2つの手法を紹介する。
論文 参考訳(メタデータ) (2025-05-18T17:54:23Z) - Causality Pursuit from Heterogeneous Environments via Neural Adversarial Invariance Learning [12.947265104477237]
データから因果関係を抽出することは、科学的発見、治療介入、伝達学習における根本的な問題である。
本稿では,複数の環境における回帰モデルにおける非パラメトリック不変性と因果学習に対処するアルゴリズムを提案する。
提案したFocused Adrial Invariant Regularizationフレームワークは、逆検定により回帰モデルを予測不変解へ向ける革新的なミニマックス最適化手法を利用する。
論文 参考訳(メタデータ) (2024-05-07T23:37:40Z) - Proxy Methods for Domain Adaptation [78.03254010884783]
プロキシ変数は、遅延変数を明示的にリカバリしたりモデル化したりすることなく、分散シフトへの適応を可能にする。
両設定の複雑な分散シフトに適応する2段階のカーネル推定手法を開発した。
論文 参考訳(メタデータ) (2024-03-12T09:32:41Z) - The Implicit Bias of Heterogeneity towards Invariance: A Study of Multi-Environment Matrix Sensing [9.551225697705199]
本稿では,不均一なデータに対するグラディエント・ディキセント(SGD)の暗黙バイアスについて検討し,その暗黙バイアスがモデル学習を不変解へと導くことを示す。
具体的には、各環境において、信号が(i)全環境間で共有される低ランク不変部分と(ii)環境依存のスプリアス成分とを含む多環境低ランク行列センシング問題について理論的に検討する。
重要な洞察は、明示的な正規化を伴わずに各環境で大きなステップサイズの大バッチSGDを逐次使用するだけで、不均一性に起因する振動は、モデル学習の急激なシグナルを確実に阻止することができることである。
論文 参考訳(メタデータ) (2024-03-03T07:38:24Z) - Score-based Causal Representation Learning with Interventions [54.735484409244386]
本稿では,潜在因果変数を間接的に観察する際の因果表現学習問題について検討する。
目的は、 (i) 未知の線形変換(スケーリングまで)を回復し、 (ii) 潜在変数の下の有向非巡回グラフ(DAG)を決定することである。
論文 参考訳(メタデータ) (2023-01-19T18:39:48Z) - Disentanglement of Correlated Factors via Hausdorff Factorized Support [53.23740352226391]
本稿では,因子分布ではなく,因子化支援を助長する緩やかな解離基準,HFS(Hausdorff Factorized Support)基準を提案する。
本研究では,HFSを用いることにより,様々な相関設定やベンチマークにおいて,接地構造因子の絡み合いと回復が一貫して促進されることを示す。
論文 参考訳(メタデータ) (2022-10-13T20:46:42Z) - Learning Invariant Representations under General Interventions on the
Response [2.725698729450241]
線形構造因果モデル(SCM)に着目し、不変整合性(IMP)を導入する。
離散環境と連続環境の両方において,本手法の一般化誤差を解析する。
論文 参考訳(メタデータ) (2022-08-22T03:09:17Z) - Equivariant Disentangled Transformation for Domain Generalization under
Combination Shift [91.38796390449504]
ドメインとラベルの組み合わせは、トレーニング中に観察されるのではなく、テスト環境に現れる。
我々は、同型の概念、同値性、および整合性の定義に基づく結合シフト問題の一意的な定式化を提供する。
論文 参考訳(メタデータ) (2022-08-03T12:31:31Z) - Learning Conditional Invariance through Cycle Consistency [60.85059977904014]
本稿では,データセットの変動の有意義な要因と独立な要因を識別する新しい手法を提案する。
提案手法は,対象プロパティと残りの入力情報に対する2つの別個の潜在部分空間を含む。
我々は,より意味のある因子を同定し,よりスペーサーや解釈可能なモデルに導く合成および分子データについて実証する。
論文 参考訳(メタデータ) (2021-11-25T17:33:12Z) - Latent Causal Invariant Model [128.7508609492542]
現在の教師付き学習は、データ適合プロセス中に急激な相関を学習することができる。
因果予測を求める潜在因果不変モデル(LaCIM)を提案する。
論文 参考訳(メタデータ) (2020-11-04T10:00:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。