論文の概要: Bayesian Invariance Modeling of Multi-Environment Data
- arxiv url: http://arxiv.org/abs/2506.22675v1
- Date: Fri, 27 Jun 2025 22:58:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-01 21:27:53.509727
- Title: Bayesian Invariance Modeling of Multi-Environment Data
- Title(参考訳): 多環境データのベイズ不変性モデリング
- Authors: Luhuan Wu, Mingzhang Yin, Yixin Wang, John P. Cunningham, David M. Blei,
- Abstract要約: 我々は不変予測のための確率論的モデルを開発する。
シミュレーションや実データでは、既存の不変予測手法よりもBIPとVI-BIPの方が正確でスケーラブルであることがわかった。
- 参考スコア(独自算出の注目度): 48.7892531847207
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Invariant prediction [Peters et al., 2016] analyzes feature/outcome data from multiple environments to identify invariant features - those with a stable predictive relationship to the outcome. Such features support generalization to new environments and help reveal causal mechanisms. Previous methods have primarily tackled this problem through hypothesis testing or regularized optimization. Here we develop Bayesian Invariant Prediction (BIP), a probabilistic model for invariant prediction. BIP encodes the indices of invariant features as a latent variable and recover them by posterior inference. Under the assumptions of Peters et al. [2016], the BIP posterior targets the true invariant features. We prove that the posterior is consistent and that greater environment heterogeneity leads to faster posterior contraction. To handle many features, we design an efficient variational approximation called VI-BIP. In simulations and real data, we find that BIP and VI-BIP are more accurate and scalable than existing methods for invariant prediction.
- Abstract(参考訳): Invariant prediction [Peters et al , 2016] は、複数の環境の特徴/成果データを分析して、不変の特徴を識別する。
これらの機能は、新しい環境への一般化をサポートし、因果メカニズムを明らかにするのに役立つ。
従来の手法は主に仮説テストや正規化最適化によってこの問題に対処してきた。
ここでは、不変予測の確率モデルであるベイズ不変予測(BIP)を開発する。
BIPは不変な特徴のインデックスを潜在変数としてエンコードし、後部推論によってそれらを復元する。
Peters et al [2016] の仮定の下で、BIP後部は真の不変性をターゲットにしている。
後部が一貫したものであり, 環境の均一性が, より高速な後部収縮を引き起こすことが証明された。
多くの特徴を扱うために、VI-BIPと呼ばれる効率的な変分近似を設計する。
シミュレーションや実データでは、既存の不変予測手法よりもBIPとVI-BIPの方が正確でスケーラブルであることがわかった。
関連論文リスト
- Bayesian Hierarchical Invariant Prediction [4.182645056052712]
我々は,階層型ベイズのレンズを通して,不変因果予測(ICP)をリフレーミングするベイズ的階層型不変予測(BHIP)を提案する。
階層構造を利用して、不均一なデータの下で因果機構の不変性を明示的に検証し、その結果、ICPに比べて多くの予測器に対する計算スケーラビリティが向上した。
本稿では,馬靴とスパイク・アンド・スラブの2つの先駆性を検証し,因果的特徴のより信頼性の高い同定を可能にした。
論文 参考訳(メタデータ) (2025-05-16T13:06:25Z) - Predictive variational inference: Learn the predictively optimal posterior distribution [1.7648680700685022]
バニラ変量推論はベイズ後部分布に最適な近似を求めるが、正確なベイズ後部分布でさえモデル的不特定の下では意味がないことが多い。
本稿では,最適後続密度から標本を探索する一般推論フレームワークである予測変分推論(PVI)を提案する。
論文 参考訳(メタデータ) (2024-10-18T19:44:57Z) - Winning Prize Comes from Losing Tickets: Improve Invariant Learning by
Exploring Variant Parameters for Out-of-Distribution Generalization [76.27711056914168]
Out-of-Distribution (OOD) 一般化は、分散固有の特徴に適合することなく、様々な環境によく適応する堅牢なモデルを学ぶことを目的としている。
LTH(Lottery Ticket hypothesis)に基づく最近の研究は、学習目標を最小化し、タスクに重要なパラメータのいくつかを見つけることでこの問題に対処している。
Invariant Learning (EVIL) における変数探索手法を提案する。
論文 参考訳(メタデータ) (2023-10-25T06:10:57Z) - Manifold Gaussian Variational Bayes on the Precision Matrix [70.44024861252554]
複雑なモデルにおける変分推論(VI)の最適化アルゴリズムを提案する。
本研究では,変分行列上の正定値制約を満たすガウス変分推論の効率的なアルゴリズムを開発した。
MGVBPはブラックボックスの性質のため、複雑なモデルにおけるVIのための準備が整ったソリューションである。
論文 参考訳(メタデータ) (2022-10-26T10:12:31Z) - Invariant Ancestry Search [6.583725235299022]
最小不変性の概念を導入し、不変祖先探索(IAS)を提案する。
集団版では、IASは応答の祖先のみを含む集合を出力し、ICPの出力である。
スケーラブルなアルゴリズムを開発し、シミュレーションおよび実データの実験を行う。
論文 参考訳(メタデータ) (2022-02-02T08:28:00Z) - Multivariate Probabilistic Regression with Natural Gradient Boosting [63.58097881421937]
多変量予測分布の条件パラメータを非パラメトリックにモデル化したNatural Gradient Boosting (NGBoost) 手法を提案する。
提案手法は頑健で, 広範囲なチューニングを伴わず, 推定対象分布に対してモジュール構造であり, 既存の手法と比較して競争力がある。
論文 参考訳(メタデータ) (2021-06-07T17:44:49Z) - Reducing the Amortization Gap in Variational Autoencoders: A Bayesian
Random Function Approach [38.45568741734893]
GPモデルの推論は、セミアモタイズ法よりもはるかに高速な1つのフィードフォワードパスによって行われる。
提案手法は,複数のベンチマークデータセットの最先端データよりも高い確率でテストデータが得られることを示す。
論文 参考訳(メタデータ) (2021-02-05T13:01:12Z) - Variational Variance: Simple, Reliable, Calibrated Heteroscedastic Noise
Variance Parameterization [3.553493344868413]
本稿では,予測平均と分散キャリブレーションを検証し,予測分布が有意義なデータを生成する能力を評価するための批評を提案する。
ヘテロセダスティックな分散を多変量に処理するためには、これらのPPCを通過させるために分散を十分に規則化する必要がある。
論文 参考訳(メタデータ) (2020-06-08T19:58:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。