論文の概要: Adaptive mixture variational inference for spike-and-slab regression
- arxiv url: http://arxiv.org/abs/2609.38656v1
- Date: Tue, 29 Sep 2026 23:22:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:26.835066
- Title: Adaptive mixture variational inference for spike-and-slab regression
- Title(参考訳): スパイク・アンド・スラブ回帰に対する適応混合変分推論
- Abstract要約: 相関予測器は、類似の予測と競合するスパースな説明をサポートし、平均場近似で捉えるのが困難である可変包摂に関する共同不確実性を実現する。
ガウス回帰における積分布と点質量のスパイク・アンド・スラブの混合に対する適応的適合法を開発した。
インクルージョンインジケータと活性係数に基づいて逆のクルバック・リーブラーの発散を最小化し、混合物が成長するにつれて成分パラメータと重みを共同で精製する。
- 参考スコア(独自算出の注目度): 0.4078247440919473
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Correlated predictors can support competing sparse explanations with similar predictions, making joint uncertainty about variable inclusion difficult to capture with mean-field approximations. We develop an adaptive fitting procedure for mixtures of product distributions in Gaussian regression with a point-mass spike-and-slab prior. It minimizes reverse Kullback-Leibler divergence directly on inclusion indicators and active coefficients, jointly refining component parameters and weights as the mixture grows. This avoids an additional divergence penalty on unused latent coefficients under independent augmentation. Our analysis relates approximation accuracy to mixture size, support coverage and dependence within supports, and establishes contraction, selection consistency and a Bernstein-von Mises approximation under explicit conditions on the prior, posterior concentration and variational error. On all 250 simulated datasets with exact posterior references, mixtures reduce errors in inclusion probabilities, grouped support probabilities and coefficient covariance relative to multistart mean field. Comparisons at fixed mixture size and common initialization favor direct joint refinement over augmented or restricted refinement in posterior divergence. Complete stagewise fitting can nevertheless be more accurate near collinearity. The results support direct joint refinement for posterior approximation while showing that local gains do not ensure superiority of the full adaptive search.
- Abstract(参考訳): 相関予測器は、類似の予測と競合するスパースな説明をサポートし、平均場近似で捉えるのが困難である可変包摂に関する共同不確実性を実現する。
ガウス回帰における積分布と点質量のスパイク・アンド・スラブの混合に対する適応的適合法を開発した。
インクルージョンインジケータと活性係数に基づいて逆のクルバック・リーブラーの発散を最小化し、混合物が成長するにつれて成分パラメータと重みを共同で精製する。
これにより、独立増強の下で未使用の潜伏係数にさらなる分散ペナルティが回避される。
本分析は, 混合サイズに対する近似精度, 支持体内のカバレッジと依存性, および, 事前, 後部濃度, 変動誤差の条件下での収縮, 選択の整合性, およびベルンシュタイン・ヴォン・ミス近似の確立に関するものである。
正確な後部参照を持つ250のシミュレーションデータセットでは、混合により包含確率、グループ化された支持確率、およびマルチスタート平均場に対する係数共分散の誤差が減少する。
固定ミキシングサイズと共通初期化の比較は,後発散における強化あるいは制限された改善よりも直接的関節改善が好ましい。
完全な段階的なフィッティングは、しかしながら、コリニアリティに近いほど正確である。
その結果, 局所的な利得が完全適応探索の優位性を保証できないことを示すとともに, 後部近似の直接的関節改善を支援することができた。
関連論文リスト
- PosteriorBench: From Point Estimates to Posterior Matching in Evaluating Generative Inverse Solvers [58.87583368961845]
PosteriorBenchは、生成的逆解器の分布精度を評価するためのベンチマークである。
ダーシーフローの逆転、ポアソン源の回復、炭素捕獲と貯蔵、光輸送物質推論の4つの物理に基づく逆問題を評価する。
論文 参考訳(メタデータ) (2026-09-17T17:54:12Z) - Augmented Inverse Hybrid Weighting: Robust Inference under Deterministic and Random Distribution Shifts [17.842727239557995]
本稿では,制度的なシフトを考慮に入れた上で,2つの集団法間の非体系的な変化を可能にする新しいモデルを提案する。
このような残留シフトは、学習可能な方法で表現できない確率空間へのランダムな摂動としてモデル化される。
純粋なランダム摂動の下で、この原理は回帰増強と分散-最適データセットレベルプーリングを使用するAIDW(Augmented Inverse Distance Weighting)をもたらす。
AIDWと標準強調重み付けを補間するAIHW(Augmented Inverse Hybrid Weighting)を開発した。
論文 参考訳(メタデータ) (2026-08-01T15:02:13Z) - Summarizing Bayesian Nonparametric Mixture Posterior -- Sliced Optimal Transport Metrics for Gaussian Mixtures [10.694077392690447]
混合モデルの後方推論を要約する既存の方法は、クラスタリングのための暗黙のランダムパーティションの点推定を同定することに焦点を当てている。
本研究では,非パラメトリックベイズ混合モデルにおける後部推論を要約し,混合度(または混合度)を推定対象として優先順位付けする手法を提案する。
論文 参考訳(メタデータ) (2024-11-22T02:15:38Z) - Semiparametric conformal prediction [79.6147286161434]
ベクトル値の非整合性スコアの結合相関構造を考慮した共形予測セットを構築する。
スコアの累積分布関数(CDF)を柔軟に推定する。
提案手法は,現実の回帰問題に対して,所望のカバレッジと競争効率をもたらす。
論文 参考訳(メタデータ) (2024-11-04T14:29:02Z) - Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。
我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
論文 参考訳(メタデータ) (2024-07-11T13:28:34Z) - Collaborative Heterogeneous Causal Inference Beyond Meta-analysis [68.4474531911361]
異種データを用いた因果推論のための協調的逆確率スコア推定器を提案する。
異質性の増加に伴うメタアナリシスに基づく手法に対して,本手法は有意な改善を示した。
論文 参考訳(メタデータ) (2024-04-24T09:04:36Z) - Nearest Neighbor Sampling for Covariate Shift Adaptation [7.940293148084844]
重みを推定しない新しい共変量シフト適応法を提案する。
基本的な考え方は、ソースデータセットの$k$-nearestの隣人によってラベル付けされたラベル付けされていないターゲットデータを直接扱うことだ。
実験の結果, 走行時間を大幅に短縮できることがわかった。
論文 参考訳(メタデータ) (2023-12-15T17:28:09Z) - Robust scalable initialization for Bayesian variational inference with
multi-modal Laplace approximations [0.0]
フル共分散構造を持つ変分混合は、パラメータ数による変動パラメータによる二次的な成長に苦しむ。
本稿では,変分推論のウォームスタートに使用できる初期ガウスモデル近似を構築する方法を提案する。
論文 参考訳(メタデータ) (2023-07-12T19:30:04Z) - Joint Probability Estimation Using Tensor Decomposition and Dictionaries [3.4720326275851994]
本研究では, 与えられた離散確率と連続確率変数の連立確率の非パラメトリック推定を, それらの(経験的推定)2次元境界値から検討した。
我々は、データを調べて分布の様々なファミリーの辞書を作成し、それを混合した製品の各分解因子を近似するために利用する。
論文 参考訳(メタデータ) (2022-03-03T11:55:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。