論文の概要: Covariance Shrinkage via Stochastic Interpolation
- arxiv url: http://arxiv.org/abs/2606.07382v1
- Date: Fri, 05 Jun 2026 15:21:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-08 14:33:29.821155
- Title: Covariance Shrinkage via Stochastic Interpolation
- Title（参考訳）: 確率補間による共分散収縮
- Authors: Mathieu Chalvidal, Florentin Coeurdoux, Eric Vanden-Eijnden,
- Abstract要約: 我々は、高次元共分散推定器を、ソースとターゲット分布の間のパラメトリック補間子に対する経験的リスクとして再評価する。
この形式主義は、統計的リスクを減少させる3つの異なるメカニズムを明らかにしている。
本稿では,補間近似誤差の観点から,補間子の2次的リスクの上限値とともに,補間子の神経推定器を提案する。
- 参考スコア（独自算出の注目度）: 17.341024497036766
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We recast classical shrinkage of high-dimensional covariance estimators as empirical risk minimization over a parametric stochastic interpolant between a source and a target distribution. This formalism recovers known shrinkage estimators as special cases and reveals three distinct mechanisms for reducing statistical risk: (i) Scheduling: the interpolant schedule determines the class of admissible covariances, and hence the achievable risk. (ii) Flow maps and couplings: whereas naive constructions amount to assuming independence between the distributions, specific coupling structures (e.g., solutions of optimal transport problems) can lower the empirical risk. Moreover, non-linear flow maps realizing such couplings free the interpolant covariance from the eigenbasis of the empirical estimate, enabling eigenvector regularization. (iii) Early stopping: estimators defined by integrating a regressed vector field afford an additional bias-variance trade-off through approximation of the true interpolant distribution. We then propose a neural estimator of the interpolant, together with an upper bound on its quadratic risk in terms of the interpolant approximation error, and validate both on synthetic experiments. Finally, we apply the estimator to real neuroimaging data, demonstrating the additional regularization power this approach offers in practice.
- Abstract（参考訳）: 我々は,高次元共分散推定器の古典的縮小を,音源と対象分布の間のパラメトリック確率補間子に対する経験的リスク最小化として再検討した。
このフォーマリズムは、既知の収縮推定器を特別なケースとして回収し、統計リスクを減らすための3つの異なるメカニズムを明らかにします。
(i)スケジューリング:補間スケジュールは許容可能な共分散のクラスを決定し、従って達成可能なリスクを決定する。
(II) フローマップとカップリング: ネーブな構造は分布間の独立性を仮定するが、特定のカップリング構造(例えば、最適輸送問題の解)は経験的リスクを低下させる。
さらに、そのような結合を実現する非線形フローマップは、経験的推定の固有ベイジから補間共分散を解放し、固有ベクトル正則化を可能にする。
3)早期停止:回帰ベクトル場を統合することで定義される推定器は、真の補間分布を近似することにより、さらなるバイアス分散トレードオフを与える。
次に, 補間器のニューラル推定器を提案し, 補間器の近似誤差から2次的リスクを上限として, 両者を合成実験で検証した。
最後に、実際のニューロイメージングデータに推定器を適用し、このアプローチが実際に提供するさらなる正規化力を実証する。
関連論文リスト
- Beyond Consistency: Inference for the Relative risk functional in Deep Nonparametric Cox Models [7.2275111013288535]
Coxをベースとした最適化誤差が、部分的可能性の下で集団リスクにどのように伝播するかは明らかでない。
また、ポイントワイドバイアスがどのように制御できるのか、またアンサンブルに基づく不確実性が現実的な分散体制の下でどのように振る舞うのかも不明である。
これらの問題に対処するディープコックス推定器の分布理論を開発する。
論文 参考訳（メタデータ） (2026-03-25T01:43:12Z) - When three experiments are better than two: Avoiding intractable correlated aleatoric uncertainty by leveraging a novel bias--variance tradeoff [1.1609229408259252]
実世界の実験シナリオは、ヘテロスケダティックなアレタリックな不確実性の存在によって特徴づけられる。
実験ラウンド間のバイアスを直接低減する新しいアクティブラーニング戦略を提案する。
論文 参考訳（メタデータ） (2025-09-04T16:23:54Z) - Generalization Bounds of Surrogate Policies for Combinatorial Optimization Problems [53.03951222945921]
我々はスムーズな(摂動された)ポリシーを解析し、線形オラクルが使用する方向に対して制御されたランダムな摂動を付加する。
我々の主な貢献は、過剰リスクを摂動バイアス、統計的推定誤差、最適化誤差に分解する一般化境界である。
車両のスケジューリングやスムーズ化がトラクタブルトレーニングと制御された一般化の両方を可能にしていることを示す。
論文 参考訳（メタデータ） (2024-07-24T12:00:30Z) - Error Bounds of Supervised Classification from Information-Theoretic Perspective [0.0]
我々は、情報理論の観点から、教師付き分類にディープニューラルネットワークを使用する場合の予測リスクのバウンダリについて検討する。
経験的リスクをさらに分解したモデルリスクとフィッティングエラーを導入する。
論文 参考訳（メタデータ） (2024-06-07T01:07:35Z) - A Geometric Unification of Distributionally Robust Covariance Estimators: Shrinking the Spectrum by Inflating the Ambiguity Set [20.166217494056916]
制約的な仮定を課さずに共分散推定器を構築するための原理的手法を提案する。
頑健な推定器は効率的に計算可能で一貫したものであることを示す。
合成および実データに基づく数値実験により、我々の頑健な推定器は最先端の推定器と競合していることが示された。
論文 参考訳（メタデータ） (2024-05-30T15:01:18Z) - Collaborative Heterogeneous Causal Inference Beyond Meta-analysis [68.4474531911361]
異種データを用いた因果推論のための協調的逆確率スコア推定器を提案する。
異質性の増加に伴うメタアナリシスに基づく手法に対して,本手法は有意な改善を示した。
論文 参考訳（メタデータ） (2024-04-24T09:04:36Z) - Uncertainty Quantification via Stable Distribution Propagation [60.065272548502]
本稿では,ニューラルネットワークによる安定確率分布の伝播手法を提案する。
提案手法は局所線形化に基づいており,ReLU非線型性に対する全変動距離の近似値として最適であることを示す。
論文 参考訳（メタデータ） (2024-02-13T09:40:19Z) - Domain Generalization without Excess Empirical Risk [83.26052467843725]
一般的なアプローチは、一般化を捉え、ペナルティと共同で経験的リスクを最小化するために、データ駆動の代理ペナルティを設計することである。
我々は、このレシピの重大な失敗モードは、共同最適化における誤ったペナルティや難しさによる過度なリスクであると主張している。
我々は,この問題を解消するアプローチを提案し,経験的リスクと刑罰を同時に最小化する代わりに,経験的リスクの最適性の制約の下でのペナルティを最小化する。
論文 参考訳（メタデータ） (2023-08-30T08:46:46Z) - Optimal variance-reduced stochastic approximation in Banach spaces [114.8734960258221]
可分バナッハ空間上で定義された収縮作用素の定点を推定する問題について検討する。
演算子欠陥と推定誤差の両方に対して漸近的でない境界を確立する。
論文 参考訳（メタデータ） (2022-01-21T02:46:57Z) - Which Invariance Should We Transfer? A Causal Minimax Learning Approach [18.71316951734806]
本稿では、因果的観点からの包括的ミニマックス分析について述べる。
最小の最悪のリスクを持つサブセットを探索する効率的なアルゴリズムを提案する。
本手法の有効性と有効性は, 合成データとアルツハイマー病の診断で実証された。
論文 参考訳（メタデータ） (2021-07-05T09:07:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。