論文の概要: When Does Dynamic Ensembling Pay Off? Diagnosing Regionwise Gains in Regression under Distribution Shift
- arxiv url: http://arxiv.org/abs/2608.18330v1
- Date: Tue, 18 Aug 2026 21:31:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-20 20:13:55.219899
- Title: When Does Dynamic Ensembling Pay Off? Diagnosing Regionwise Gains in Regression under Distribution Shift
- Title(参考訳): ダイナミックな支払いはいつ終わるか? 配当シフトによる回帰の地域的利得の診断
- Abstract要約: ラベル付きターゲットドメインプローブは、地域間での信頼の再配置が報われるかどうかを教えてくれます。
分布感度下での回帰アンサンブルの再現可能な評価手法であるOpenRegShiftをリリースする。
- 参考スコア(独自算出の注目度): 4.583541422554719
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Whether input-dependent ("dynamic") combination of a regression model pool beats the best static blend depends on the shift and is rarely known before deployment. Can a small labeled target-domain probe tell us when reallocating trust across regions of the input space will pay off? We answer this with $\widehat{D}_{\mathrm{CF5}}$, which estimates from the probe the cross-fitted gain of the regionwise convex combination over the best static convex blend: the realizable value of deciding, region by region, whom to trust. Across a frozen suite of 12 dataset-shift pairs (spatial, temporal, domain, feature-cluster), $\widehat{D}_{\mathrm{CF5}}$ predicts realized regionwise test gains with dataset-level Spearman $+0.98$ (95% CI $[+0.83, +1.00]$; $p=5\times10^{-5}$), including two cases overturning preregistered expectations. The relationship holds in a 16-pair sensitivity analysis (Spearman $+0.83$), whereas alternative probe diagnostics reach at most $+0.66$. This contrast isolates regional trust reallocation: correlation is $+0.98$ for regionwise-convex gain, but $+0.01$ for smooth covariate-dependent stacking after affine correction. A controlled generator shows dynamic gains arise from the interaction of shift heterogeneity and local competence, increase with shift severity, and become realizable between 128 and 256 probe labels in the tested grid. The Probe-Validated Ensemble Selector chooses among a static affine stacker and dynamic realizers, deploying a candidate only when a held-out lower confidence bound clears the static-convex floor. In a preregistered prospective batch, it matched or improved the floor in all 12 runs; two deployments reduced test risk by 11% and 16%, while the gate rejected a candidate whose un-gated deployment incurred $>30\times$ the static loss. We release OpenRegShift, a reproducible evaluation harness for regression ensembles under distribution shift.
- Abstract(参考訳): 回帰モデルプールの入力依存(動的)結合が最高の静的ブレンドを破るかどうかは、シフトに依存するため、デプロイ前にはほとんど知られていない。
小さなラベル付きターゲットドメインプローブは、入力空間の領域にまたがる信頼の再配置が報われるかどうかを教えてくれますか?
これを$\widehat{D}_{\mathrm{CF5}}$で答えると、このプローブは、最もよい静的凸混合よりも、領域的に整合した凸結合のクロスフィット利得を推定する。
12のデータセットシフトペア(空間、時間、ドメイン、フィーチャークラスタ)からなる凍結したスイート全体にわたって、$\widehat{D}_{\mathrm{CF5}}$は、データセットレベルで実現されたリージョンワイドテストゲインを、データセットレベルで予測するSpearman $+0.98$ (95% CI $[+0.83, +1.00]$; $p=5\times10^{-5}$)を含む、予測済みの2つのケースを含む、データセットレベルのテストゲインを予測する。
この関係は16対の感度分析(Spearman $+0.83$)で成り立つが、代替のプローブ診断は最大で0.66$に達する。
このコントラストは、地域的信頼再配置を分離する:相関は、地域的に凸ゲインに対して$+0.98$であるが、アフィン補正後の滑らかな共変量依存的な積み重ねに対して$+0.01$である。
制御されたジェネレータは、シフトの不均一性と局所的な能力の相互作用によって生じる動的ゲインを示し、シフト重大度の増加とともに、テストグリッド内の128から256のプローブラベルの間で実現可能である。
Probe-Validated Ensemble Selectorは静的アフィンスタックと動的イネータの中から選択され、保持された低信頼が静的凸フロアをクリアする場合のみ候補をデプロイする。
2回のデプロイでテストのリスクが11%と16%削減されたのに対して、ゲートは未公開のデプロイで静的損失が$>30\timesであった候補を拒絶した。
我々は,分散シフト下での回帰アンサンブルの再現可能な評価手法であるOpenRegShiftをリリースする。
関連論文リスト
- Asymptotic-Preserving A Posteriori Analysis of Diffusion and Flow-Matching Samplers [0.6768558752130311]
拡散及びフローマッチングサンプリングは、学習した確率フローODEを、大きなノイズスケールから小さな終端フロア($_min$)まで統合し、スコアが硬く、フローが境界層を発達させる。
特異摂動パラメータとして$_min$を扱い、どの固定ステップサンプリングが解けるかを決定する。
論文 参考訳(メタデータ) (2026-07-05T04:48:33Z) - Decoherence as Defence and the Magnitude of Noise Regularisation: A Rigorous N -Qubit Theory of Stochastic Quantum Neural Networks for Adversarially Robust Network Intrusion Detection [0.0]
マスター方程式とそのベクトル化されたリウビリアンによる$N$-qubitの定式化を与える。
エンフェデコヒーレンス・コントラクションの定理、すなわち強度の非分極チャネルを証明します。
このロバスト性は、アタックタイムの収縮ではなく、ノイズの変形したトレーニング境界から生じることを示す。
論文 参考訳(メタデータ) (2026-06-23T07:06:56Z) - GRACE: Gated Refinement for Accurate Causal Edge Discovery in High-Dimensional Time Series [0.0]
高速リニアCIスケルトンはハイリコール候補を提供する。
単一ゲートモデルは、どのエッジが真に予測を改善するかを学ぶことによって、偽陽性を誘発する。
GRACEは高価な非線形CIテストと少しのコストで一致または超過します。
論文 参考訳(メタデータ) (2026-06-22T19:26:38Z) - Is Spurious Correlation Removal Always Learnable? [56.28155520961125]
不変学習は、構造が統計的に識別可能であっても失敗することがある。
ブラックボックスサンプリング可能な教師付きスパースリカバリプリミティブの下では、実証可能な多次元環境が存在する。
合成および実際のデータセットは、予測されたギャップと遷移を示し、単純な多様性診断を動機付ける。
論文 参考訳(メタデータ) (2026-06-11T05:49:43Z) - Smart Ensemble Learning Framework for Predicting Groundwater Heavy Metal Pollution [0.0]
デンス盆地の地下水は重金属汚染によってますます脅かされている。
主な課題は重金属汚染指数(HPI)のモデル化である。
本研究では,Nested Cross-validated ensemble Machine Learningと応答変換を統合したフレームワークを開発した。
論文 参考訳(メタデータ) (2026-04-29T21:40:18Z) - Hardware Validation of DAGI via a Modular "Ridge" Signature and High-Order Synergistic Information [0.0]
IBM Quantumハードウェア上でのDAGI(Directed Acyclic Graph Information)フレームワーク。
理想的な出力分布が低次元モジュラー多様体(リッジ)に制約される小さな制御された実験
キーリカバリはチャンスを超えた:ショット毎の精度0.1689(チャンス0.125,95% Wilson CI[0.1610, 0.1772])
これらの結果は、DAGIが非自明でハードウェアに耐性のある情報構造を検出し、定量化するという主張を支持する。
論文 参考訳(メタデータ) (2026-04-16T14:16:59Z) - Tight Convergence Rates for Online Distributed Linear Estimation with Adversarial Measurements [66.94250413799232]
分散パラメータ-サーバ-ワーカー設定における乱数ベクトル$X$の推定について検討する。
主な課題は、敵の計測と非同期である。
その結果, 分散線形推定におけるロバスト性, 識別性, 統計的効率の統一的有限時間評価が得られた。
論文 参考訳(メタデータ) (2026-04-07T11:45:55Z) - Optimal Unconstrained Self-Distillation in Ridge Regression: Strict Improvements, Precise Asymptotics, and One-Shot Tuning [61.07540493350384]
自己蒸留(英: Self-distillation, SD)とは、教師自身の予測と地道の混合で学生を訓練する過程である。
任意の予測リスクに対して、各正規化レベルにおいて、最適に混合された学生がリッジ教師に改善されることが示される。
本稿では,グリッド探索やサンプル分割,再構成なしに$star$を推定する一貫したワンショットチューニング手法を提案する。
論文 参考訳(メタデータ) (2026-02-19T17:21:15Z) - Statistical Learning under Heterogeneous Distribution Shift [71.8393170225794]
ground-truth predictor is additive $mathbbE[mathbfz mid mathbfx,mathbfy] = f_star(mathbfx) +g_star(mathbfy)$.
論文 参考訳(メタデータ) (2023-02-27T16:34:21Z) - Beyond Invariance: Test-Time Label-Shift Adaptation for Distributions
with "Spurious" Correlations [44.99833362998488]
テスト時のデータ分散の変化は、予測モデルのパフォーマンスに有害な影響を及ぼす可能性がある。
本研究では,未ラベルサンプルに適用したEMを用いて,共同分布の$p(y, z)$の変化に適応するテストタイムラベルシフト補正を提案する。
論文 参考訳(メタデータ) (2022-11-28T18:52:33Z) - Optimal Robust Linear Regression in Nearly Linear Time [97.11565882347772]
学習者が生成モデル$Y = langle X,w* rangle + epsilon$から$n$のサンプルにアクセスできるような高次元頑健な線形回帰問題について検討する。
i) $X$ is L4-L2 hypercontractive, $mathbbE [XXtop]$ has bounded condition number and $epsilon$ has bounded variance, (ii) $X$ is sub-Gaussian with identity second moment and $epsilon$ is
論文 参考訳(メタデータ) (2020-07-16T06:44:44Z) - Agnostic Learning of a Single Neuron with Gradient Descent [92.7662890047311]
期待される正方形損失から、最も適合した単一ニューロンを学習することの問題点を考察する。
ReLUアクティベーションでは、我々の人口リスク保証は$O(mathsfOPT1/2)+epsilon$である。
ReLUアクティベーションでは、我々の人口リスク保証は$O(mathsfOPT1/2)+epsilon$である。
論文 参考訳(メタデータ) (2020-05-29T07:20:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。