論文の概要: Improving reproducibility by controlling random seed stability in machine learning based estimation via bagging
- arxiv url: http://arxiv.org/abs/2604.17694v1
- Date: Mon, 20 Apr 2026 01:15:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-21 21:52:52.642076
- Title: Improving reproducibility by controlling random seed stability in machine learning based estimation via bagging
- Title(参考訳): バッジによる機械学習に基づく推定におけるランダムシード安定性制御による再現性の向上
- Authors: Nicholas Williams, Alejandro Schuler,
- Abstract要約: 機械学習アルゴリズムからの予測はランダムな種によって異なり、下流の偏りのある機械学習推定器の不安定性を引き起こす。
我々は,濃度条件によってランダムな種子の安定性を定式化し,任意の境界出力回帰アルゴリズムに対するサブバッグリングが安定性を保証することを証明した。
そこで我々は,新しいクロスフィット方式である適応型クロスバッグ方式を導入し,ニュアンス推定とサンプル分割の両方から種子依存を同時に除去する。
- 参考スコア(独自算出の注目度): 46.13729826261035
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Predictions from machine learning algorithms can vary across random seeds, inducing instability in downstream debiased machine learning estimators. We formalize random seed stability via a concentration condition and prove that subbagging guarantees stability for any bounded-outcome regression algorithm. We introduce a new cross-fitting procedure, adaptive cross-bagging, which simultaneously eliminates seed dependence from both nuisance estimation and sample splitting in debiased machine learning. Numerical experiments confirm that the method achieves the targeted level of stability whereas alternatives do not. Our method incurs a small computational penalty relative to standard practice whereas alternative methods incur large penalties.
- Abstract(参考訳): 機械学習アルゴリズムからの予測はランダムな種によって異なり、下流の偏りのある機械学習推定器の不安定性を引き起こす。
我々は,濃度条件によってランダムな種子の安定性を定式化し,任意の境界出力回帰アルゴリズムに対するサブバッグリングが安定性を保証することを証明した。
そこで我々は, 分散型機械学習において, 粒度推定とサンプル分割の両方から, 種子依存を同時に除去する新しいクロスフィット手法である適応型クロスバッグを導入する。
数値実験により、この手法は目標となる安定性のレベルを達成するのに対して、代替手段は達成しないことを確認した。
提案手法は, 標準法と比較して少ない計算刑を課すが, 代替法は大きな罰則を課す。
関連論文リスト
- Paired Seed Evaluation: Statistical Reliability for Learning-Based Simulators [0.16969585732319237]
機械学習システムは決定論的にランダムであり、シードされた擬似乱数生成器は実行全体にわたって同一の実現を生成する。
競合するシステムを同一のランダムなシードで評価するペア型シード評価設計を定式化する。
これにより、より厳密な信頼区間、高い統計力、固定された計算予算での効果的なサンプルサイズゲインが得られる。
論文 参考訳(メタデータ) (2025-12-30T11:15:04Z) - Leave-One-Out Stable Conformal Prediction [5.573524700758741]
そこで本研究では,サンプル分割を伴わずにアルゴリズム的安定性を用いて完全共形を高速化する手法を提案する。
残余の安定性を活用することで,多数の予測要求を処理する上で,我々の手法ははるかに高速である。
提案手法は理論的に正当化され,合成および実世界のデータに対して優れた数値性能を示す。
論文 参考訳(メタデータ) (2025-04-16T15:44:24Z) - Uncertainty Quantification via Stable Distribution Propagation [60.065272548502]
本稿では,ニューラルネットワークによる安定確率分布の伝播手法を提案する。
提案手法は局所線形化に基づいており,ReLU非線型性に対する全変動距離の近似値として最適であることを示す。
論文 参考訳(メタデータ) (2024-02-13T09:40:19Z) - Adapting to Continuous Covariate Shift via Online Density Ratio Estimation [64.8027122329609]
分散シフトへの対処は、現代の機械学習における中心的な課題の1つだ。
歴史的情報を適切に再利用するオンライン手法を提案する。
我々の密度比推定法は, ダイナミックなリセットバウンドを楽しむことにより, 良好に動作できることが証明された。
論文 参考訳(メタデータ) (2023-02-06T04:03:33Z) - Enhancing Distributional Stability among Sub-populations [32.66329730287957]
分散シフト下での機械学習アルゴリズムの安定性向上は、OOD(Out-of-Distribution)一般化問題の中心にある。
本稿では,モデル安定性を向上する新しい安定リスク最小化法を提案する。
実験結果は直感と一致し,アルゴリズムの有効性を検証した。
論文 参考訳(メタデータ) (2022-06-07T03:29:25Z) - Probabilistic robust linear quadratic regulators with Gaussian processes [73.0364959221845]
ガウス過程(GP)のような確率モデルは、制御設計に続く使用のためのデータから未知の動的システムを学ぶための強力なツールです。
本稿では、確率的安定性マージンに関して堅牢なコントローラを生成する線形化GPダイナミクスのための新しいコントローラ合成について述べる。
論文 参考訳(メタデータ) (2021-05-17T08:36:18Z) - Certifying Neural Network Robustness to Random Input Noise from Samples [14.191310794366075]
入力の不確実性の存在下でのニューラルネットワークの堅牢性を証明する方法は、安全クリティカルな設定において不可欠である。
本稿では,入力雑音が任意の確率分布に従う場合に,誤分類の確率を上限とする新しいロバスト性証明法を提案する。
論文 参考訳(メタデータ) (2020-10-15T05:27:21Z) - Balance-Subsampled Stable Prediction [55.13512328954456]
本稿では, 分数分解設計理論に基づく新しいバランスサブサンプル安定予測法を提案する。
設計理論解析により,提案手法は分布シフトによって誘導される予測器間の共起効果を低減できることを示した。
合成および実世界の両方のデータセットに関する数値実験により、BSSPアルゴリズムは未知のテストデータ間で安定した予測を行うためのベースライン法を著しく上回っていることが示された。
論文 参考訳(メタデータ) (2020-06-08T07:01:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。