論文の概要: Feature Bagging Provides Stability

• arxiv url: http://arxiv.org/abs/2607.26964v1
• Date: Wed, 29 Jul 2026 14:26:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-30 21:06:25.701176
• Title: Feature Bagging Provides Stability
• Title（参考訳）: Feature Baggingが安定性を提供
• Authors: Yuheng Ma, Qiang Sun,
• Abstract要約: アルゴリズム安定性のレンズによる特徴バッグングについて検討する。 機能不安定性 (FI) は, インスタンス不安定性 (II) の特徴軸アナログであり, 単一特徴の除去に対する感度を測定する。 無限バッグの安定レベルに近づくには、適度な数のバッグラウンドが十分であることを示す。
• 参考スコア（独自算出の注目度）: 9.66778141968989
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study feature bagging through the lens of algorithmic stability. Feature bagging is an ensemble strategy that aggregates base learners trained on randomly subsampled feature subsets, possibly in a data-dependent manner. We introduce feature instability (FI), the feature-axis analogue of instance instability (II), which measures sensitivity to removing a single feature. Smaller values of II or FI correspond to stronger stability, and our experiments show that FI captures generalization-relevant information complementary to II. Within this framework, we analyze feature bagging in both a parametric linear model and a model-free setting inspired by recursive feature subsampling in random forests. In both settings, we establish formal guarantees showing that feature bagging improves the relevant stability relative to its non-bagged counterpart, with larger improvements under more aggressive subsampling. We further show that a modest number of bagging rounds is sufficient to approach the infinite-bagging stability level.
• Abstract（参考訳）: アルゴリズム安定性のレンズによる特徴バッグングについて検討する。 フィーチャーバッグング(Feature bagging)は、ランダムにサブサンプル化された機能サブセットでトレーニングされたベースラーナーを、おそらくデータ依存の方法で集約するアンサンブル戦略である。 機能不安定性 (FI) は, インスタンス不安定性 (II) の特徴軸アナログであり, 単一特徴の除去に対する感度を測定する。 II または FI のより小さい値はより強い安定性に対応し、我々の実験により、FI は II と相補的な一般化関連情報をキャプチャすることを示した。 本フレームワークでは,無作為林における再帰的特徴サブサンプリングにインスパイアされた,パラメトリック線形モデルとモデルフリー設定の両方における特徴バッグングを解析する。 両方の設定において、機能バッキングが非タグの相対的な安定性を改善し、より攻撃的なサブサンプリングよりも大きな改善をもたらすことを示す正式な保証を確立する。 さらに, 無限バッグング安定レベルに近づくには, 適度な数のバッグングラウンドが十分であることを示す。

関連論文リスト

• Multimodal Learning on Low-Quality Data with Conformal Predictive Self-Calibration [72.0672328514289]
  マルチモーダル学習は、しばしば低品質データの課題に悩まされる。 コンフォーマル予測自己校正(Conformal Predictive Self-Calibration)と呼ばれる統合フレームワークを提案する。 私たちのフレームワークは、既存の最先端メソッドを一貫して上回ります。
  論文  参考訳（メタデータ） (2026-05-05T14:48:52Z)
• First-Mover Bias in Gradient Boosting Explanations: Mechanism, Detection, and Resolution [0.0]
  第1モーバーバイアス(英: First-mover bias)は、勾配上昇における逐次的残留フィッティングに起因する特徴量の集中である。 モデル独立性は線形状態における最優先バイアスを解くのに十分であり、非線形データ生成プロセス下では最も効果的な緩和法であることを示す。
  論文  参考訳（メタデータ） (2026-03-22T02:59:40Z)
• The Price of Robustness: Stable Classifiers Need Overparameterization [17.335490896384265]
  クラス安定性で逆改善する有限関数クラスに対して有界な一般化を確立する。 我々は、ブベックとセルケの結果を拡張する分類の堅牢性の法則として導かれる。 実験は我々の理論を支持するが、伝統的なノルムに基づく測度はほとんど非形式的である。
  論文  参考訳（メタデータ） (2026-03-03T09:47:06Z)
• MaP: A Unified Framework for Reliable Evaluation of Pre-training Dynamics [72.00014675808228]
  大規模言語モデルの不安定性評価プロセスは、真の学習力学を曖昧にする。 textbfMaPは、アンダーラインMergingアンダーラインとアンダーラインPass@kメトリックを統合するフレームワークです。 実験により、MaPはよりスムーズな性能曲線を示し、ラン間分散を低減し、より一貫性のあるランキングを保証する。
  論文  参考訳（メタデータ） (2025-10-10T11:40:27Z)
• Stochastic Encodings for Active Feature Acquisition [100.47043816019888]
  Active Feature Acquisitionは、インスタンスワイドでシーケンシャルな意思決定問題である。 目的は、テストインスタンスごとに独立して、現在の観測に基づいて計測する機能を動的に選択することである。 一般的なアプローチは強化学習(Reinforcement Learning)であり、トレーニングの困難を経験する。 我々は、教師付きで訓練された潜在変数モデルを導入し、潜在空間における観測不能な実現の可能性の多くにまたがる特徴を推論することで獲得する。
  論文  参考訳（メタデータ） (2025-08-03T23:48:46Z)
• Bagging Provides Assumption-free Stability [11.456416081243654]
  バギングは、機械学習モデルを安定化するための重要なテクニックである。 本稿では,任意のモデルに対するバギングの安定性に関する有限サンプル保証を導出する。
  論文  参考訳（メタデータ） (2023-01-30T01:18:05Z)
• Fine-Grained Analysis of Stability and Generalization for Stochastic Gradient Descent [55.85456985750134]
  我々は,SGDの反復的リスクによって制御される新しい境界を開発する,平均モデル安定性と呼ばれる新しい安定性尺度を導入する。 これにより、最良のモデルの振舞いによって一般化境界が得られ、低雑音環境における最初の既知の高速境界が導かれる。 我々の知る限りでは、このことはSGDの微分不能な損失関数でさえも初めて知られている安定性と一般化を与える。
  論文  参考訳（メタデータ） (2020-06-15T06:30:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。