論文の概要: Statistical Properties of Robust Learning under Distributional Shifts
- arxiv url: http://arxiv.org/abs/2608.13133v1
- Date: Thu, 13 Aug 2026 12:06:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-14 18:29:38.510777
- Title: Statistical Properties of Robust Learning under Distributional Shifts
- Title（参考訳）: 分布変化下におけるロバスト学習の統計的特性
- Abstract要約: 本稿では,対象環境における一般化誤差--シフトした目標分布下での余剰損失-について検討する。
DROおよびRSのシフト対象環境における有限サンプル一般化誤差を導出する。
本フレームワークは,需要分布の正の変動に対応するロバストポリシーを解釈するために,ネットワークのロットサイズ問題に適用する。
- 参考スコア（独自算出の注目度）: 12.995907626827794
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Distributional shifts arise when the target deployment environment differs from the source environment that generated the training data. Robust learning frameworks such as Distributionally Robust Optimization (DRO) and Robust Satisficing (RS) aim to address this challenge, yet their finite-sample guarantees under such shifts, and their systematic comparison, remain underexplored: existing analyses typically establish guarantees either in the source environment or for adversarial worst-case performance over an ambiguity set. This paper instead studies generalization error in the target environment---the excess loss under the shifted target distribution. Our contributions are threefold. First, we derive finite-sample generalization error bounds in the shifted target environment for both DRO and RS. These bounds explicitly characterize the trade-off between reduced sensitivity to shift and the regularization penalty induced by each method's robustness hyperparameter, and they avoid the curse of dimensionality associated with Wasserstein empirical concentration. Second, when partial shift information such as shift magnitude or direction is available, we propose information-directed hyperparameter calibrations and compare the two methods given the same information. Under these calibrations, and in the partial-information regimes we study, DRO and RS exhibit complementary theoretical and empirical behavior. Finally, we apply the framework to a network lot-sizing problem, using it to interpret how robust policies respond to positive shifts in the demand distribution. Together, these results fill a gap in understanding the statistical properties of robust learning methods under distributional shifts and provide a principled basis for comparing DRO and RS.
- Abstract（参考訳）: トレーニングデータを生成するソース環境とターゲットデプロイメント環境が異なる場合、分散シフトが発生する。
Distributionally Robust Optimization (DRO) や Robust Satisficing (RS) のようなロバストな学習フレームワークは、この課題に対処することを目指しているが、そのようなシフトの下での有限サンプルの保証とその体系的な比較は未定である。
そこで本研究では,移動対象分布下での余剰損失について,対象環境における一般化誤差について検討する。
私たちの貢献は3倍です。
まず、DROおよびRSのシフト対象環境における有限サンプル一般化誤差を導出する。
これらの境界は、シフトに対する感度の低下と各メソッドのロバスト性ハイパーパラメータによって引き起こされる正規化ペナルティとの間のトレードオフを明示的に特徴付け、ワッサーシュタインの経験的集中に関連する次元性の呪いを避ける。
第2に、シフトサイズや方向などの部分的なシフト情報が得られる場合、情報指向のハイパーパラメータキャリブレーションを提案し、同じ情報を与えられた2つの手法を比較する。
これらの校正と部分情報体制の下では、DROとRSは相補的な理論的および経験的な振る舞いを示す。
最後に、このフレームワークをネットワークのロットサイズ問題に適用し、需要分布のポジティブな変化に対応するロバストなポリシーを解釈する。
これらの結果は,分散シフト下での頑健な学習手法の統計的特性の理解のギャップを埋め,DROとRSを比較するための基本となる。
関連論文リスト
- Disparate Impact in Synthetic Data Generation [10.23887083601828]
合成データ生成における異なる影響の概念を再考する。
我々は、合成分布と実分布が同じ場合、非異なる影響が達成されると主張している。
論文 参考訳（メタデータ） (2026-06-11T09:33:12Z) - Too Correct to Learn: Reinforcement Learning on Saturated Reasoning Data [55.84428098924793]
構造保存探索を行うためのパラメータ自由復号法である Constrained Uniform Top-K Smpling (CUTS) を提案する。
グループ内の利点分散を増幅するために、エクスプロイトと探索的なロールアウトを相乗化するためのトレーニングフレームワークであるMixed-CUTSに統合する。
特にMixed-CUTSは、AIME25ベンチマークのPass@1の精度を標準のGRPOよりも15.1%向上している。
論文 参考訳（メタデータ） (2026-04-20T16:43:28Z) - Stratified GRPO: Handling Structural Heterogeneity in Reinforcement Learning of LLM Search Agents [90.45197506653341]
大規模言語モデル(LLM)エージェントは、複雑なマルチステップ問題を解決するために、検索エンジンのような外部ツールに依存している。
サーチエージェントの軌道は構造的に不均一であり、サーチコールの数、配置、結果の変動は、根本的に異なる応答方向と報酬分布をもたらす。
1つのグローバルベースラインを使用する標準方針勾配法は、私たちが認識し、層間バイアスとして定式化するものに苦しむ。
本稿では,SAN (Stratified Advantage Normalization) の中心成分であるStratified GRPOを提案する。
論文 参考訳（メタデータ） (2025-10-07T17:59:13Z) - Distributionally Robust Federated Learning with Outlier Resilience [8.69285602685459]
本研究では, 分散的頑健なフェデレーション学習について, 明確な外部レジリエンスを用いて検討した。
我々は、ロバスト性証明を許容するトラクタブルなラグランジアンペナルティ最適化として問題を再構築する。
この改革に基づいて,分散外乱フェデレーション学習アルゴリズムを提案し,その収束保証を確立する。
論文 参考訳（メタデータ） (2025-09-29T08:42:12Z) - Distributionally Robust Optimization with Adversarial Data Contamination [49.89480853499918]
凸リプシッツ損失関数を持つ一般化線形モデルに対するワッサーシュタイン-1 DRO 目標の最適化に焦点をあてる。
私たちの主な貢献は、データ汚染のトレーニングに対するロバストネスと分散シフトに対するロバストネスを統合した、新しいモデリングフレームワークです。
この研究は、データ汚染と分散シフトという2つの課題の下で学習するために、効率的な計算によって支援される最初の厳密な保証を確立する。
論文 参考訳（メタデータ） (2025-07-14T18:34:10Z) - Knowledge Distillation and Enhanced Subdomain Adaptation Using Graph Convolutional Network for Resource-Constrained Bearing Fault Diagnosis [0.0]
複雑な教師モデルからコンパクトで効率的な学生モデルに知識を伝達する進歩的知識蒸留フレームワークを提案する。
再生ケルネルヒルベルト空間(RKHS)における平均および分散統計を利用してラベル間の事前確率分布を組み込むELMMSD(Enhanced Local Maximum Mean Squared Discrepancy)を導入する。
論文 参考訳（メタデータ） (2025-01-13T10:05:47Z) - Distributionally and Adversarially Robust Logistic Regression via Intersecting Wasserstein Balls [8.720733751119994]
提案手法は,提案手法が標準データセットのベンチマーク手法よりも優れていることを示す。
前者からインスピレーションを得て、ロジスティック回帰のためにAROのワッサーシュタイン DR について検討し、トラクタブル凸最適化の修正が認められることを示す。
論文 参考訳（メタデータ） (2024-07-18T15:59:37Z) - Wasserstein Distributionally Robust Policy Evaluation and Learning for
Contextual Bandits [18.982448033389588]
オフ政治評価と学習は、与えられた政策を評価し、環境と直接対話することなくオフラインデータから最適な政策を学ぶことに関するものである。
学習と実行における異なる環境の影響を考慮するため,分散ロバスト最適化法(DRO)が開発されている。
代わりにワッサーシュタイン距離を用いた新しいDRO手法を提案する。
論文 参考訳（メタデータ） (2023-09-15T20:21:46Z) - Learning Invariant Representations and Risks for Semi-supervised Domain
Adaptation [109.73983088432364]
半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。
共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
論文 参考訳（メタデータ） (2020-10-09T15:42:35Z) - Learning Calibrated Uncertainties for Domain Shift: A Distributionally
Robust Learning Approach [150.8920602230832]
ドメインシフトの下で校正された不確実性を学習するためのフレームワークを提案する。
特に、密度比推定は、ターゲット(テスト)サンプルの近さをソース(トレーニング)分布に反映する。
提案手法は下流タスクに有利な校正不確実性を生成する。
論文 参考訳（メタデータ） (2020-10-08T02:10:54Z) - When Relation Networks meet GANs: Relation GANs with Triplet Loss [110.7572918636599]
GAN(Generative Adversarial Network)の学習安定性はいまだに悩みの種である
本稿では,判別器のための関係ネットワークアーキテクチャについて検討し,より優れた一般化と安定性を実現する三重項損失を設計する。
ベンチマークデータセットの実験により、提案された関係判別器と新たな損失は、可変視覚タスクに大幅な改善をもたらすことが示された。
論文 参考訳（メタデータ） (2020-02-24T11:35:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。