論文の概要: The Bias-Variance Tradeoff in Data-Driven Optimization: A Local Misspecification Perspective

• arxiv url: http://arxiv.org/abs/2510.18215v1
• Date: Tue, 21 Oct 2025 01:35:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-25 03:08:12.757588
• Title: The Bias-Variance Tradeoff in Data-Driven Optimization: A Local Misspecification Perspective
• Title（参考訳）: データ駆動最適化におけるバイアス・変数のトレードオフ--局所的ミススペクテーションの視点から
• Authors: Haixiang Lan, Luofeng Liao, Adam N. Elmachtoub, Christian Kroer, Henry Lam, Haofeng Zhang,
• Abstract要約: データ駆動の最適化は、機械学習や運用上の意思決定問題において、至るところで行われている。 ETO(Integrated Estimation-Optimization)やIEO(Integrated Estimation-Optimization)といったモデルベースアプローチが一般的である。 しかし、これらの手法の相対的な性能はよく理解されておらず、ほとんどの結果は、モデルに基づくアプローチが適切に特定されたり、不明確であったりするジコトプスのケースに限られる。
• 参考スコア（独自算出の注目度）: 42.126289886227255
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Data-driven stochastic optimization is ubiquitous in machine learning and operational decision-making problems. Sample average approximation (SAA) and model-based approaches such as estimate-then-optimize (ETO) or integrated estimation-optimization (IEO) are all popular, with model-based approaches being able to circumvent some of the issues with SAA in complex context-dependent problems. Yet the relative performance of these methods is poorly understood, with most results confined to the dichotomous cases of the model-based approach being either well-specified or misspecified. We develop the first results that allow for a more granular analysis of the relative performance of these methods under a local misspecification setting, which models the scenario where the model-based approach is nearly well-specified. By leveraging tools from contiguity theory in statistics, we show that there is a bias-variance tradeoff between SAA, IEO, and ETO under local misspecification, and that the relative importance of the bias and the variance depends on the degree of local misspecification. Moreover, we derive explicit expressions for the decision bias, which allows us to characterize (un)impactful misspecification directions, and provide further geometric understanding of the variance.
• Abstract（参考訳）: データ駆動確率最適化は、機械学習や運用上の意思決定問題において、ユビキタスである。 サンプル平均近似 (SAA) や推定テーマ最適化 (ETO) や統合推定最適化 (IEO) といったモデルベースアプローチはいずれも人気があり、複雑な文脈依存問題においてモデルベースアプローチはSAAの問題の一部を回避できる。 しかし、これらの手法の相対的な性能はよく理解されておらず、ほとんどの結果は、モデルに基づくアプローチが適切に特定されたり、不明確であったりするジコトプスのケースに限られる。 モデルベースアプローチがほぼ明確に特定されたシナリオをモデル化した,局所的不特定設定の下で,これらの手法の相対的性能をより詳細に解析する実験結果を開発した。 統計学における連続理論からのツールを活用することにより,SAA,IEO,ETOの偏差トレードオフが局所的不特定の下であり,偏差と偏差の相対的重要性が局所的不特定度に依存することを示した。 さらに,決定バイアスに対する明示的な表現を導出し,不重要な不特定方向を特徴付けるとともに,分散の幾何学的理解を深める。

関連論文リスト

• MITA: Bridging the Gap between Model and Data for Test-time Adaptation [68.62509948690698]
  テスト時間適応(TTA)は、モデルの一般化性を高めるための有望なパラダイムとして登場した。 本稿では,Met-In-The-MiddleをベースとしたMITAを提案する。
  論文  参考訳（メタデータ） (2024-10-12T07:02:33Z)
• Generalization Bounds of Surrogate Policies for Combinatorial Optimization Problems [53.03951222945921]
  我々はスムーズな(摂動された)ポリシーを解析し、線形オラクルが使用する方向に対して制御されたランダムな摂動を付加する。 我々の主な貢献は、過剰リスクを摂動バイアス、統計的推定誤差、最適化誤差に分解する一般化境界である。 車両のスケジューリングやスムーズ化がトラクタブルトレーニングと制御された一般化の両方を可能にしていることを示す。
  論文  参考訳（メタデータ） (2024-07-24T12:00:30Z)
• Aggregation Weighting of Federated Learning via Generalization Bound Estimation [65.8630966842025]
  フェデレートラーニング(FL)は通常、サンプル比率によって決定される重み付けアプローチを使用して、クライアントモデルパラメータを集約する。 上記の重み付け法を,各局所モデルの一般化境界を考慮した新しい戦略に置き換える。
  論文  参考訳（メタデータ） (2023-11-10T08:50:28Z)
• Estimate-Then-Optimize versus Integrated-Estimation-Optimization versus Sample Average Approximation: A Stochastic Dominance Perspective [21.945745750737952]
  モデルクラスが十分に特定され、十分なデータが存在する場合に、逆の振る舞いが現れることを示す。 また, 標準サンプル平均近似 (SAA) が, 後悔の点において, モデルクラスが適切に特定された場合に, 最悪の結果をもたらすことを示す。
  論文  参考訳（メタデータ） (2023-04-13T21:54:53Z)
• Beyond IID: data-driven decision-making in heterogeneous environments [8.714718004930363]
  本研究では,未知の分布と異なる分布から過去のサンプルを生成する,データ駆動型意思決定フレームワークについて検討する。 この研究は、中央データ駆動型ポリシのパフォーマンスだけでなく、ほぼ最適のポリシーも分析することを目的としている。
  論文  参考訳（メタデータ） (2022-06-20T08:43:43Z)
• Accounting for Unobserved Confounding in Domain Generalization [107.0464488046289]
  本稿では,データセットの組み合わせから頑健で一般化可能な予測モデルを学習する際の問題点について検討する。 堅牢なモデルを学ぶことの課題の一部は、保存されていない共同設立者の影響にある。 異なるモダリティの医療データに対するアプローチの実証的性能を実証する。
  論文  参考訳（メタデータ） (2020-07-21T08:18:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。