論文の概要: Data-Automated Policy Learning for Nonlinear Welfare
- arxiv url: http://arxiv.org/abs/2606.01659v1
- Date: Mon, 01 Jun 2026 04:13:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-02 21:34:29.969387
- Title: Data-Automated Policy Learning for Nonlinear Welfare
- Title(参考訳): 非線形福祉のためのデータ自動政策学習
- Authors: Chunrong Ai, Zeqi Wu, Zheng Zhang,
- Abstract要約: 本稿では,2次処理環境における非線形福祉基準に着目し,観測データからの政策学習について考察する。
我々はこの基準を,潜在的な結果と中間パラメータを含むユーティリティ関数を用いてモデル化し,後者は結果分布の高次モーメントをキャプチャする。
観測データの文脈で定式化する場合,中間パラメータと福祉基準の両方は,機械学習技術を用いて推定した正当性スコアに依存する。
- 参考スコア(独自算出の注目度): 6.901001750090632
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper explores policy learning from observational data, focusing on a nonlinear welfare criterion in a binary treatment setting. The nonlinear criterion is inspired by scenarios where policymakers prioritize specific population segments. We model this criterion using a utility function that encompasses potential outcomes and intermediate parameters, with the latter capturing higher moments of the outcome distributions. When formulated in the context of observational data, both the intermediate parameters and the welfare criterion depend on the propensity score, which we estimate using machine-learning techniques. To address bias in machine learning estimates, we introduce a novel reweighting-based debiasing approach that offers a promising alternative to traditional orthogonality-based methods. To tackle the complexities of infinite-dimensional policy spaces, we employ sieve approximations and $K$-fold cross-validation for model selection, thereby fully automating the policy-learning process. Despite these complexities, we demonstrate that both the welfare regret and the average welfare regret of our proposed policy learning method satisfy an oracle inequality, thereby providing theoretical guarantees on the performance of the estimated policy relative to the best possible policy. This finding extends the existing results from linear to nonlinear welfare criteria, from finite-dimensional to infinite-dimensional policy spaces, and from a known propensity score to a machine-learned one.
- Abstract(参考訳): 本稿では,2次処理環境における非線形福祉基準に着目し,観測データからの政策学習について考察する。
非線形基準は、政策立案者が特定の人口区分を優先するシナリオにインスパイアされている。
我々はこの基準を,潜在的な結果と中間パラメータを含むユーティリティ関数を用いてモデル化し,後者は結果分布の高次モーメントをキャプチャする。
観測データの文脈で定式化する場合,中間パラメータと福祉基準の両方は,機械学習技術を用いて推定した正当性スコアに依存する。
機械学習推定におけるバイアスに対処するために、従来の直交法に代わる有望な代替手段を提供する、新しいリウェイトベースデバイアス手法を導入する。
無限次元のポリシー空間の複雑さに対処するために、モデル選択にsieve近似と$K$-foldクロスバリデーションを用い、ポリシー学習プロセスを完全に自動化する。
これらの複雑さにもかかわらず、提案した政策学習手法における福祉の後悔と平均的福祉の後悔の両方がオラクルの不平等を満たすことを実証し、最高の政策に対する推定政策の性能に関する理論的保証を提供する。
この発見は、有限次元の政策空間から無限次元の政策空間まで、既知の確率スコアから機械学習の基準まで、既存の結果を拡張した。
関連論文リスト
- Non-Parametric Rehearsal Learning via Conditional Mean Embeddings [88.89267783967263]
本研究では,不必要な未来(AUF)問題をテキスト化するための非パラメトリックリハーサル学習手法を提案する。
具体的には、カーネル機械を用いてAUFの目的を、動作誘起分布変化から所望性モデリングを遠ざける統一表現に再構成する。
論文 参考訳(メタデータ) (2026-05-09T15:30:52Z) - Quantile-Optimal Policy Learning under Unmeasured Confounding [55.72891849926314]
ここでは,報酬分布が (0, 1) で最大$alpha$-quantileを持つポリシーを見つけることを目標とする量子最適政策学習について検討する。
このような問題は、(i)報酬分布の関数としての量子目標の非線形性、(ii)未観測の共起問題、(iii)オフラインデータセットのカバー不足という3つの大きな課題に悩まされている。
論文 参考訳(メタデータ) (2025-06-08T13:37:38Z) - Policy learning "without" overlap: Pessimism and generalized empirical Bernstein's inequality [94.89246810243053]
本論文は,事前収集した観測値を利用して最適な個別化決定規則を学習するオフライン政策学習について検討する。
既存の政策学習法は、一様重なりの仮定、すなわち、全ての個々の特性に対する全ての作用を探索する正当性は、境界を低くしなければならない。
我々は,点推定の代わりに低信頼度境界(LCB)を最適化する新しいアルゴリズムであるPPLを提案する。
論文 参考訳(メタデータ) (2022-12-19T22:43:08Z) - Offline Policy Evaluation and Optimization under Confounding [35.778917456294046]
構築されたMDPのオフライン政策評価の状況について概説する。
一貫性のある値推定が達成不可能な設定を特徴付ける。
オフライン政策改善のための新しいアルゴリズムを提案し、局所収束保証を証明する。
論文 参考訳(メタデータ) (2022-11-29T20:45:08Z) - Reliable Off-policy Evaluation for Reinforcement Learning [53.486680020852724]
シーケンシャルな意思決定問題において、非政治評価は、目標政策の期待累積報酬を推定する。
本稿では、1つまたは複数のログデータを用いて、ロバストで楽観的な累積報酬推定を提供する新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2020-11-08T23:16:19Z) - Distributionally Robust Batch Contextual Bandits [20.667213458836734]
歴史的観測データを用いた政策学習は、広く応用されている重要な問題である。
既存の文献は、学習方針が展開される将来の環境が過去の環境と同じである、という決定的な前提に基づいている。
本稿では、この仮定を引き上げ、不完全な観測データを用いて、分布的に堅牢なポリシーを学習することを目的とする。
論文 参考訳(メタデータ) (2020-06-10T03:11:40Z) - Efficient Policy Learning from Surrogate-Loss Classification Reductions [65.91730154730905]
本稿では,政策学習におけるサロゲート-ロス分類の重み付けによる推定問題について考察する。
適切な仕様の仮定の下では、重み付けされた分類定式化はポリシーパラメーターに対して効率的でないことが示される。
本稿では,ポリシーパラメータに対して効率的なモーメントの一般化手法に基づく推定手法を提案する。
論文 参考訳(メタデータ) (2020-02-12T18:54:41Z) - Confounding-Robust Policy Evaluation in Infinite-Horizon Reinforcement
Learning [70.01650994156797]
教育医療などのバッチ強化学習において、観察データからのシーケンシャルな意思決定方針のオフ・アセスメントが必要である。
我々は、ある政策の境界を推定するアプローチを開発する。
より凝縮したデータを集めることで、シャープな境界への収束を証明します。
論文 参考訳(メタデータ) (2020-02-11T16:18:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。