論文の概要: Off-Policy Evaluation with Strategic Agents via Local Disclosure
- arxiv url: http://arxiv.org/abs/2606.07308v1
- Date: Fri, 05 Jun 2026 14:24:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-08 14:33:29.776886
- Title: Off-Policy Evaluation with Strategic Agents via Local Disclosure
- Title(参考訳): 局所開示による戦略エージェントによるオフポリティィ評価
- Abstract要約: 戦略的行動下でのオフ・ポリティィ・アセスメント(OPE)について検討する。
局所的な情報により,適応前にエージェントの事前戦略的共変が明らかになる。
本研究は,エージェントの戦略応答に隠された構造を明らかにすることにより,インタラクション設計が情報の非対称性を緩和する方法について述べる。
- 参考スコア(独自算出の注目度): 19.10069019048424
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study off-policy evaluation (OPE) under strategic behavior where decision subjects (or agents) respond to a decision maker's policy by strategically modifying their covariates. Such behavior induces a policy-dependent covariate shift, breaking the standard assumption in existing methods that covariates are exogenous to the policy. Related work addresses this challenge by imposing strong assumptions such as repeated interactions or full knowledge of agents' response behavior, substantially limiting its applicability to OPE. In contrast, we consider a one-shot OPE setting where the decision maker has only partial knowledge of the agents' response behavior. Our key insight is that disclosing local information through post-hoc explanations reveals agents' pre-strategic covariates prior to adaptation, mitigating the information loss induced by strategic behavior. Leveraging this structure, we estimate a statistical model for the agents' responses and construct a doubly robust estimator for policy value. By assuming that the agents' cost sensitivity follows a conditional log-normal distribution, we establish consistency of the proposed estimator and validate our approach empirically. More broadly, our results highlight how interaction design can mitigate information asymmetry by revealing otherwise hidden structure in agents' strategic responses.
- Abstract(参考訳): 意思決定対象(またはエージェント)が意思決定者の方針に反応する戦略的行動下でのオフ・ポリシー評価(OPE)について,共同変数を戦略的に修正することによって検討する。
このような振る舞いは、ポリシーに依存した共変量シフトを誘導し、共変量を持つ既存のメソッドの標準仮定を破る。
関連する研究は、繰り返しの相互作用やエージェントの反応行動の完全な知識といった強い仮定を課すことによってこの問題に対処し、OPEの適用性を大幅に制限する。
対照的に、意思決定者がエージェントの反応行動の部分的知識しか持たないワンショットのOPE設定を考える。
我々の重要な洞察は、ホック後の説明を通じてローカル情報を開示することで、エージェントの事前戦略的共変が適応する前に明らかになり、戦略行動によって引き起こされる情報損失が軽減されるということである。
この構造を利用して、エージェントの応答の統計モデルを推定し、ポリシー値の2倍頑健な推定器を構築する。
エージェントのコスト感度が条件付き対数正規分布に従うと仮定することにより、提案した推定器の整合性を確立し、実証的にアプローチを検証する。
より広義には、エージェントの戦略応答に隠された構造を明らかにすることにより、インタラクション設計が情報の非対称性を緩和する方法について述べる。
関連論文リスト
- Strategic Feature Selection [62.74494413516484]
特徴選択による戦略的分類と隆起正則化との相互作用について検討する。
最適な正規化の下で特徴部分集合の性能を詳細に評価する。
この特徴から,我々は特徴セットとリッジ正規化のレベルを共同で選択する実用的なアルゴリズムを開発した。
論文 参考訳(メタデータ) (2026-06-17T09:47:15Z) - Beyond Rational Illusion: Behaviorally Realistic Strategic Classification [56.458581740660236]
本稿では,行動的現実的な戦略分類問題に対処するために,プロビジョンガイド型戦略フレームワーク(Pro-SF)を提案する。
Pro-SFは、行動学的に現実的な戦略的な反応の下でモデル化し、学習するための予測理論に基づく原則化されたフレームワークである。
合成および実世界のデータセットの実験は、Pro-SFを戦略分類の行動的基盤としたアプローチとして確立する。
論文 参考訳(メタデータ) (2026-05-19T11:04:55Z) - The Reciprocity Gradient [52.35929743862925]
コミュニケーションは、戦略的相互作用における相互性と協力を維持するための基本である。
学習エージェントに特有の集中的最適化の難しさとして,影響帰属問題を同定し,定式化する。
これを解決するために、公衆の観察から訓練された相手の政策の個人推定器を通して、報酬勾配を明示的に逆伝搬する相互性勾配を導入する。
論文 参考訳(メタデータ) (2026-05-08T16:29:52Z) - Effective Red-Teaming of Policy-Adherent Agents [10.522087614181745]
タスク指向のLLMベースのエージェントは、適格性やキャンセルルールの返金といった厳格なポリシーを持つドメインで、ますます使われています。
本稿では,個人的利益のためにポリシーに忠実なエージェントを活用することを目的とした,敵対的ユーザに焦点を当てた新たな脅威モデルを提案する。
CRAFTは、ポリシーを意識した説得戦略を利用して、顧客サービスシナリオにおいてポリシーに忠実なエージェントを弱体化させるマルチエージェントのレッドチームシステムである。
論文 参考訳(メタデータ) (2025-06-11T10:59:47Z) - Uncertainty Quantification and Causal Considerations for Off-Policy Decision Making [4.514386953429771]
オフ政治評価(OPE)は、異なる政策の下で収集されたデータを用いて、新しい政策のパフォーマンスを評価する。
既存のOPE手法は、統計的不確実性や因果的考慮から生じるいくつかの制限に悩まされている。
結果の限界分布に着目して分散を低減する新しい OPE 手法である Marginal Ratio (MR) 推定器を導入する。
次に,OPEにおける不確実性定量化の原理的アプローチである Conformal Off-Policy Prediction (COPP) を提案する。
最後に, 政策外の意思決定における因果不確定性に対処する。
論文 参考訳(メタデータ) (2025-02-09T20:05:19Z) - Explanation Design in Strategic Learning: Sufficient Explanations that Induce Non-harmful Responses [29.57116418734347]
鍵となる疑問は、DMが戦略エージェントに害を与えないように説明を伝達する方法である。
行動推奨に基づく説明(ARexes)は、有害な応答に十分であることを示す。
実験により、ARexesは、エージェントのユーティリティを保ちながら、DMがモデルの予測性能を最適化できることが示されている。
論文 参考訳(メタデータ) (2025-02-06T13:17:24Z) - Predictive Performance Comparison of Decision Policies Under Confounding [32.21041697921289]
そこで本稿では, 意思決定ポリシーの予測性能を, 様々な現代的な識別手法で比較する手法を提案する。
我々の手法の鍵は、政策比較において安全に無視できる不確実性領域が存在するという洞察である。
論文 参考訳(メタデータ) (2024-04-01T01:27:07Z) - On the Value of Myopic Behavior in Policy Reuse [67.37788288093299]
未知のシナリオで学習戦略を活用することは、人間の知性の基本である。
本稿では,Selectivemyopic bEhavior Control(SMEC)というフレームワークを提案する。
SMECは、事前ポリシーの共有可能な短期的行動とタスクポリシーの長期的行動を適応的に集約し、協調的な決定につながる。
論文 参考訳(メタデータ) (2023-05-28T03:59:37Z) - Policy Learning with Competing Agents [2.972870935419738]
意思決定者は、しばしば、治療できるエージェントの数に制限された能力の下で、治療の割り当てポリシーを学ぶことを目指している。
本稿では,そのような干渉が存在する場合のキャパシティ制約された処理課題について検討する。
論文 参考訳(メタデータ) (2022-04-04T23:15:00Z) - Privacy-Constrained Policies via Mutual Information Regularized Policy Gradients [54.98496284653234]
報酬を最大化しつつ、行動を通じて特定の機密状態変数の開示を最小限に抑えながら、報酬を最大化する政策を訓練する課題を考察する。
本稿では, 感性状態と行動の相互情報に基づく正則化器を導入することで, この問題を解決する。
プライバシ制約のあるポリシーを最適化するためのモデルベース推定器を開発した。
論文 参考訳(メタデータ) (2020-12-30T03:22:35Z) - Learning Goal-oriented Dialogue Policy with Opposite Agent Awareness [116.804536884437]
本稿では,目標指向対話における政策学習のための逆行動認識フレームワークを提案する。
我々は、その行動から相手エージェントの方針を推定し、この推定を用いてターゲットエージェントを対象ポリシーの一部として関連づけて改善する。
論文 参考訳(メタデータ) (2020-04-21T03:13:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。