論文の概要: Learning Actionable Counterfactual Explanations in Large State Spaces

• arxiv url: http://arxiv.org/abs/2404.17034v2
• Date: Tue, 01 Apr 2025 20:36:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-03 13:16:04.999988
• Title: Learning Actionable Counterfactual Explanations in Large State Spaces
• Title（参考訳）: 大規模国家空間における行動可能な対実的説明の学習
• Authors: Keziah Naggita, Matthew R. Walter, Avrim Blum,
• Abstract要約: リコースジェネレータは、しばしば特徴に基づく対実的説明(CFE)を通して、実行可能な洞察を提供する これらの機能ベースのCFEは、過度に具体化されており、実世界のアクションと直接整合しない機能領域で推奨されることが多い。 実世界の行動に根ざした3つの新しいリコースタイプを紹介する: 高レベル連続(emphhl-continuous)、高レベル離散(emphhl-discrete)、高レベルID(emphhl-id)CFE。
• 参考スコア（独自算出の注目度）: 16.30292272064278
• License:
• Abstract: Recourse generators provide actionable insights, often through feature-based counterfactual explanations (CFEs), to help negatively classified individuals understand how to adjust their input features to achieve a positive classification. These feature-based CFEs, which we refer to as \emph{low-level} CFEs, are overly specific (e.g., coding experience: $4 \to 5+$ years) and often recommended in feature space that doesn't straightforwardly align with real-world actions. To bridge this gap, we introduce three novel recourse types grounded in real-world actions: high-level continuous (\emph{hl-continuous}), high-level discrete (\emph{hl-discrete}), and high-level ID (\emph{hl-id}) CFEs. We formulate single-agent CFE generation methods, where we model the hl-discrete CFE as a solution to a weighted set cover problem and the hl-continuous CFE as a solution to an integer linear program. Since these methods require costly optimization per agent, we propose data-driven CFE generation approaches that, given instances of agents and their optimal CFEs, learn a CFE generator that quickly provides optimal CFEs for new agents. This approach, also viewed as one of learning an optimal policy in a family of large but deterministic MDPs, considers several problem formulations, including formulations in which the actions and their effects are unknown, and therefore addresses informational and computational challenges. Through extensive empirical evaluation using publicly available healthcare datasets (BRFSS, Foods, and NHANES), we compare the proposed forms of recourse to low-level CFEs and assess the effectiveness of our data-driven approaches. Empirical results show that the proposed data-driven CFE generators are accurate and resource-efficient, and the proposed forms of recourse have various advantages over the low-level CFEs.
• Abstract（参考訳）: リコースジェネレータは、しばしば特徴に基づく対実的説明(CFE)を通じて、ポジティブな分類を達成するために、ネガティブに分類された個人が入力特徴を調整する方法を理解するのに役立つ実行可能な洞察を提供する。 これらの機能ベースのCFEは、私たちが“emph{low-level} CFE”と呼んでいるもので、過度に具体的(例えば、コーディングエクスペリエンス:4ドルから5ドル以上)であり、現実世界のアクションと直接一致しない機能領域で推奨されることが多い。 このギャップを埋めるために,高レベル連続 (\emph{hl-continuous}) ,高レベル離散 (\emph{hl-discrete}) ,高レベルID (\emph{hl-id}) CFE の3つの新しいリコース型を導入する。 ここでは、重み付き集合被覆問題の解としてhl-discrete CFEを、整数線型プログラムの解としてhl-continuous CFEをモデル化する。 これらの手法はエージェントごとのコスト最適化を必要とするため、エージェントのインスタンスとその最適なCFEを与えられた場合、新しいエージェントに最適なCFEを提供するCFEジェネレータを学習するデータ駆動型CFE生成手法を提案する。 このアプローチは、大規模だが決定論的なMDPのファミリーで最適な政策を学ぶことの1つと見なされ、アクションとその効果が不明な定式化を含むいくつかの問題定式化を考察し、情報的および計算的課題に対処する。 公開医療データセット(BRFSS,Foods,NHANES)を用いた広範な経験的評価を通じて,提案手法を低レベルのCFEと比較し,データ駆動型アプローチの有効性を評価する。 実験の結果,提案したデータ駆動型CFEジェネレータは正確かつ資源効率が良く,提案方式は低レベルCFEに対して様々な利点があることがわかった。

関連論文リスト

• Interactive Agents to Overcome Ambiguity in Software Engineering [61.40183840499932]
  AIエージェントは、あいまいで不明確なユーザー指示に基づいて、タスクを自動化するためにますますデプロイされている。 不安定な仮定をし、明確な質問をしないことは、最適以下の結果につながる可能性がある。 対話型コード生成設定において,LLMエージェントが不明瞭な命令を処理する能力について,プロプライエタリモデルとオープンウェイトモデルを評価して検討する。
  論文  参考訳（メタデータ） (2025-02-18T17:12:26Z)
• Proactive Agent: Shifting LLM Agents from Reactive Responses to Active Assistance [95.03771007780976]
  我々は、人間の指示なしにタスクを予測および開始できるプロアクティブエージェントを開発するという課題に取り組む。 まず,実世界の人的活動を収集し,前向きなタスク予測を生成する。 これらの予測は、ヒトのアノテータによって受け入れられるか拒否されるかのどちらかとしてラベル付けされる。 ラベル付きデータは、人間の判断をシミュレートする報酬モデルをトレーニングするために使用される。
  論文  参考訳（メタデータ） (2024-10-16T08:24:09Z)
• Satisficing Exploration for Deep Reinforcement Learning [26.73584163318647]
  現実世界の広大さと規模にアプローチする複雑な環境では、最適な性能を達成することは、実際には完全に難易度の高い試みであるかもしれない。 最近の研究は、情報理論から設計エージェントへのツールを活用し、十分な満足や満足のいくソリューションを優先して最適なソリューションを意図的に実現している。 モデルベース計画の必要性を回避し、満足度の高いポリシーを学習できるように、最適な値関数に対する不確実性を直接表現するエージェントを拡張します。
  論文  参考訳（メタデータ） (2024-07-16T21:28:03Z)
• GLANCE: Global Actions in a Nutshell for Counterfactual Explainability [10.25011737760687]
  2つのアルゴリズムからなる多目的かつ適応的なフレームワークであるGLANCEを紹介する。 C-GLANCEは、特徴空間と反現実的アクションの空間の両方を考慮するクラスタリングアプローチを採用している。 T-GLANCEは柔軟性を高めるための追加機能を提供する。
  論文  参考訳（メタデータ） (2024-05-29T09:24:25Z)
• Quantifying Agent Interaction in Multi-agent Reinforcement Learning for Cost-efficient Generalization [63.554226552130054]
  マルチエージェント強化学習(MARL)における一般化の課題 エージェントが未確認のコプレイヤーに影響される程度は、エージェントのポリシーと特定のシナリオに依存する。 与えられたシナリオと環境におけるエージェント間の相互作用強度を定量化する指標であるLoI(Level of Influence)を提示する。
  論文  参考訳（メタデータ） (2023-10-11T06:09:26Z)
• Sample-Efficient Multi-Objective Learning via Generalized Policy Improvement Prioritization [8.836422771217084]
  マルチオブジェクト強化学習(MORL)アルゴリズムは、エージェントが異なる好みを持つ可能性のあるシーケンシャルな決定問題に対処する。 本稿では、一般化政策改善(GPI)を用いて、原則的、正式に派生した優先順位付けスキームを定義する新しいアルゴリズムを提案する。 実験により,本手法は多目的タスクの挑戦において,最先端のMORLアルゴリズムよりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-01-18T20:54:40Z)
• Formalizing the Problem of Side Effect Regularization [81.97441214404247]
  本稿では,補助ゲームフレームワークを用いたサイドエフェクト正規化のための公式な基準を提案する。 これらのゲームでは、エージェントは部分的に観測可能なマルコフ決定プロセスを解決する。 このPOMDPは、エージェントが将来的なタスクをこなす能力と、プロキシ報酬を交換することで解決されることを示す。
  論文  参考訳（メタデータ） (2022-06-23T16:36:13Z)
• PAC: Assisted Value Factorisation with Counterfactual Predictions in Multi-Agent Reinforcement Learning [43.862956745961654]
  多エージェント強化学習(MARL)は、値関数分解法の開発において大きな進歩をみせている。 本稿では、部分的に観測可能なMARL問題において、エージェントの動作に対する順序付けが同時に制約を課す可能性があることを示す。 最適関節動作選択の対実予測から得られる情報を活用する新しいフレームワークであるPACを提案する。
  論文  参考訳（メタデータ） (2022-06-22T23:34:30Z)
• Attention Actor-Critic algorithm for Multi-Agent Constrained Co-operative Reinforcement Learning [3.296127938396392]
  協調的な環境下での強化学習(RL)エージェントの最適動作の計算問題について考察する。 我々はこのアルゴリズムを制約付きマルチエージェントRL設定に拡張する。
  論文  参考訳（メタデータ） (2021-01-07T03:21:15Z)
• Reinforcement Learning with Efficient Active Feature Acquisition [59.91808801541007]
  実生活では、情報取得は患者の医療検査に該当する可能性がある。 本稿では,アクティブな特徴獲得ポリシーを学習するモデルに基づく強化学習フレームワークを提案する。 この成功の鍵は、部分的に観察された状態から高品質な表現を学ぶ新しい逐次変分自動エンコーダである。
  論文  参考訳（メタデータ） (2020-11-02T08:46:27Z)
• Randomized Entity-wise Factorization for Multi-Agent Reinforcement Learning [59.62721526353915]
  実世界のマルチエージェント設定は、エージェントや非エージェントエンティティのタイプや量が異なるタスクを伴うことが多い。 我々の方法は、これらの共通点を活用することを目的としており、「観察対象のランダムに選択されたサブグループのみを考えるとき、各エージェントが期待する効用は何か?」という問いを投げかける。
  論文  参考訳（メタデータ） (2020-06-07T18:28:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。