論文の概要: Attribution-based Explanations for Markov Decision Processes

• arxiv url: http://arxiv.org/abs/2605.09780v2
• Date: Tue, 12 May 2026 14:12:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-13 18:21:07.041686
• Title: Attribution-based Explanations for Markov Decision Processes
• Title（参考訳）: マルコフ決定過程の属性に基づく説明
• Authors: Paul Kobialka, Andrea Pferscher, Francesco Leofante, Erika Ábrahám, Silvia Lizeth Tapia Tarifa, Einar Broch Johnsen,
• Abstract要約: 本稿では,マルコフ決定過程の帰属に基づく説明を生成する手法を紹介する。 これらのスコアの効率的な合成を可能にするため,戦略の手法を活用することで,スコアの重要度を計算することができることを示す。 我々は5つのケーススタディにアプローチを評価し、シーケンシャルな意思決定エージェントの論理に対する解釈可能な洞察を提供することの有用性を実証した。
• 参考スコア（独自算出の注目度）: 4.35566419188371
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Attribution techniques explain the outcome of an AI model by assigning a numerical score to its inputs. So far, these techniques have mainly focused on attributing importance to static input features at a single point in time, and thus fail to generalize to sequential decision-making settings. This paper fills this gap by introducing techniques to generate attribution-based explanations for Markov Decision Processes (MDPs). We give a formal characterization of what attributions should represent in MDPs, focusing on explanations that assign importance scores to both individual states and execution paths. We show how importance scores can be computed by leveraging techniques for strategy synthesis, enabling the efficient computation of these scores despite the non-determinism inherent in an MDP. We evaluate our approach on five case-studies, demonstrating its utility in providing interpretable insights into the logic of sequential decision-making agents.
• Abstract（参考訳）: 属性技術は、数値スコアを入力に割り当てることで、AIモデルの結果を説明する。 これまでのところ、これらの技術は主に静的な入力機能の単一時点における重要性に焦点を合わせており、シーケンシャルな意思決定設定への一般化に失敗している。 本稿では,マルコフ決定過程(MDP)の帰属に基づく説明を生成する手法を導入することにより,このギャップを埋める。 個人状態と実行経路の両方に重要なスコアを割り当てる説明に焦点をあてて,MDPにおける属性の形式的特徴付けを行う。 我々は,MDPに固有の非決定性に拘わらず,これらのスコアの効率的な計算を可能にする戦略合成技術を活用することで,スコアの重要度を計算することができることを示す。 我々は5つのケーススタディにアプローチを評価し、シーケンシャルな意思決定エージェントの論理に対する解釈可能な洞察を提供することの有用性を実証した。

関連論文リスト

• Quantifying Modality Contributions via Disentangling Multimodal Representations [0.0]
  マルチモーダルモデルにおけるモダリティコントリビューションの定量化は、既存のアプローチがコントリビューション自体の概念を強調しているため、依然として課題である。 内部埋め込みにおける予測情報をユニークで冗長でシナジスティックなコンポーネントに分解することで、モダリティの寄与を定量化する部分情報分解(PID)に基づくフレームワークを提案する。 これは、結果ベースのメトリクスよりも明確で解釈可能な洞察を提供する、マルチモーダルな振る舞いの原則的、表現レベルのビューを提供する。
  論文  参考訳（メタデータ） (2025-11-22T05:02:58Z)
• Evaluating Human Alignment and Model Faithfulness of LLM Rationale [66.75309523854476]
  大規模言語モデル(LLM)が,その世代を理論的にどのように説明するかを考察する。 提案手法は帰属に基づく説明よりも「偽り」が少ないことを示す。
  論文  参考訳（メタデータ） (2024-06-28T20:06:30Z)
• Beyond Average Return in Markov Decision Processes [49.157108194438635]
  我々は、分散強化学習(DistRL)のより一般的なフレームワークであっても、一般化された手段のみが正確に最適化可能であることを証明した。 得られた推定器の誤差境界を提供し、このアプローチの潜在的な可能性とその限界について議論する。
  論文  参考訳（メタデータ） (2023-10-31T08:36:41Z)
• Generalizing Backpropagation for Gradient-Based Interpretability [103.2998254573497]
  モデルの勾配は、半環を用いたより一般的な定式化の特別な場合であることを示す。 この観測により、バックプロパゲーションアルゴリズムを一般化し、他の解釈可能な統計を効率的に計算することができる。
  論文  参考訳（メタデータ） (2023-07-06T15:19:53Z)
• ASTERYX : A model-Agnostic SaT-basEd appRoach for sYmbolic and score-based eXplanations [26.500149465292246]
  本稿では,記号的説明とスコアに基づく説明の両方を生成できるASTERYXという汎用的アプローチを提案する。 実験結果から,提案手法の有効性と,その記号的およびスコアに基づく説明法の有効性が示唆された。
  論文  参考訳（メタデータ） (2022-06-23T08:37:32Z)
• Explainability in Process Outcome Prediction: Guidelines to Obtain Interpretable and Faithful Models [77.34726150561087]
  本稿では、プロセス結果予測の分野における説明可能性モデルと説明可能性モデルの忠実性を通して、説明可能性を定義する。 本稿では,イベントログの仕様に基づいて適切なモデルを選択することのできる,X-MOPというガイドラインのセットを提案する。
  論文  参考訳（メタデータ） (2022-03-30T05:59:50Z)
• Towards Benchmarking the Utility of Explanations for Model Debugging [13.135013586592585]
  ポストホックな説明法の有用性を評価するためのベンチマークの必要性を論じる。 このようなベンチマークは、説明の有効性を評価するだけでなく、その効率を評価するのに役立ちます。
  論文  参考訳（メタデータ） (2021-05-10T16:57:33Z)
• Identification of Unexpected Decisions in Partially Observable Monte-Carlo Planning: a Rule-Based Approach [78.05638156687343]
  本稿では,POMCPポリシーをトレースを検査して分析する手法を提案する。 提案手法は, 政策行動の局所的特性を探索し, 予期せぬ決定を識別する。 我々は,POMDPの標準ベンチマークであるTigerに対するアプローチと,移動ロボットナビゲーションに関する現実の問題を評価した。
  論文  参考訳（メタデータ） (2020-12-23T15:09:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。