論文の概要: Model-Agnostic Policy Explanations with Large Language Models

• arxiv url: http://arxiv.org/abs/2504.05625v1
• Date: Tue, 08 Apr 2025 02:56:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-09 13:29:12.850519
• Title: Model-Agnostic Policy Explanations with Large Language Models
• Title（参考訳）: 大規模言語モデルを用いたモデルに依存しない政策記述
• Authors: Zhang Xi-Jia, Yue Guo, Shufei Chen, Simon Stepputtis, Matthew Gombolay, Katia Sycara, Joseph Campbell,
• Abstract要約: 本研究では,観察された状態や行動のみに基づいて,エージェント行動の自然言語説明を生成する手法を提案する。 本手法は, エージェントの行動の局所的解釈可能な代理モデルについて, 観察から学習する。 分析結果から,ユーザ調査の参加者はエージェントの今後の行動をより正確に予測できることがわかった。
• 参考スコア（独自算出の注目度）: 6.405870799906393
• License:
• Abstract: Intelligent agents, such as robots, are increasingly deployed in real-world, human-centric environments. To foster appropriate human trust and meet legal and ethical standards, these agents must be able to explain their behavior. However, state-of-the-art agents are typically driven by black-box models like deep neural networks, limiting their interpretability. We propose a method for generating natural language explanations of agent behavior based only on observed states and actions -- without access to the agent's underlying model. Our approach learns a locally interpretable surrogate model of the agent's behavior from observations, which then guides a large language model to generate plausible explanations with minimal hallucination. Empirical results show that our method produces explanations that are more comprehensible and correct than those from baselines, as judged by both language models and human evaluators. Furthermore, we find that participants in a user study more accurately predicted the agent's future actions when given our explanations, suggesting improved understanding of agent behavior.
• Abstract（参考訳）: ロボットのような知的なエージェントは、現実の人間中心の環境にますます配備されている。 適切な人間の信頼を育み、法的および倫理的基準を満たすためには、これらのエージェントは彼らの行動を説明する必要がある。 しかし、最先端のエージェントは通常、ディープニューラルネットワークのようなブラックボックスモデルによって駆動され、解釈可能性を制限する。 本研究では,エージェントの基本モデルにアクセスせずに,観察された状態や行動のみに基づくエージェント動作の自然言語説明を生成する手法を提案する。 提案手法は, エージェントの行動の局所的解釈可能な代理モデルを観察から学習し, そして, 最小限の幻覚を伴って, 妥当な説明を生成するために, 大規模言語モデルを導出する。 実験結果から,本手法は,言語モデルと人的評価器の両方で判断されるように,ベースラインより理解しやすく,正しい説明を生成する。 さらに,本研究の参加者は,分析結果からエージェントの今後の行動をより正確に予測し,エージェント行動の理解を深めることが示唆された。

関連論文リスト

• Towards Explainable Goal Recognition Using Weight of Evidence (WoE): A Human-Centered Approach [5.174712539403376]
  ゴール認識(GR)は、一連の観察からエージェントの観測されていないゴールを推測することを含む。 伝統的にGRは「最良の説明への推論」や誘拐によって対処されてきた。 本稿では,人間行動説明の基礎となる理論的枠組みと認知過程を基礎とした,GRエージェントのための説明可能なモデルの導入と評価を行う。
  論文  参考訳（メタデータ） (2024-09-18T03:30:01Z)
• Evaluating the Utility of Model Explanations for Model Development [54.23538543168767]
  機械学習モデル構築の実践シナリオにおいて、説明が人間の意思決定を改善するかどうかを評価する。 驚いたことに、サリエンシマップが提供されたとき、タスクが大幅に改善されたという証拠は見つからなかった。 以上の結果から,サリエンシに基づく説明における誤解の可能性と有用性について注意が必要であることが示唆された。
  論文  参考訳（メタデータ） (2023-12-10T23:13:23Z)
• Understanding Your Agent: Leveraging Large Language Models for Behavior Explanation [7.647395374489533]
  本研究では,状態や行動の観察のみに基づいて,エージェントの行動に関する自然言語説明を生成する手法を提案する。 提案手法は,人間ドメインの専門家が作成したものと同じくらい役立つ説明を生成する。
  論文  参考訳（メタデータ） (2023-11-29T20:16:23Z)
• Explaining Agent Behavior with Large Language Models [7.128139268426959]
  本研究では,状態や行動の観察のみに基づいて,エージェントの行動に関する自然言語説明を生成する手法を提案する。 エージェントの振る舞いのコンパクトな表現がいかに学習され、妥当な説明を生み出すかを示す。
  論文  参考訳（メタデータ） (2023-09-19T06:13:24Z)
• Explainability for Large Language Models: A Survey [59.67574757137078]
  大規模言語モデル(LLM)は、自然言語処理における印象的な能力を示している。 本稿では,トランスフォーマーに基づく言語モデルを記述する手法について,説明可能性の分類法を紹介した。
  論文  参考訳（メタデータ） (2023-09-02T22:14:26Z)
• Behavioral Analysis of Vision-and-Language Navigation Agents [21.31684388423088]
  VLN(Vision-and-Language Navigation)エージェントは、周囲に基づいて行動の指示を下すことができる。 本研究では,エージェントの振る舞いを専門知識に基づいて研究する手法を開発した。
  論文  参考訳（メタデータ） (2023-07-20T11:42:24Z)
• Commonsense Knowledge Transfer for Pre-trained Language Models [83.01121484432801]
  ニューラルコモンセンス知識モデルに格納されたコモンセンス知識を汎用的な事前学習言語モデルに転送するフレームワークであるコモンセンス知識伝達を導入する。 まず、一般的なテキストを利用して、ニューラルコモンセンス知識モデルからコモンセンス知識を抽出するクエリを形成する。 次に、コモンセンスマスクの埋め込みとコモンセンスの関係予測という2つの自己教師対象で言語モデルを洗練する。
  論文  参考訳（メタデータ） (2023-06-04T15:44:51Z)
• Probing via Prompting [71.7904179689271]
  本稿では,探索をプロンプトタスクとして定式化することで,新しいモデルフリーな探索手法を提案する。 我々は5つの探索課題について実験を行い、我々のアプローチが診断プローブよりも情報抽出に優れていることを示す。 次に,その特性に不可欠な頭部を除去し,言語モデリングにおけるモデルの性能を評価することにより,事前学習のための特定の言語特性の有用性を検討する。
  論文  参考訳（メタデータ） (2022-07-04T22:14:40Z)
• Learning Theory of Mind via Dynamic Traits Attribution [59.9781556714202]
  本稿では,過去のトラジェクトリからアクターの潜在特性ベクトルを生成するニューラルToMアーキテクチャを提案する。 この特性ベクトルは、予測ニューラルネットワークの高速重み付けスキームを介して予測機構を乗法的に変調する。 実験により,高速重量はエージェントの特性をモデル化し,マインドリーディング能力を向上させるために優れた誘導バイアスを与えることが示された。
  論文  参考訳（メタデータ） (2022-04-17T11:21:18Z)
• Explain, Edit, and Understand: Rethinking User Study Design for Evaluating Model Explanations [97.91630330328815]
  我々はクラウドソーシング研究を行い、真偽のホテルレビューと偽のホテルレビューを区別するために訓練された詐欺検出モデルと対話する。 単語の線形バッグモデルでは、トレーニング中に特徴係数にアクセスした参加者は、非説明制御と比較して、テストフェーズにおいてモデルの信頼性が大幅に低下する可能性があることを観察する。
  論文  参考訳（メタデータ） (2021-12-17T18:29:56Z)
• Agent Modelling under Partial Observability for Deep Reinforcement Learning [12.903487594031276]
  エージェントモデリングの既存の方法は、実行中にローカルな観察とモデル化されたエージェントの選択されたアクションの知識を仮定する。 制御されたエージェントの局所的な観察に基づいて,モデル化されたエージェントの表現を抽出することを学ぶ。 これらの表現は、深い強化学習を通じて訓練された制御エージェントの決定ポリシーを強化するために使用される。
  論文  参考訳（メタデータ） (2020-06-16T18:43:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。