論文の概要: Explaining AI Agents Through Execution Traces
- arxiv url: http://arxiv.org/abs/2609.06063v1
- Date: Sat, 05 Sep 2026 12:45:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.188438
- Title: Explaining AI Agents Through Execution Traces
- Title（参考訳）: 実行トレースを通じてAIエージェントを説明する
- Abstract要約: 本稿では,長期エージェントの実行トレースを構造化されたレポートと忠実な自然言語説明に変換するポストホックXAIフレームワークを提案する。
実行トレースにのみ依存するため、フレームワークはさまざまなエージェントアーキテクチャ、環境、タスクに適用される。
- 参考スコア（独自算出の注目度）: 1.8862116040247214
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: AI Agents are increasingly deployed in real-world settings, where they interact with external tools and make sequential decisions with limited human oversight. This creates a pressing need for reliable and auditable explanations of what an agent did and why. However, traditional Explainable AI (XAI) methods fall short of providing the process-level transparency required for such interactive, multi-step systems, motivating a paradigm shift toward approaches specifically designed for AI Agents. To address this gap, we present a post-hoc XAI framework that transforms a lengthy agent's execution trace into a structured report and a faithful natural-language explanation explicitly grounded in its observable behavior. Because it relies solely on execution traces, the framework applies across different agent architectures, environments, and tasks. Human and automated evaluations across multiple benchmarks and architectures show that our framework produces high-quality, trace-faithful explanations while reliably identifying unsupported claims, unjustified actions, and evidence gaps, outperforming naive LLM-generated explanations.
- Abstract（参考訳）: AI Agentは、外部ツールと対話し、人間の監視が限定されたシーケンシャルな決定を行う、現実世界の設定にますますデプロイされる。
これにより、エージェントが何をしたのか、その理由について、信頼性と監査可能な説明を迫られる必要が生じます。
しかしながら、従来の説明可能なAI(XAI)メソッドは、このようなインタラクティブなマルチステップシステムに必要なプロセスレベルの透明性を提供していないため、AIエージェント用に特別に設計されたアプローチへのパラダイムシフトを動機付けている。
このギャップに対処するために、長いエージェントの実行トレースを構造化されたレポートに変換するポストホックXAIフレームワークと、その観測可能な振る舞いに明確に根ざした忠実な自然言語説明を提案する。
実行トレースにのみ依存するため、フレームワークはさまざまなエージェントアーキテクチャ、環境、タスクに適用される。
複数のベンチマークやアーキテクチャにまたがる人的および自動評価により、我々のフレームワークは高品質でトレースフルな説明を生成できる一方で、不適切なクレーム、不正なアクション、エビデンスギャップを確実に識別し、単純なLCMによる説明よりも優れた性能を発揮することが示される。
関連論文リスト
- Declarative Skills for AI Agents in Knowledge-Grounded Tool-Use Workflows [1.9573380763700712]
構造化されていない知識ベース上での現実的な顧客サービスエラーにおけるツール利用AIエージェントのオーケストレーション機構について検討する。
i)ドメイン固有の3つのスキルファイルを推論時に読み込み、独自の制御フローを決定するDeclaativeAgent,(ii)明示的なフェーズを持つプログラム状態マシンに基づくImperativeAgent,(iii)$$-Knowledgeベンチマークエージェントをモデルとした非スキャフォールドベースラインエージェントを比較した。
論文 参考訳（メタデータ） (2026-06-05T05:38:51Z) - RemoteAgent: Bridging Vague Human Intents and Earth Observation with RL-based Agentic MLLMs [55.44696796126619]
地球観測システムは、曖昧な自然言語を通じて要求を表現するドメインの専門家を支援するように設計されている。
実用的なEOAIシステムは、あいまいな人間のクエリと適切な多粒度視覚分析タスクのギャップを埋めなければならない。
MLLMの能力固有の境界を戦略的に尊重するエージェントフレームワークであるRemoteAgentを提案する。
論文 参考訳（メタデータ） (2026-04-09T03:40:46Z) - XAI for Coding Agent Failures: Transforming Raw Execution Traces into Actionable Insights [0.0]
我々は、生エージェントの実行トレースを構造化された人間解釈可能な説明に変換する、体系的な説明可能なAI(XAI)アプローチを提案する。
提案手法では,障害原因の同定を2.8倍高速に行うことができ,実際の実行トレースよりも73%高い精度で修正を提案する。
論文 参考訳（メタデータ） (2026-03-06T06:18:20Z) - Beyond the 'Diff': Addressing Agentic Entropy in Agentic Software Development [42.371764229953165]
エージェントによる決定が時間やツールコール,アーキテクチャ境界を越えてどのように展開されるかを明らかにする,プロセス指向の説明可能性フレームワークを提案する。
私たちのアプローチは、既存のレビュープラクティスを置き換えるのではなく、補完するインテントレベルのテレメトリを提供します。
認知的ドリフトをコード品質と並んで第一級の関心事として扱うことで、エージェントの監視に必要な人間の理解の最小レベルを安定的に維持する。
論文 参考訳（メタデータ） (2026-03-03T12:55:28Z) - The Why Behind the Action: Unveiling Internal Drivers via Agentic Attribution [63.61358761489141]
LLM(Large Language Model)ベースのエージェントは、カスタマーサービス、Webナビゲーション、ソフトウェアエンジニアリングといった現実世界のアプリケーションで広く使われている。
本稿では,タスク結果に関係なく,エージェントの動作を駆動する内部要因を識別する,テキスト汎用エージェント属性のための新しいフレームワークを提案する。
標準ツールの使用やメモリ誘起バイアスのような微妙な信頼性リスクなど、さまざまなエージェントシナリオでフレームワークを検証する。
論文 参考訳（メタデータ） (2026-01-21T15:22:21Z) - Towards Responsible and Explainable AI Agents with Consensus-Driven Reasoning [4.226647687395254]
本稿では,多モデルコンセンサスと推論層ガバナンスに基づく実運用レベルのエージェントのためのResponsible(RAI)およびExplainable(XAI)AIエージェントアーキテクチャを提案する。
提案した設計では、異種LLMとVLMエージェントのコンソーシアムが独立して、共有入力コンテキストから候補出力を生成する。
専用の推論エージェントは、これらのアウトプットをまたいで構造化された統合を行い、安全と政策の制約を強制し、幻覚と偏見を緩和し、監査可能な証拠に基づく決定を生成する。
論文 参考訳（メタデータ） (2025-12-25T14:49:25Z) - AgentRouter: A Knowledge-Graph-Guided LLM Router for Collaborative Multi-Agent Question Answering [51.07491603393163]
tAgentは知識グラフ誘導ルーティング問題としてマルチエージェントQAを定式化するフレームワークである。
エージェントアウトプットのソフトな監督と重み付けされた集約を活用することで、エージェントは多様なエージェントの相補的な強みを捉える、原則化された協調スキームを学ぶ。
論文 参考訳（メタデータ） (2025-10-06T23:20:49Z) - Agent-as-a-Judge: Evaluate Agents with Agents [61.33974108405561]
本稿ではエージェント・アズ・ア・ジャッジ(Agent-as-a-Judge)フレームワークを紹介し,エージェント・システムを用いてエージェント・システムの評価を行う。
これはLLM-as-a-Judgeフレームワークの有機的拡張であり、タスク解決プロセス全体の中間フィードバックを可能にするエージェント的特徴を取り入れている。
55のリアルな自動化AI開発タスクのベンチマークであるDevAIを紹介します。
論文 参考訳（メタデータ） (2024-10-14T17:57:02Z) - Gödel Agent: A Self-Referential Agent Framework for Recursive Self-Improvement [112.04307762405669]
G"odel AgentはG"odelマシンにインスパイアされた自己進化型フレームワークである。
G"odel Agentは、パフォーマンス、効率、一般化性において手作業によるエージェントを上回る、継続的な自己改善を実現することができる。
論文 参考訳（メタデータ） (2024-10-06T10:49:40Z) - Pangu-Agent: A Fine-Tunable Generalist Agent with Structured Reasoning [50.47568731994238]
人工知能(AI)エージェント作成の鍵となる方法は強化学習(RL)である
本稿では,構造化推論をAIエージェントのポリシーに統合し,学習するための一般的なフレームワークモデルを提案する。
論文 参考訳（メタデータ） (2023-12-22T17:57:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。