論文の概要: AgentSHAP: Interpreting LLM Agent Tool Importance with Monte Carlo Shapley Value Estimation

• arxiv url: http://arxiv.org/abs/2512.12597v1
• Date: Sun, 14 Dec 2025 08:31:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-16 17:54:56.337737
• Title: AgentSHAP: Interpreting LLM Agent Tool Importance with Monte Carlo Shapley Value Estimation
• Title（参考訳）: AgentSHAP:モンテカルロシェープ値推定によるLLMエージェントツールの重要性の解釈
• Authors: Miriam Horovicz,
• Abstract要約: 本稿では,LDMエージェントにおけるツールの重要性を説明するための最初のフレームワークであるAgentSHAPを紹介する。 エージェントをブラックボックスとして扱い、内部重量や勾配へのアクセスを必要とせずに、任意のLCMで動作する。 筆者らの貢献は,(1)ゲーム理論からシェープリー値に基づくエージェントツール属性の最初の説明可能性手法,(2)O(2n)から実用レベルまでコストを下げるモンテカルロサンプリング,(3)API-Bankに関する総合的な実験である。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: LLM agents that use external tools can solve complex tasks, but understanding which tools actually contributed to a response remains a blind spot. No existing XAI methods address tool-level explanations. We introduce AgentSHAP, the first framework for explaining tool importance in LLM agents. AgentSHAP is model-agnostic: it treats the agent as a black box and works with any LLM (GPT, Claude, Llama, etc.) without needing access to internal weights or gradients. Using Monte Carlo Shapley values, AgentSHAP tests how an agent responds with different tool subsets and computes fair importance scores based on game theory. Our contributions are: (1) the first explainability method for agent tool attribution, grounded in Shapley values from game theory; (2) Monte Carlo sampling that reduces cost from O(2n) to practical levels; and (3) comprehensive experiments on API-Bank showing that AgentSHAP produces consistent scores across runs, correctly identifies which tools matter, and distinguishes relevant from irrelevant tools. AgentSHAP joins TokenSHAP (for tokens) and PixelSHAP (for image regions) to complete a family of Shapley-based XAI tools for modern generative AI. Code: https://github.com/GenAISHAP/TokenSHAP.
• Abstract（参考訳）: 外部ツールを使用するLLMエージェントは複雑なタスクを解くことができるが、どのツールが応答に実際に寄与しているかを理解することは盲点である。 ツールレベルの説明に既存のXAIメソッドは対応していません。 本稿では,LDMエージェントにおけるツールの重要性を説明するための最初のフレームワークであるAgentSHAPを紹介する。 エージェントSHAPはモデルに依存しない: エージェントをブラックボックスとして扱い、内部重量や勾配へのアクセスを必要とせず、いかなるLCM(GPT、Claude、Llamaなど)とも機能する。 エージェントSHAPはMonte Carlo Shapleyの値を使用して、エージェントが異なるツールサブセットでどのように反応するかをテストし、ゲーム理論に基づいた公正な重要性スコアを計算する。 提案手法は,(1)ゲーム理論からシェープリー値に基づくエージェントツール属性の最初の説明可能性手法,(2)O(2n)から実用レベルまでコストを下げるモンテカルロサンプリング,(3)AgentSHAPが実行中に一貫したスコアを生成し,どのツールが重要かを正しく識別し,無関係ツールと区別することを示すAPI-Bankに関する総合的な実験である。 AgentSHAPはトークン用)TokenSHAPとPixelSHAP(画像領域用)に加わり、現代の生成AIのためのShapleyベースのXAIツールのファミリーを完成させる。 コード:https://github.com/GenAISHAP/TokenSHAP

関連論文リスト

• Machine Learning as a Tool (MLAT): A Framework for Integrating Statistical ML Models as Callable Tools within LLM Agent Workflows [0.152622865871084]
  機械学習・アズ・ア・ツール(MLAT: Machine Learning as a Tool)は、学習前の統計的機械学習モデルを大言語モデル(LLM)エージェント内で呼び出し可能なツールとして公開するデザインパターンである。 ML推論を静的な前処理ステップとして扱う従来のパイプラインとは異なり、MLATでは、モデルをWeb検索、データベースクエリ、APIとともにファーストクラスのツールとして位置付けている。 我々は、発見通話記録をML予測価格でプロの提案に変換するパイロット生産システムであるPitchCraftを紹介する。
  論文  参考訳（メタデータ） (2026-02-15T20:00:28Z)
• ET-Agent: Incentivizing Effective Tool-Integrated Reasoning Agent via Behavior Calibration [68.89572566071575]
  ETAgentはエージェントのツール使用行動を調整するためのトレーニングフレームワークである。 過誤行動パターンを最適行動に段階的に校正するように設計されている。
  論文  参考訳（メタデータ） (2026-01-11T11:05:26Z)
• Toward Explaining Large Language Models in Software Engineering Tasks [15.334228892784838]
  大規模言語モデルにおけるブラックボックスの性質は、ハイテイクで安全クリティカルなドメインで採用する上で、依然として大きな障壁となっている。 ソフトウェアエンジニアリングのための説明可能なAIへの関心は高まっているが、既存のメソッドには、実践者がSEアーティファクトについてどのように考えるかに沿った、ドメイン固有の説明がない。 ソフトウェアエンジニアリングタスクに適した、最初の完全自動化されたモデルに依存しない説明可能性フレームワークであるFeatureSHAPを紹介します。
  論文  参考訳（メタデータ） (2025-12-23T12:56:18Z)
• ML-Tool-Bench: Tool-Augmented Planning for ML Tasks [23.54937738755734]
  ツール強化機械学習エージェントの評価のためのベンチマークを導入する。 私たちのベンチマークは、インメモリ名のオブジェクト管理を組み込むことで、従来のツール使用の評価を超えています。 我々のアプローチはReActよりも16.2%向上し、すべてのKaggle課題の中央値を取ります。
  論文  参考訳（メタデータ） (2025-11-29T23:59:40Z)
• DeepAgent: A General Reasoning Agent with Scalable Toolsets [111.6384541877723]
  DeepAgentは、自律的な思考、ツール発見、アクション実行を実行するエンドツーエンドのディープ推論エージェントである。 長期にわたる相互作用の課題に対処するために,過去の相互作用を構造化エピソード,動作,ツール記憶に圧縮する自律的メモリ折り畳み機構を導入する。 LLMシミュレートされたAPIを活用し、ツール呼び出しトークンにきめ細かいクレジットを割り当てるツールコールアドバンテージ属性を適用した、エンドツーエンドの強化学習戦略であるToolPOを開発した。
  論文  参考訳（メタデータ） (2025-10-24T16:24:01Z)
• Distilling LLM Agent into Small Models with Retrieval and Code Tools [65.73762766854192]
  Agent Distillationは、推論能力とタスク解決の振る舞いを大きな言語モデルから小さな言語モデルに移行するためのフレームワークである。 その結果,SLMは0.5B,1.5B,3Bのパラメータで,次世代の1.5B,3B,7Bモデルと競合する性能が得られることがわかった。
  論文  参考訳（メタデータ） (2025-05-23T08:20:15Z)
• Learning to Use Tools via Cooperative and Interactive Agents [58.77710337157665]
  ツール学習は、外部ツールを使用してユーティリティを拡張するエージェントとして、大きな言語モデル(LLM)を促進する。 ツール選択,ツール実行,アクションキャリブレーションの3つの特別なエージェントを個別にコーディネートする,協調型対話型エージェントフレームワークであるConAgentsを提案する。 3つのデータセットに対する実験により、LLMは、ConAgentsを装備した場合、大幅に改善されたベースラインよりも優れた性能を示した。
  論文  参考訳（メタデータ） (2024-03-05T15:08:16Z)
• Efficient Tool Use with Chain-of-Abstraction Reasoning [63.08202389132155]
  大規模言語モデル(LLM)は、現実世界の知識に対する推論の基礎となる必要がある。 マルチステップ推論問題におけるツールの実行には,微調整LDMエージェントの課題が残されている。 マルチステップ推論におけるツールの活用方法として, LLM の新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-01-30T21:53:30Z)
• ToolLLM: Facilitating Large Language Models to Master 16000+ Real-world APIs [104.37772295581088]
  オープンソースの大規模言語モデル(LLM)、例えばLLaMAは、ツール使用能力に大きく制限されている。 データ構築、モデルトレーニング、評価を含む汎用ツールであるToolLLMを紹介する。 ツール使用のためのインストラクションチューニングフレームワークであるToolBenchを,ChatGPTを使って自動構築する。
  論文  参考訳（メタデータ） (2023-07-31T15:56:53Z)
• Collective eXplainable AI: Explaining Cooperative Strategies and Agent Contribution in Multiagent Reinforcement Learning with Shapley Values [68.8204255655161]
  本研究は,シェープリー値を用いたマルチエージェントRLにおける協調戦略を説明するための新しい手法を提案する。 結果は、差別的でない意思決定、倫理的かつ責任あるAI由来の意思決定、公正な制約の下での政策決定に影響を及ぼす可能性がある。
  論文  参考訳（メタデータ） (2021-10-04T10:28:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。