論文の概要: A Mechanistic Study of Automated Failure Attribution in LLM-based Agentic Systems

• arxiv url: http://arxiv.org/abs/2610.28811v1
• Date: Tue, 20 Oct 2026 18:33:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:06.123231
• Title: A Mechanistic Study of Automated Failure Attribution in LLM-based Agentic Systems
• Title（参考訳）: LLMエージェントシステムにおける自動故障属性の力学的検討
• Abstract要約: エージェントは失敗を正しく属性付けるのに十分な情報をエンコードするが、責任あるステップを明示的に出力することができないことを示す。 我々は、AFAのパフォーマンスを改善するために、既にモデルに符号化された知識を活用する簡単な手作業による介入であるEmphgraftingを提案する。
• 参考スコア（独自算出の注目度）: 41.144393358436226
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Agentic systems have demonstrated strong capabilities on complex tasks by enabling multiple interacting large language model (LLM)-based agents to collaborate and execute subtasks in parallel. However, this collaborative structure introduces new challenges for reliably evaluating and diagnosing system failures, particularly failure attribution: tracing a system's execution to identify the agent step responsible for an incorrect final outcome. Because manually performing this task is time- and labor-intensive, recent work has turned to LLMs as judges to automate the process, referred to as automated failure attribution (AFA). These approaches assume that a sufficiently capable model can infer the failing step directly from an interaction transcript. In practice, however, direct prompting often performs poorly, which motivates follow-up work that explores various ways to improve AFA performance, including alternative prompting strategies and inference-time interventions. In this paper, we examine a more fundamental question: whether this weak behavioral performance reflects a genuine capability limitation. Using linear probes applied to internal activations, we uncover a significant \emph{knows-but-won't-say gap:} models encode sufficient information to attribute a failure correctly but fail to explicitly output the responsible step. Building on this finding, we propose \emph{grafting}, a simple manual intervention that exploits knowledge already encoded in the model to improve AFA performance without requiring ground-truth labels at inference time. Extensive evaluations across multiple LLMs and benchmark settings demonstrate that grafting consistently outperforms direct-prompting approaches, underscoring the potential of leveraging latent model knowledge for more reliable failure attribution. Our code is available at https://github.com/wendyzheng22/mi4afa.
• Abstract（参考訳）: エージェントシステムは、複数の対話型大規模言語モデル(LLM)ベースのエージェントが協調してサブタスクを並列に実行できるようにすることにより、複雑なタスクに対して強力な機能を示す。 しかしながら、この協調的な構造は、システム障害、特に障害の帰属を確実に評価し、診断する上で、新たな課題をもたらします。 このタスクを手動で実行することは時間と労働集約的であるため、近年の作業は、自動失敗帰属(AFA)と呼ばれるプロセスを自動化するための審査員としてLLMに移行している。 これらのアプローチは、十分な能力を持つモデルが、相互作用の書き起こしから直接失敗するステップを推測できると仮定する。 しかし、実際には、直接的プロンプトはパフォーマンスが悪く、代替的なプロンプト戦略や推論時間の介入など、AFAのパフォーマンスを改善する様々な方法を探求するフォローアップ作業のモチベーションとなることが多い。 本稿では,この弱い動作性能が真の能力限界を反映しているかどうかという,より根本的な問題について考察する。 内部のアクティベーションに適用した線形プローブを用いて、失敗を正しく属性付けるのに十分な情報をエンコードする重要な \emph{knows-but-won't-say gap:} モデルを探索する。 そこで本研究では,モデルにすでにコード化されている知識を活用してAFA性能を向上させるための簡単な手作業による介入である「emph{grafting}」を提案する。 複数のLSMとベンチマーク設定にわたる広範囲な評価は、グラフト処理が直接プロンプティングアプローチより一貫して優れており、より信頼性の高い失敗帰属に潜在モデルの知識を活用する可能性を示している。 私たちのコードはhttps://github.com/wendyzheng22/mi4afa.comから入手可能です。

関連論文リスト

• Error-Propagation Modeling for Failure Attribution in LLM-Based Multi-Agent Systems [29.307319005914227]
  この研究において、帰属ターゲットは決定的なエラーであり、エージェント-ステップペアとして定義され、修正が失敗した実行を回復する。 既存のアプローチは、インタラクション間でエラーがどのように伝播するかを明示的にモデル化したり、未解決のループで永続化したりすることなく、不審なステップをほとんど特定する。 textbfError- propagation textbfModeling for textbfFailure textbfAttribution (textbfEMFA)を提案する。 Who&Whenベンチマークでは、EMFAは最先端のステップレベルの属性の精度を達成し、残る。
  論文  参考訳（メタデータ） (2026-10-08T09:44:59Z)
• Beyond LLM-Based Reasoning: Lightweight GNNs for Agent Failure Attribution [47.70578021328887]
  大規模言語モデル(LLM)ベースのマルチエージェントシステムは、しばしば複雑な障害モードを示す。 AFANetは、ステップレベルの意味信号とエージェントレベルの関係を通して相互作用軌跡をモデル化する軽量なグラフベースのフレームワークである。 以上の結果から, エージェント障害の効果的な帰属は大きな推論を必要とせず, 軽量で構造化されたアプローチで高い性能を達成できることが示唆された。
  論文  参考訳（メタデータ） (2026-08-19T06:16:09Z)
• Who Broke the System? Failure Localization in LLM-Based Multi-Agent Systems [9.458292549037155]
  LLMに基づくマルチエージェントシステムにおける障害局所化の問題について検討する。 我々は、特定のエージェントと最初期の決定的なステップの両方に障害を属性付けるフレームワークであるAgentを提案する。 実験の結果、Agentは既存の障害ローカライゼーションメソッドを一貫して上回っていることがわかった。
  論文  参考訳（メタデータ） (2026-07-08T23:33:49Z)
• Can LLM Agents Infer World Models? Evidence from Agentic Automata Learning [33.77002260033358]
  ツールコールのLLMエージェントが、対話を通じて隠れた環境を発見できる範囲を評価する。 我々の設定では、エージェントはオラクルと相互作用することで隠れた決定論的有限オートマトン(DFA)を発見すべきである。 DFAのサイズが大きくなるにつれて,性能が急激に低下することがわかった。
  論文  参考訳（メタデータ） (2026-06-15T11:23:13Z)
• From Knowing to Acting: Benchmarking Self-Awareness Capability of LLM Agents [69.07911499189129]
  エージェントのメタ認知判断(Knowing)を自発的実行(Acting)から切り離して認知行動アライメントを評価するフレームワークであるKAPROを紹介する。 実験の結果,自己認識能力はタスク成功と強く相関するが,内部能力設定では著しく低下することがわかった。 プロプライエタリで推論指向のモデルは、より信頼性の高い認知ゲーティングを示します。
  論文  参考訳（メタデータ） (2026-06-09T17:17:08Z)
• AgentFixer: From Failure Detection to Fix Recommendations in LLM Agentic Systems [7.429835301272413]
  フレームワークには15の障害検出ツールと2つの根本原因分析モジュールが含まれている。 軽量なルールベースのチェックとLDM-as-a-judgeアセスメントを統合し、構造化インシデント検出、分類、修復をサポートする。 我々は、このフレームワークをIBM CUGAに適用し、AppWorldとWebArenaベンチマークのパフォーマンスを評価した。
  論文  参考訳（メタデータ） (2026-02-18T14:55:35Z)
• DoVer: Intervention-Driven Auto Debugging for LLM Multi-Agent Systems [48.971606069204825]
  DoVerは、大規模言語モデル(LLM)ベースのマルチエージェントシステムのための介入駆動デバッグフレームワークである。 ターゲットの介入を通じて、アクティブな検証によって仮説生成を増強する。 DoVerは失敗試験の18～28%を成功させ、最大16%のマイルストーンを達成し、失敗仮説の30～60%を検証または否定する。
  論文  参考訳（メタデータ） (2025-12-07T09:23:48Z)
• AutoDetect: Towards a Unified Framework for Automated Weakness Detection in Large Language Models [95.09157454599605]
  大規模言語モデル(LLM)はますます強力になってきていますが、それでも顕著ですが微妙な弱点があります。 従来のベンチマークアプローチでは、特定のモデルの欠陥を徹底的に特定することはできない。 さまざまなタスクにまたがるLLMの弱点を自動的に露呈する統合フレームワークであるAutoDetectを導入する。
  論文  参考訳（メタデータ） (2024-06-24T15:16:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。