論文の概要: What the Trace Shows and What the Label Says: Auditing Behavioral Detectors in Agent Evaluation
- arxiv url: http://arxiv.org/abs/2610.30491v1
- Date: Wed, 21 Oct 2026 22:18:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:08:44.167387
- Title: What the Trace Shows and What the Label Says: Auditing Behavioral Detectors in Agent Evaluation
- Title（参考訳）: ラベルが示すもの:エージェント評価における行動検知器の監査
- Abstract要約: LLMエージェントは、最終回答の正しさ、ツール検証、障害伝播などのラベルに対する実行トレースを減らすことでしばしば評価される。
我々はこれをGSM8K上に構築したツール利用設定で研究し、エージェントは時折出力が劣化する電卓を呼ぶ。
6つの生産モデルに3つのトレースレベル検出器と1つのモデルに30の問題を検査する。
- 参考スコア（独自算出の注目度）: 3.539336171940828
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: LLM agents are often evaluated by reducing execution traces to labels such as final-answer correctness, tool verification, and fault propagation. These labels are measurements produced by parsers, behavioral detectors, and harness rules, and they may not fully capture what the trace shows. We study this in a tool-use setting built on GSM8K, where agents call a calculator whose outputs are occasionally corrupted, giving clear ground truth for what the tool returned, what the model later used, and what the detectors reported. We audit three trace-level detectors across six production models and 30 problems per model. Final correctness, visible re-verification, and fault propagation can disagree in systematic ways. A key failure mode is silent tool-output override: the calculator returns a corrupted value, but the model later uses a different, often correct, value without calling the tool again, so the bad value stops propagating while a verification detector records no re-check. Human review of 90 traces agrees perfectly with the automated labels for final correctness (67/67), fault impact (19/19), and fault relevance (18/18), but only 67/81 for verification; all 14 disagreements fall into four recurring patterns. Execution limits also change the reported result: in an ablation across two models, one ranges from 21/30 to 27/30 correct as step and token budgets change, while the other stays between 27/30 and 29/30. These findings motivate measurement transparency: an automated label should come with the trace evidence behind it, whether the question the detector asks applied to that trace, whether the run was cut off by an execution limit, and any human corrections. Our trace viewer makes this information inspectable alongside the reported results.
- Abstract（参考訳）: LLMエージェントは、最終回答の正しさ、ツール検証、障害伝播などのラベルに対する実行トレースを減らすことでしばしば評価される。
これらのラベルは、パーサー、行動検知器、およびハーネスルールによって生成される測定であり、痕跡が示すものを完全には捉えないかもしれない。
我々は、GSM8K上に構築されたツール利用設定でこれを研究し、エージェントは、出力が時々破損した電卓を呼び出し、ツールが返却したもの、モデルが後から使ったもの、そして検出器が報告したものについて明確な根拠を与える。
6つの生産モデルに3つのトレースレベル検出器と1つのモデルに30の問題を検査する。
最終正当性、可視的再検証、障害伝播は体系的な方法で一致しない可能性がある。
重要な障害モードはサイレント・ツール・アウトプットオーバーライドであり、電卓は破損した値を返しますが、後にモデルが異なる、しばしば正しい値を使用します。
90のトレースの人間によるレビューは、最終正しさ(67/67)、障害影響(19/19)、障害関連(18/18)のラベルと完全に一致しているが、検証には67/81のみであり、14の一致はすべて4つの繰り返しパターンに分類される。
2つのモデルのアブレーションでは、ステップとトークンの予算が変わるにつれて、1つが21/30から27/30まで、もう1つが27/30から29/30の間である。
これらの発見は、測定の透明性を動機付けている:自動化されたラベルは、その裏にある痕跡証拠、検出者がその痕跡に適用した質問、実行制限によって実行が遮断されたかどうか、そして人間の修正を伴わない。
我々のトレースビューアは、この情報を報告された結果と一緒に検査できるようにします。
関連論文リスト
- Who Verifies the Agent's Success Claim? Self-Report Leakage in GUI-Agent Completion Judging [15.737958913103705]
本研究では,個別に記録されたトレースに対して,エージェントの完了債権を調査するトラス監査について検討する。
制御されたアウェア/ブラインド介入は、自己報告リークを明らかにする。
監査者は、465レコードの監査ターゲットセットで0.75--0.78、ホールドアウトバッチ2で0.77--0.81、リコールおよびF1においてクレームアウェア及びプロンプトブラインド制御より優れる。
論文 参考訳（メタデータ） (2026-10-21T11:50:17Z) - Detection Is Not Enough: Reasoning Traces as Testable Program Hypotheses [0.0]
言語モデルがデプロイされると、参照ソリューションが存在しないため、それが書き込む推論トレースがその答えを判断する唯一の証拠である。
参照ソリューションも判断モデルも重み更新もなしで、単一のトレースがどの程度の精度で検証できるかを問う。
GSM8K上の冷凍LLaMA-2-7Bチャットの場合、検出はそのようなパイプラインを制限するものではない。
論文 参考訳（メタデータ） (2026-10-21T08:25:41Z) - StopLoss: Teaching Agents to Predict Failure and Stop Early [58.46247112300993]
StopLossは、完成した軌跡とその検証結果から障害認識を学ぶ小さな外部モニタである。
StopLossは、実行が失敗する可能性がある場合に早期に実行を終了し、リソースを節約します。
論文 参考訳（メタデータ） (2026-10-18T20:39:02Z) - hacktrace: behavior-supervised detection of reward hacking during code generation [52.709361620508595]
コーディングエージェントは、コードを修正するか、バグを露呈するテストを削除することで、パスグレードを得ることができる。
我々はQwen3-8Bから173,561個の注釈付きマルチターン符号化トラジェクトリをリリースし、成功を活かさないショートカット動作の監視が検出を大幅に改善することを示す。
HACKTRACEは、エージェントがコードを生成する際に既に計算している内部状態を読み取る行動監視モニターである。
論文 参考訳（メタデータ） (2026-10-02T09:35:59Z) - From Routing Signals to Selective Review: Visual regrounding in MoE VLMs [48.07726955428853]
視覚言語モデル(VLM)は偽の視覚的前提を受け入れ、対象の物体の色、数、位置、状態について疑問に答える。
本稿では,Mixture-of-Experts (MoE)VLMにおける内部ルーティング決定を活用するための最初のフレームワークを提案する。
提案手法は,MoE VLMによってすでに作成されており,低コストな検出と選択的な視覚的リグラウンドを支援することができる。
論文 参考訳（メタデータ） (2026-09-29T17:49:07Z) - Do Agent Benchmarks Do What They Say? An Executable-Contract Audit of Tool-Using Agent Environments [8.904042335790534]
34回にわたって、4つのベンチマークで変更ツールを監査し、7つのツール欠陥と1つの評価器特性をピン付きコミットで確認した。
注入された欠陥について、チェッカーは25個のフラグに偽陽性を示さず、5つの負のコントロールのうち2つにフラグを付け、最も多くを逃した。
さらに12のAgentDojoツール、6つのホールドアウトツールと、最初に監査された7つのツールによって、25のツール変更サーフェスが完了した。
論文 参考訳（メタデータ） (2026-09-29T11:50:55Z) - Where the Numbers Come From: Auditing Evaluation in Provenance-Based Intrusion Detection [42.49426058823369]
証明に基づく侵入検知器のスコアを再現しても、そのアラームの出力やエンコーダが使用する情報についてそのスコアが何を言っているかは定かでない。
我々は、リリースした9つの実装を監査し、独自のコードを使用して4つの検出器を実行し、3つの測定効果を分離する。
論文 参考訳（メタデータ） (2026-09-27T13:01:02Z) - Prior Audit-Repair Context Shifts LLM Verifier Thresholds Toward Leniency [0.025718125188898048]
我々は,現時点のタスクを個別に保持するプロセスベンチトレースに対して,擬似アラームを計測する。
完了した監査 -> モデルのコンテキストにすでにある修復エピソードは、15のモデルxワードの組み合わせのうち15の偽のアラームを低くする。
論文 参考訳（メタデータ） (2026-08-17T01:41:43Z) - Cybersecurity Detection Classification with Reasoning-enabled Language Models [50.72675435043546]
セキュリティオペレーションセンター(SOC)の大きな問題は、警告疲労である。
以前の作業では、大きな言語モデル(LLM)がトリアージラベルを直接出力するように促すか、あるいは微調整するが、検出が真の脅威であるかどうかを判断するよう訓練することはない。
我々は、実際の人間ラベルのWindowsエンドポイント検出に対して、推論可能なトリアージ分類器(CoT)を訓練する。
論文 参考訳（メタデータ） (2026-07-30T16:22:13Z) - interwhen: A Generalizable Framework for Verifiable Reasoning with Test-time Monitors [47.363850513075356]
実験時間検証フレームワークであるInterwhenを提案し, 与えられた検証結果に対して, 推論モデルの出力が有効であることを保証する。
検証された推論は、物理的な世界にエージェントを配置するといった高度なシナリオにおいて重要な目標である。
論文 参考訳（メタデータ） (2026-02-05T08:35:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。