論文の概要: Correct Answers, Unsupported Findings: Evidence Binding in Forensic Reconstruction of LLM Agent Logs
- arxiv url: http://arxiv.org/abs/2610.09581v1
- Date: Wed, 07 Oct 2026 07:26:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:22.774497
- Title: Correct Answers, Unsupported Findings: Evidence Binding in Forensic Reconstruction of LLM Agent Logs
- Title(参考訳): 正しい回答, サポートなし発見: LLMエージェントログの法医学的再構成における証拠
- Abstract要約: エージェントアクションの法医学的再構築には、発見を支援する保存記録の確立が必要である。
保存されたAgentDojo Bankingの実行から、64の機械的チェック可能なケースを使用して、この区別を監査する。
我々は,完全記録契約,証拠を根拠とした発見,正当化された棄却,および断言を別々に評価した。
- 参考スコア(独自算出の注目度): 5.105496588695859
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Forensic reconstruction of LLM-agent actions requires not only recovering the correct value, but establishing which preserved record supports that finding. Tool logs, generated explanations, and local citation identifiers capture different parts of this evidence, yet a citation identifier does not establish a source unless its binding to a record is preserved. We audit this distinction using 64 mechanically checkable cases from saved AgentDojo Banking executions. Two LLM readers reconstruct source relationships under controlled variations in visible evidence and identifier-to-record bindings. We separately evaluate complete-record agreement, evidence-grounded findings, justified abstention, and unsupported assertions. With original identifiers and no binding table, Sonnet recovered every literal source location but made unsupported citation-source assertions in 26 of 28 cases requiring the missing relation; 22 nevertheless matched the complete reference. Adding explicit bindings improved grounded reconstruction for both readers, whereas identifier renaming alone provided no consistent remedy. A deterministic same-packet comparator correctly resolved the bounded task or abstained throughout. These results show that factual agreement alone is insufficient for evaluating forensic reconstruction of agent logs and motivate preserving explicit record bindings to distinguish supported findings from correct guesses.
- Abstract(参考訳): LLMエージェントアクションの法医学的再構築は、正しい値を回復するだけでなく、その発見を支援する保存記録を確立する必要がある。
ツールログ、生成された説明、局所的な引用識別子は、この証拠の異なる部分をキャプチャするが、引用識別子は、レコードへのバインディングが保存されない限り、ソースを確立しない。
保存されたAgentDojo Bankingの実行から、64の機械的チェック可能なケースを使用して、この区別を監査する。
2つのLCMリーダは、可視的証拠と識別子-レコード結合の制御されたバリエーションの下でソース関係を再構築する。
我々は,完全記録契約,証拠を根拠とした発見,正当化された棄却,および断言を別々に評価した。
元の識別子とバインディングテーブルがないため、Sonnetはリテラルソースのすべての位置を復元したが、28のケースのうち26のケースで引用ソースのアサーションはサポートされていない。
明示的なバインディングを追加することで、両方の読者の基盤的な再構築が改善されたが、識別子のリネームだけでは、一貫した改善は得られなかった。
決定論的同パッケージコンパレータは、境界付けられたタスクを正しく解決した。
これらの結果から, エージェントログの法医学的再構築を評価する上では, 事実合意だけでは不十分であることが示唆された。
関連論文リスト
- Beyond Corrected Memory: Execution Consistency in Multi-Agent Systems [42.90481302321822]
我々は、国家利用、情報ハンドオフ、そして最終状態合意を管理する義務を通じて、実行の一貫性を定義します。
私たちの主張の中核は、同じ保持されたレコードは、同じタスクルールの下での実行に準拠し違反する可能性がある、ということです。
整合性診断と回復のためのフレームワークであるCAVERTを用いて、ログからサポート対象の関係を抽出する。
論文 参考訳(メタデータ) (2026-10-06T10:29:41Z) - H-CRSPV: Preventing Semantic Omission in Late-Bound Large Language Model Releases [4.8539809887204735]
H-CRSPV(Hybrid Cryptographic Relation-based Semantic Plan Verification)は、リリース前に必要セットの完全性を強制するレプリケーション層である。
36個の省略アーティファクトのうち、提出対象バリデーションはすべての36を受理する。
プロトタイプはまた、6つの制限されたソース-リレーショナルIR結合を検証し、全60の試験された突然変異を拒絶する。
論文 参考訳(メタデータ) (2026-10-05T08:41:49Z) - Claim-Gated Source-Risk Auditing for Generative Search [5.329247092746233]
生成検索は、サポートされたパスを引用するが、その解釈を変えるソース関係を省略することができる。
クェリソース回答のクレームゲート監査を指定する。
我々は、セマンティックな妥当性を確立するために、独立したアノテーション、保留評価、およびペアのユーティリティテストを定義する。
論文 参考訳(メタデータ) (2026-09-24T07:22:14Z) - VeriPhy: Agentic Physical Reasoning for World Model Evaluation and Refinement [57.86962208273888]
テキストのみのプランナが入力された物理義務にプロンプトをコンパイルする監査可能な物理検証システムを提案する。
それぞれのアクションは、ペイロードがタイプされた測定か、明示的にタグ付けされた学習状態である証明付きエビデンスレコードを返す。
我々は, 実発生障害を即時参照, 空間, 時間でローカライズする, 1500クリックの欠陥記録のコーパスにおいて, 評価をアンロックする。
論文 参考訳(メタデータ) (2026-09-02T20:36:45Z) - SemTrace: Source-Grounded Semantic Signatures for Tracing LLM Exposure to Protected Documents [33.910177895525095]
SemTraceは、生成されたレビューが保護された原稿コピーの影響を受けているかどうかを検出するための、ソースグラウンドのセマンティックな透かしである。
保護されたPDFは、視覚的に各バイナリペアから1つの事実を選択し、それらの事実を固定されたレビュースロットで表現するよう指示フォローするレビュアーに要求するコンテンツ契約を伝達する。
凍結した自然言語推論モデルは、結果のセマンティックエビデンスを明示的な消去でデコードし、そのコピーに割り当てられたコードワードに対して回復したビットをスコアする。
論文 参考訳(メタデータ) (2026-08-30T05:41:20Z) - From Association to Causation: Improving Retrieval Precision of Retrieval-Augmented Generation via Causal Relations and an Attention Mechanism [23.0538048682894]
我々は,ライヒェンバッハの共通原因原理に基づく因果グラフを用いて,終端検索段階をモデル化する。
検索された文書はコライダー(A−>d−B)であるため、検索自体がクエリとBの関連経路を開く。
知識内容内の因果関係をモデル化する因果関係強化RAG変種とは異なり、我々のグラフは検索プロセス自体の因果構造をモデル化する。
論文 参考訳(メタデータ) (2026-08-22T00:31:06Z) - VisDocAgentBench: Benchmarking Agents for Visually Rich Document Retrieval [65.89247522243959]
VisDocAgentBenchは、静的検索とエージェント検索を比較したクローズドコーパスベンチマークである。
100の文書から2,375ページ、120のユニークなターゲットクエリが直接、一橋、二橋のエビデンス構造でバランスを取っている。
強力な遅延対話型ビジュアルレトリバーは、直接アイテムで97.50%のRecall@1に達するが、2ブリッジアイテムでは2.50%に達し、関連性がコーパスコンテキストに依存する場合のクエリ-ターゲットマッチングの限界を明らかにする。
論文 参考訳(メタデータ) (2026-08-18T15:23:06Z) - Independent Patch Verification for Coding Agents with a Bidirectional Reconstruct-and-Verify Framework [49.16055123488827]
大規模言語モデルを利用したコーディングエージェントは、バグレポートから直接コードパッチを生成することができる。
報告された問題を真に解決するかどうかを独立に検証するメカニズムは存在しない。
本稿では,RETRACE をトレーニング不要なポストジェネレーション検証フレームワークとして提案する。
論文 参考訳(メタデータ) (2026-08-09T22:59:13Z) - DRNOISE: Benchmarking Deep Research Agents in Misleading Evidence Environments [51.049999642138]
誤解を招く証拠の下で、回答回復のための100タスクのベンチマークであるDRNOISEを紹介する。
それぞれのタスクは、2つの間接的レコードチェーンが支持する固有の金の答えを持ち、ペアのノイズ条件は競合する答えを直接記述する1つのもっともらしい文書を付加する。
強いクリーンタスク性能を持つエージェント全体で、この単一の介入は66-88ポイントの精度低下を引き起こす。
論文 参考訳(メタデータ) (2026-07-19T15:20:40Z) - GERE: Generative Evidence Retrieval for Fact Verification [57.78768817972026]
本稿では,ジェネレーション方式で証拠を検索する最初のシステムであるGEREを提案する。
FEVERデータセットの実験結果は、GEREが最先端のベースラインよりも大幅に改善されていることを示している。
論文 参考訳(メタデータ) (2022-04-12T03:49:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。