論文の概要: TRAP: Tool-result Replay Attack for Probing Misbinding in LLM Agents

• arxiv url: http://arxiv.org/abs/2610.16333v1
• Date: Mon, 12 Oct 2026 07:51:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.329866
• Title: TRAP: Tool-result Replay Attack for Probing Misbinding in LLM Agents
• Title（参考訳）: TRAP: LLM エージェントにおけるミスバインダー探索のためのツール-result リプレイアタック
• Abstract要約: AIエージェントは、ますます外部ツールを介して行動するようになっているため、ツールの結果は、生成したコンテキストと正しく関連していなければならない。 結果はキャッシュ、リカバリメカニズム、共有ランタイム状態にまたがって持続するので、このアソシエーションは壊れる可能性がある。 ReplayBenchは、制御されたツール-resultリプレイを使用して、19の代表的なエージェントシナリオ間でのミスバインドを評価するベンチマークである。 クロスタスク・リプレイでは, 最終状態エラー率0.649で, 広範囲なリプレイ誘発障害がみられた。
• 参考スコア（独自算出の注目度）: 23.589256768002098
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As AI agents increasingly act through external tools, tool results are no longer simple outputs but execution artifacts that must remain correctly associated with the context that produced them. Yet as results persist across caches, recovery mechanisms, and shared runtime state, this association can break, causing a real and unmodified result to be consumed in an incompatible execution context and lead the agent to an unsafe action. We characterize this failure as tool-result misbinding. To systematically study this failure, we introduce ReplayBench, a benchmark that uses controlled tool-result replay to evaluate misbinding across 19 representative agent scenarios, 4 failure properties, and 3 replay mechanisms. Across eight LLMs, three agent frameworks, and diverse stateful workflows, we find widespread replay-induced failures, with a mean Final-State Error Rate of 0.649 under cross-task replay. Stage-wise analysis localizes these failures to model-side action generation. Further analyses show that replay susceptibility varies with task similarity, shows little dependence on object similarity, and remains high under result staleness and implicit environment changes. These findings motivate runtime validity mechanisms that eliminate final-state errors in our evaluated settings while preserving legitimate recovery. The results call for explicit contextual binding in tool-using agent runtimes. Our work is public at https://github.com/Phitooo/Replaybench.
• Abstract（参考訳）: AIエージェントはますます外部ツールを介して行動するようになり、ツールの結果はもはや単純な出力ではなく、それらを生成するコンテキストに正しく関連付けられなければならない実行成果物である。 しかし、結果はキャッシュ、リカバリメカニズム、共有ランタイム状態にまたがって持続するので、このアソシエーションは破壊され、非互換な実行コンテキストで実際の変更されていない結果が消費され、エージェントを安全でないアクションに導く。 私たちはこの失敗をツール-リサートミスバインドとして特徴付けます。 この障害をシステマティックに研究するために,19の代表的なエージェントシナリオ,4つの障害特性,3つのリプレイメカニズムにまたがるミスバインドを評価するために,コントロールされたツール-resultリプレイを使用するベンチマークであるReplayBenchを紹介した。 8つのLDM、3つのエージェントフレームワーク、さまざまなステートフルワークフローにまたがって、クロスタスクのリプレイでは平均0.649のファイナルステートエラー率で、広範なリプレイによる障害が見つかります。 ステージワイズ分析は、これらの障害をモデル側のアクション生成にローカライズする。 さらに分析したところ、リプレイの感受性はタスクの類似性によって変化し、オブジェクトの類似性にはほとんど依存せず、結果の安定度や暗黙の環境変化の下でも高いままであることがわかった。 これらの知見は、正常な回復を維持しつつ、評価された設定における最終状態エラーを除去する実行時妥当性のメカニズムを動機付けている。 その結果、ツールを使用するエージェントランタイムにおける明示的なコンテキストバインディングが求められます。 私たちの仕事はhttps://github.com/Phitooo/Replaybench.comで公開されています。

関連論文リスト

• CARE: Experience-Guided Atomic Corrective Execution for Vision-Language-Action Policies [52.32735203969873]
  VLA(Vision-Language-Action)ポリシーは、ロボット操作において強力なパフォーマンスを達成するが、実行が名目上の軌道から逸脱した後も不安定なままである。 本稿では,実行時に発生する障害から学習することで回復を改善するフレームワークであるCARE(Corrective Atomic Robotic Execution)を提案する。
  論文  参考訳（メタデータ） (2026-09-21T05:14:34Z)
• S3Gym: Can LLMs Turn Self-Testing and Self-Judging into Self-Improvement? [66.17176838165994]
  大規模言語モデル(LLM)は、ますます外部環境と相互作用し、かなりの行動経験を蓄積する。 エージェントがその振る舞いを積極的にテストし、得られた経験を判断し、その経験を使って将来の意思決定を改善することができるかどうかは不明だ。 LLM自己改善評価のための対話型ベンチマークである textbfStextsuperscript3Gym を導入する。
  論文  参考訳（メタデータ） (2026-08-31T17:05:41Z)
• FLARE: A Failure-Aware Framework for Autonomous Correction and Recovery in Visual-Language Robotic Manipulation [43.89036551517797]
  VLA(Vision-Language-Action Models)は、複雑な長距離ロボット操作タスクへの一般化において、大きな可能性を証明している。 彼らのパフォーマンスは、通常、軌道単調で障害のないデモンストレーションで訓練されるため、不安定なままである。 我々は、リトライとリセットのパラダイムを通じて、堅牢なエラー回復機能を備えたVLAを実現する新しいフレームワークであるFLAREを提案する。
  論文  参考訳（メタデータ） (2026-08-27T05:58:06Z)
• ScrambleToolBench: Agents Search Exhaustively Even When Their Own Map Points to the Next Step [74.83535434786145]
  ScrambleToolBenchは,行動推論の分離を目的とした対話型端末ベンチマークである。 このベンチマークでは、エージェントがテストとエラーのインタラクションを通じて、隠されたツールの振る舞いを明らかにする必要がある。 現状の言語モデルに対する我々の評価は、初期発見が成功しても頑健な適応にはならないことを示している。
  論文  参考訳（メタデータ） (2026-08-03T15:07:46Z)
• Compaction as Epistemic Failure: How Agentic LLM Tools Fabricate Confirmed Results from Killed Processes [0.0]
  本稿では、タイムアウトコマンド(排他コード143)からの部分標準出力が、確認された結果として圧縮要約に記録されるクロードコードにおいて、障害モードを文書化する。 根底にあるメカニズムは、観測と永続化の融合であり、端末に現れた情報は、耐久性のある記憶に書き込まれた情報と同等のものとして扱われる。
  論文  参考訳（メタデータ） (2026-07-11T07:45:13Z)
• Constraint Tax in Open-Weight LLMs: An Empirical Study of Tool Calling Suppression Under Structured Output Constraints [37.92327096151557]
  本稿では,生産エージェントシステムで観測された再現可能な現象について報告する。 複数のオープンウェイトモデルでは、高いスキーマ準拠を維持しながら、ツールの起動を中止している。 本稿では,スキーマ制約された応答生成からツールの実行を分離する推論時間戦略であるTransparent Two-Executionを提案する。
  論文  参考訳（メタデータ） (2026-06-24T09:14:18Z)
• Cordon: Semantic Transactions for Tool-Using LLM Agents [11.567293065381918]
  本稿では,コミット前にエージェント効果のステージングと検証を行うトランザクションランタイムシステムであるCordonを紹介する。 適度な承認とレイテンシのオーバーヘッドで、良質なタスク補完を保ちながら、不可逆的な効率の失敗を減らす。
  論文  参考訳（メタデータ） (2026-06-16T06:21:14Z)
• Self-Healing Agentic Orchestrators for Reliable Tool-Augmented Large Language Model Systems [0.10210859604701106]
  セルフヒーリングエージェントオーケストレータは、信頼性をランタイム境界制御問題として扱う。 セルフヒーリングは98.8%のタスク成功を達成し、リトライオンリーでは94.5%、フルリプランでは93.8%を達成している。
  論文  参考訳（メタデータ） (2026-05-31T19:27:22Z)
• RepoMirage: Probing Repository Context Reasoning in Code Agents with Perturbations [51.43574078961796]
  本稿では,SWE-Bench Verified上に構築された2段階評価スイートRepoMirageを紹介する。 RepoMirage-Perturbは、リポジトリレベルの摂動を保存する3つのタイプのセマンティクスを適用している。 RepoAnchorは、下流の問題解決からリポジトリの探索を分離する構造第一のプロトタイプワークフローである。
  論文  参考訳（メタデータ） (2026-05-25T06:26:43Z)
• ClawForge: Generating Executable Interactive Benchmarks for Command-Line Agents [59.626170560327274]
  textbfClawForgeは、ステートコンフリクト下で実行可能なコマンドラインカテゴリのためのジェネレータベースのベンチマークフレームワークである。 私たちはこのフレームワークをClawForge-Bench(17のシナリオ、6の能力カテゴリ)としてインスタンス化します。
  論文  参考訳（メタデータ） (2026-05-13T21:34:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。