論文の概要: Protecting Shared Agent Workflows from Invalidation Attacks with Signed Trajectories and Runtime Verification

• arxiv url: http://arxiv.org/abs/2610.14795v1
• Date: Sat, 10 Oct 2026 10:37:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-20 11:40:20.470398
• Title: Protecting Shared Agent Workflows from Invalidation Attacks with Signed Trajectories and Runtime Verification
• Title（参考訳）: 符号付き軌道と実行時検証による不正攻撃から共有エージェントワークフローを保護する
• Abstract要約: 大規模言語モデル(LLM)ベースのエージェントは、タスクやエージェント間でエクスペリエンスを転送するために、共有ワークフローリポジトリにますます依存している。 共有リポジトリが改ざんされた場合、ダウンストリームエージェントを誤解させ、永続的な実行障害や安全でない動作を引き起こす可能性がある。 署名された軌跡と検証に基づく共有エージェントの保護フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 4.990317254950222
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language model (LLM)-based agents increasingly rely on shared workflow repositories to transfer experience across tasks and agents. By abstracting past executions into reusable workflow graphs, such systems significantly improve planning efficiency and generalization. However, this emerging paradigm introduces a new and underexplored security risk: if the shared repository is compromised, tampered workflows can systematically mislead downstream agents, inducing persistent execution failures or unsafe behaviors. In this work, we present a principled protection framework for shared agent workflows based on signed trajectories and runtime verification. We require all cloud-collected trajectories used for workflow generation to be cryptographically signed, with each trajectory representing a concrete execution instance. Prior to repository inclusion, trajectories undergo a unified screening process to ensure correctness and validity. When an agent retrieves a workflow from the shared repository, it also obtains a small set of signed supporting trajectories and verifies both their cryptographic integrity and their semantic consistency with the workflow. To make this practical for branching workflows, we further propose a runtime, path-aware retrieval strategy that dynamically fetches only the signed trajectories relevant to the execution path actually taken by the agent, substantially reducing communication and verification overhead. Extensive experiments across multiple reasoning benchmarks show that workflow invalidation attacks achieve up to 90.12% success rates, degrading agent inference performance by up to 73.16 percentage points in accuracy without effective workflow protection. In addition, the proposed protection achieves an average F1 score of 85.26% and a detection rate of 79.97%, outperforming existing baselines by about 2.02x.
• Abstract（参考訳）: 大規模言語モデル(LLM)ベースのエージェントは、タスクやエージェント間でエクスペリエンスを転送するために、共有ワークフローリポジトリにますます依存している。 過去の実行を再利用可能なワークフローグラフに抽象化することで、これらのシステムは計画の効率と一般化を大幅に改善する。 しかし、この新たなパラダイムでは、新たな、未調査のセキュリティリスクが導入されている。共有リポジトリが侵害された場合、改ざんされたワークフローは、ダウンストリームエージェントを体系的に誤解させ、永続的な実行障害や安全でない動作を引き起こす可能性がある。 本研究では,署名付きトラジェクトリと実行時検証に基づく共有エージェントワークフローの保護フレームワークを提案する。 ワークフロー生成に使用されるすべてのクラウドコンパイルされたトラジェクトリは、暗号的に署名され、それぞれのトラジェクトリは具体的な実行インスタンスを表す必要があります。 リポジトリのインクルージョンの前に、トラジェクトリは統一されたスクリーニングプロセスを実行し、正確性と妥当性を保証する。 エージェントが共有リポジトリからワークフローを取得すると、署名されたサポートトラジェクトリの小さなセットを取得し、暗号化の整合性とワークフローとのセマンティック一貫性の両方を検証する。 そこで本研究では,エージェントが実際に行う実行経路に関連する符号付き軌跡のみを動的に取得し,通信や検証のオーバーヘッドを大幅に低減する実行時パス認識検索戦略を提案する。 複数の推論ベンチマークによる大規模な実験では、ワークフロー無効化攻撃が90.12%の成功率を達成し、エージェント推論性能を73.16ポイントまで低下させる。 さらに、提案した保護策は、平均F1スコア85.26%、検出率79.97%を達成し、既存のベースラインを約2.02倍上回っている。

関連論文リスト

• BRIDGE: Selective Boundary Repair with Dependency Graph Evidence in Multi-Agent Systems [59.26551527044981]
  methodは、ハンドオフ修復を明示的な依存性の摂動に対する選択的介入として扱うランタイム制御フレームワークである。 SILO-BENCHでは12.3パーセンテージ、TeamBenchでは11.1ポイントまでタスクの成功を加速させる。
  論文  参考訳（メタデータ） (2026-10-13T06:31:57Z)
• WorkflowOps: Learning Agent Collaboration Priors for Multi-Agent Workflow Orchestration [51.22290155772135]
  本稿では,エージェントコラボレーションの過去の履歴を学習し,必要に応じてエージェントプールを拡張して,新たな機能要件をカバーするマルチエージェントワークフローオーケストレーションフレームワークを提案する。 混合コード、数学、質問回答スイートの実験によると、Opsはワークフロー構築ベースラインよりもエンドツーエンドのパスレートを改善しており、過去のエージェントハンドオフパターンが転送される構造化された非コンパイル可能なタスクで最大の利益を得ている。
  論文  参考訳（メタデータ） (2026-10-06T07:01:38Z)
• Token-Flow Firewall: Semantic Runtime Auditing for Persistent AI Agents [76.4694046738862]
  TokenWallは、エージェントトークンフローのセマンティックファイアウォールとして機能するランタイム防衛フレームワークである。 TokenWallは攻撃成功率を12.5%に抑えつつ、97.4%の良質なパスレートを維持している。
  論文  参考訳（メタデータ） (2026-07-09T12:18:40Z)
• FlowSteer: Prompt-Only Workflow Steering Exposes Planning-Time Vulnerabilities in Multi-Agent LLM Systems [34.804293844500926]
  FlowSteerはプロンプトのみのワークフローステアリング攻撃で、脆弱性の優先順位をひとつのプロンプトに変換する。 インプットサイドのディフェンスであるFlowGuardを導入し、迅速なユーティリティを保ちながら、悪意のある成功を最大34%削減する。
  論文  参考訳（メタデータ） (2026-05-12T04:35:57Z)
• Claw-Eval-Live: A Live Agent Benchmark for Evolving Real-World Workflows [67.92316850084575]
  ワークフローエージェントのライブベンチマークであるClaw-Eval-Liveを紹介する。 各リリースは、公開ワークフロー要求信号から構築される。 Claw-Eval-Liveは実行トレース、監査ログ、サービス状態、実行後のワークスペースアーティファクトを記録する。
  論文  参考訳（メタデータ） (2026-04-30T17:23:19Z)
• FlowEvo: Self-Evolving Agents through the Co-Evolution of Workflows and Executable Skills [14.679874305674156]
  FlowEvoはトレーニング不要のフレームワークで、成功したトレースを再利用可能なスキルレコードにコンパイルする。 FlowEvoは,(1)ワークフロー・トゥ・スキルコンパイル,(2)スキル・トゥ・ワークフローフィードバック,(3)スキル・キュレーションの3つの組み合わせによって構成されている。
  論文  参考訳（メタデータ） (2026-04-18T06:52:42Z)
• Learning to Compose for Cross-domain Agentic Workflow Generation [56.630382886594184]
  クロスドメインワークフロー生成のためのオープンソースのLLMを作成します。 さまざまなドメインにわたる再利用可能なワークフロー機能のコンパクトなセットを学びます。 当社の1パスジェネレータは、20イテレーションを消費するSOTAリファインメントベースラインを超えています。
  論文  参考訳（メタデータ） (2026-02-11T18:27:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。