論文の概要: AGATE: Provenance-Based Runtime Defense Against Compositional Attacks on LLM Agents
- arxiv url: http://arxiv.org/abs/2609.30830v1
- Date: Fri, 25 Sep 2026 05:18:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 18:27:51.234589
- Title: AGATE: Provenance-Based Runtime Defense Against Compositional Attacks on LLM Agents
- Title（参考訳）: AGATE: LLMエージェントの組成攻撃に対する前向きな実行時防御
- Abstract要約: 本稿では,エージェントハーネス境界における認証およびデータ保護ゲートであるAGATEについて述べる。
本評価では,153個のアタックチェーンレコードと,デプロイ,ユーティリティ,再構築実験を組み合わせた評価を行った。
11の良質なファイル処理シナリオのうち6つは否定的なイベントを含んでおり、コンテンツベースのプロビデンスポリシーの実用コストを明らかにしている。
- 参考スコア（独自算出の注目度）: 8.882970037100966
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: LLM agents can produce harmful effects through sequences of ordinary operations. Judging such actions requires establishing both the authority that permits them and the origin of the data they carry. We present AGATE, an authorization and data-provenance gate at instrumented agent-harness boundaries. Operator declarations and host approval events ground authorization; delegated actions are constrained by grants that bind to exact parameters, expire, and permit a limited number of uses. Source registration connects observed inputs to subsequent transfers, while an effect ledger tracks repeated requests. Deterministic checks make decisions without an LLM in the decision path and retain their grounds with execution evidence for forensic replay. Adapters integrate three production harnesses -- DeepSeek Harness, OpenCode, and OpenClaw -- without modifying host code, translating each host's native observation and veto points into a single shared gate interface; the judgment core is identical in all three, and only enforcement depth differs. Our evaluation combines 153 exercised attack-chain records with deployment, utility, and reconstruction experiments. The deployment observations expose how tool declarations and data checks govern business actions, including a bypass through parameter rewriting. Six of eleven benign file-processing scenarios contain denial events, revealing the utility cost of content-based provenance policies. Across 252 runs on 63 sanitized scenarios, replay agrees with live graph projections for all 63 scenarios on each of two platforms. These results establish the feasibility of provenance-based runtime judgment and identify content transformation, legitimate reuse, and observation coverage as concrete limits.
- Abstract（参考訳）: LLMエージェントは、通常の操作のシーケンスを通じて有害な効果を生み出すことができる。
このような行為を判断するには、それらを可能にする権限と、それらが持つデータの起源の両方を確立する必要がある。
本稿では,エージェントハーネス境界における認証およびデータ保護ゲートであるAGATEについて述べる。
デリゲートされたアクションは、正確なパラメータにバインドし、期限を切れ、限られた数の使用を許可する権限によって制限される。
ソース登録は、観測された入力とその後の転送を結びつけ、エフェクト台帳は繰り返し要求を追跡する。
決定論的チェックは、決定パスにLSMを含まない意思決定を行い、法医学的リプレイの実行証拠を根拠として保持する。
アダプタは3つのプロダクションハーネス – DeepSeek Harness、OpenCode、OpenClaw – をホストコードを変更することなく統合し、各ホストのネイティブな観察とvetoポイントを単一の共有ゲートインターフェースに変換する。
本評価では,153個のアタックチェーンレコードと,デプロイ,ユーティリティ,再構築実験を組み合わせた評価を行った。
デプロイメントの観察では、ツール宣言とデータチェックが、パラメータ書き換えによるバイパスを含むビジネスアクションをどのように管理するかが明らかにされている。
11の良質なファイル処理シナリオのうち6つは否定的なイベントを含んでおり、コンテンツベースのプロビデンスポリシーの実用コストを明らかにしている。
252は63のサニタイズされたシナリオで動作し、リプレイは2つのプラットフォームで63のシナリオすべてに対して、ライブグラフのプロジェクションに同意している。
これらの結果は、証明に基づく実行時判定の実現可能性を確立し、コンテンツ変換、正当な再利用、観察範囲を具体的な限界として識別する。
関連論文リスト
- Agent Approval Laundering: Transitive Effects Beyond the Approved Invocation [4.976922673853743]
コーディングエージェントの承認インターフェースは、人間の決定をコマンドやツールコールに結び付ける。
私たちは、結果として生じる記録的障害承認洗浄を呼んでいます。
エージェントシステムにおけるこの記録-閉鎖関係の最初の系統的セキュリティ解析について述べる。
論文 参考訳（メタデータ） (2026-09-23T13:47:35Z) - From Intent to Execution Grant: An Execution-Boundary Conformance Profile for High-Risk AI Actions [9.27474112226667]
EBL-Coreは、1つの標準的な、完全に実体化されたAI生成候補が、明示的な条件下でアクションスコープ実行権限を受け取ることができるかどうかを決定する。
拘束力、政策非監視、エビデンス処理、決定論的判断、検証、ライフサイクル行動の付与などである。
100回の試験で32回の同時再空輸試験が成功し、1回の試行で完全に1回成功し、テスト効果が保護された。
論文 参考訳（メタデータ） (2026-09-10T14:21:45Z) - FAVA: Formal Authorization for Verified Agents with Evidence-Backed Permission Graphs [11.447078130049512]
FAVAは、エージェントの実行を許可する認可フレームワークである。
OpenAgentSafety、OctoBench、ActPlaneのシナリオでFAVAを評価する。
論文 参考訳（メタデータ） (2026-07-29T09:41:07Z) - PhyAgentOS: A Self-Evolving Operating System for Embodied Agents with Decoupled Cognitive Planning and Physical Execution [49.776611937968]
我々は、スケジューリング、検証、メモリ、ベンチマーク、安全性をシステムレベルのサービスとして提供するPhyAgentOSを紹介します。
セッション中心のセッションは、スケジューリング、互換性、監督された実行、エビデンス収集、受け入れの最小単位として、アクションではなくセッションを扱う。
SessionVerifierは、実行終了とセマンティックタスク完了を、成功、失敗、または再計画のエビデンスに基づいて判断する。
ベンチマークはデプロイメントセッションと検証パスを再利用するので、結果は実際の実行に遡る。
論文 参考訳（メタデータ） (2026-07-18T04:46:53Z) - Context-to-Execution Integrity for LLM Agents [0.0]
Context-to-Execution Integrity (CXI)はこの設定の実行バウンダリシステムである。
我々は、オープンウェイトフィールドプロジェクションの実行、AgentDojoライブエピソード、コードエージェントの正確な効果ベンチマーク、マニフェストバウンドの台帳故障、プロポーザルプレッシャ制御、ホスト/API互換性トレースについてCXIを評価した。
論文 参考訳（メタデータ） (2026-07-07T08:38:50Z) - What to Test Next: Interpretable Coverage Gap Discovery in Driving VLMs [52.50210189669399]
視覚言語モデル(VLM)を駆動するには,操作設計領域(ODD)が定義する様々な条件のシーンを正確に理解する必要がある
SliceScorerは、欠落したスライス推薦のための決定論的スコアリングルールである。
SliceNavは, 従来のスライス発見法よりも, 高リスクカバレッジギャップを効果的に表面化することを示す。
論文 参考訳（メタデータ） (2026-06-01T03:18:01Z) - AgentSecBench: Measuring Prompt Injection, Privacy Leakage, and Tool-Use Integrity in LLM Agents [0.2864713389096699]
本稿では,AgentSecBenchを,この問題に対する正式なセキュリティフレームワークの実証的なインスタンス化として紹介する。
3つのゲーム・インストラクション・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス(英語版)・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス(英語版)・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス(英語版)を定めている。
これは、承認された観察と能力に対するプロジェクションとしてのアプリケーションポリシーを表し、プロジェクションの即時アノテーションとプロジェクションの強化を区別し、敵のアドバンテージと、防衛が生成前に関連するモデル可視チャネルを閉鎖するかどうかを計測する。
論文 参考訳（メタデータ） (2026-05-25T18:53:22Z) - SWAP: Towards Copyright Auditing of Soft Prompts via Sequential Watermarking [58.475471437150674]
ソフトプロンプト(SWAP)のための逐次透かしを提案する。
SWAPは、特定のディフェンダー指定のアウト・オブ・ディストリビューション・クラスを通じて、透かしを符号化する。
11のデータセットの実験では、SWAPの有効性、無害性、および潜在的適応攻撃に対する堅牢性を示す。
論文 参考訳（メタデータ） (2025-11-05T13:48:48Z) - Towards Copyright Protection for Knowledge Bases of Retrieval-augmented Language Models via Reasoning [58.57194301645823]
大規模言語モデル(LLM)は、現実のパーソナライズされたアプリケーションにますます統合されている。
RAGで使用される知識基盤の貴重かつしばしばプロプライエタリな性質は、敵による不正使用のリスクをもたらす。
これらの知識基盤を保護するための透かし技術として一般化できる既存の方法は、一般的に毒やバックドア攻撃を含む。
我々は、無害な」知識基盤の著作権保護の名称を提案する。
論文 参考訳（メタデータ） (2025-02-10T09:15:56Z) - OpenFactCheck: Building, Benchmarking Customized Fact-Checking Systems and Evaluating the Factuality of Claims and LLMs [59.836774258359945]
OpenFactCheckは、カスタマイズされたファクトチェックシステムを構築するためのフレームワークである。
ユーザーは自動的にファクトチェッカーをカスタマイズし、文書やクレームの事実的正当性を検証できる。
CheckerEVALは、人間の注釈付きデータセットを使用して、自動ファクトチェッカーの検証結果の信頼性を高めるソリューションである。
論文 参考訳（メタデータ） (2024-05-09T07:15:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。