論文の概要: PACE: Provenance-Aware Capability Enforcement for Tool-Using LLM Agents
- arxiv url: http://arxiv.org/abs/2610.01349v1
- Date: Thu, 01 Oct 2026 09:18:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:24.026623
- Title: PACE: Provenance-Aware Capability Enforcement for Tool-Using LLM Agents
- Title（参考訳）: PACE: ツール・ユース・LLMエージェントのプロヴァンス・アウェア・キャパビリティ強化
- Abstract要約: 本稿では、PACE(Provenance-Aware Capability Enforcement)を紹介し、実行直前にすべてのツールコールを仲介する。
PACEは、提案されたブロックの後に認証された呼び出しを復元したり、宣言された修復を適用することができる。
スケールの縮小された適応探索は、0/30の不正なターゲットで防御に成功している。
- 参考スコア（独自算出の注目度）: 27.303145899045074
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Tool-using large language model (LLM) agents turn generated text into real side effects, so poisoned tool metadata, retrieved pages, memory, and reusable skills can steer the next call. Vetting an artifact before admission does not settle this. A safe variant and a leaking variant can produce the same admission evidence, and a sound gate then cannot relax that site for either. We make that condition precise, which leaves the last boundary a deployment can still act on. We present Provenance-Aware Capability Enforcement (PACE), which mediates every tool call immediately before it executes. Path confinement proposes an executable cut of represented influence paths, while capability and effect verification checks schema-defined effects against authority compiled from the authenticated request. We distinguish the certified execution contract from the evaluated configuration, which can restore an authorized call after a proposed block or apply a declared repair. Confinement requires the final action to preserve the certified cut. On eight executable agent-security benchmarks with three target-model families, the evaluated configuration gives strictly lowest attack success in 62 of 79 eligible attack columns and ties in 14; full-benchmark native utility loses at most three points relative to the undefended agent. A complete ablation over 1167 paired cases attributes most security gains to effect verification and refusal control to boundary adaptation. A reduced-scale adaptive search succeeds on 0/30 out-of-authority targets against the defense.
- Abstract（参考訳）: ツールを使用する大規模言語モデル(LLM)エージェントは、生成されたテキストを実際の副作用に変換するため、毒化されたツールメタデータ、検索ページ、メモリ、再利用可能なスキルが次の呼び出しを制御できる。
入場前にアーティファクトを賭けても、この問題は解決しない。
安全な変種と漏れた変種は同じ証拠を出し、サウンドゲートはどちらもその場所を緩めることができない。
この条件を正確にすることで、デプロイメントが動作可能な最後のバウンダリを残します。
本稿では、PACE(Provenance-Aware Capability Enforcement)を紹介し、実行直前にすべてのツールコールを仲介する。
経路制限は、表現された影響経路の実行可能なカットを提案し、能力と効果検証は、認証された要求からコンパイルされた権限に対するスキーマ定義効果をチェックする。
認定された実行契約と評価された構成とを区別し、提案したブロックの後に認証された呼び出しを復元したり、宣言された修復を施したりすることができる。
収監には最終措置が必要である。
ターゲットモデルファミリが3つある8つの実行可能なエージェントセキュリティベンチマークでは、評価された構成により、79の攻撃列と14のコネクションのうち62の攻撃成功率が厳格に低い。
1167以上のペア化されたケースに対する完全なアブレーションは、ほとんどのセキュリティ上の利益が、境界適応に対する検証と拒否制御に寄与している。
スケールの縮小された適応探索は、0/30の不正なターゲットで防御に成功している。
関連論文リスト
- ToolFence: Fine-Grained Authorization for Secure Tool-Using LLM Agents [30.668587899989955]
ToolFenceは実行前に型付き承認ブループリントをコンパイルし、決定論的モニターを通じてそれを強制する。
Qwen3-maxのAgentDojoでは、ToolFenceはASR全体をほぼゼロに減らし、パーセンテージのクリーンユーティリティのドロップと実行時のオーバーヘッドを3.80ポイントに減らした。
論文 参考訳（メタデータ） (2026-09-29T10:16:01Z) - Silent Failures in Agentic Security Evaluation: A Validated Harness for Tool-Call Mediation Under Indirect Prompt Injection [0.0]
特権ツールを起動するLLMエージェントは間接的プロンプトインジェクション(IPI)に脆弱である
4つの欠陥クラス - サイレントペイロードの非配信、引数ではなくツールアイデンティティによるアタック成功、モデル非能力と混同された偽リジェクション率、監査証跡の欠如 - を識別する。
我々は、欠陥と修正された定義の下で同じ実行トレースを再描画することで、歪みを定量化する。
論文 参考訳（メタデータ） (2026-09-26T14:53:42Z) - Agent Approval Laundering: Transitive Effects Beyond the Approved Invocation [4.976922673853743]
コーディングエージェントの承認インターフェースは、人間の決定をコマンドやツールコールに結び付ける。
私たちは、結果として生じる記録的障害承認洗浄を呼んでいます。
エージェントシステムにおけるこの記録-閉鎖関係の最初の系統的セキュリティ解析について述べる。
論文 参考訳（メタデータ） (2026-09-23T13:47:35Z) - ROPE: Routed Origin Policy Enforcement against Indirect Prompt Injection [61.4148196085256]
本稿では,信頼という構造概念に根ざしたROPE(Routed Origin Policy Enforcement)について述べる。
提案手法では,(1)軌道の各段階において,攻撃可能コンテンツのみを起点とする値が,原点保護パラメータに到達しない,(2)注入のリワードがない,という2つの保証が認められている。
論文 参考訳（メタデータ） (2026-08-27T01:22:14Z) - ClawSentry: A Progressive Multi-Tier Security Monitor for Safeguarding Autonomous LLM Agents [24.540638169054812]
悪意のあるサードパーティのスキルにハイジャックされた単一のエージェントは、データの流出、特権のエスカレーション、カスケード妥協を引き起こす可能性がある。
我々は、エージェントランタイムのためのオープンソースのフレームワークに依存しないセキュリティ監視ゲートウェイであるClawSentryを紹介する。
論文 参考訳（メタデータ） (2026-08-21T13:47:51Z) - Agent Security Needs Redefinition through a Holistic Framework [46.88917910966891]
被告は、命令が悪意あるように見えるかどうかを問う。ベンチマークは、エージェントが有害な鳴き声を行うかどうかを問う。
我々は,エージェントの軌道全体にわたって連続的に評価されなければならない4つの特性を通じて,コンテキストセキュリティを運用する。
論文 参考訳（メタデータ） (2026-07-24T06:43:09Z) - AgentSecBench: Measuring Prompt Injection, Privacy Leakage, and Tool-Use Integrity in LLM Agents [0.2864713389096699]
本稿では,AgentSecBenchを,この問題に対する正式なセキュリティフレームワークの実証的なインスタンス化として紹介する。
3つのゲーム・インストラクション・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス(英語版)・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス(英語版)・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス(英語版)を定めている。
これは、承認された観察と能力に対するプロジェクションとしてのアプリケーションポリシーを表し、プロジェクションの即時アノテーションとプロジェクションの強化を区別し、敵のアドバンテージと、防衛が生成前に関連するモデル可視チャネルを閉鎖するかどうかを計測する。
論文 参考訳（メタデータ） (2026-05-25T18:53:22Z) - On-Policy Self-Evolution via Failure Trajectories for Agentic Safety Alignment [54.30690671490447]
既存の安全アライメント信号は、主に応答レベルまたは政治外である。
FATEは、検証済みの失敗を専門家のデモンストレーションなしで修復管理に変換する。
FATEは攻撃成功率を33.5%、有害なコンプライアンスを82.6%削減し、外的軌道安全診断を6.5%改善する。
論文 参考訳（メタデータ） (2026-05-12T09:56:28Z) - Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。
敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。
最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
論文 参考訳（メタデータ） (2026-04-14T06:48:33Z) - CausalArmor: Efficient Indirect Prompt Injection Guardrails via Causal Attribution [49.689452243966315]
ツールコール機能を備えたAIエージェントは、IPI(Indirect Prompt Injection)攻撃の影響を受けやすい。
本稿では,選択防衛フレームワークCausalArmorを提案する。
AgentDojoとDoomArenaの実験は、CausalArmorが攻撃的な防御のセキュリティと一致することを示した。
論文 参考訳（メタデータ） (2026-02-08T11:34:08Z) - Preventing the Collapse of Peer Review Requires Verification-First AI [49.995126139461085]
我々は、真理結合、すなわち、過度に科学的真理をトラックする場所のスコアの厳密さを提案する。
プロキシ・ソブリン評価に向けた相転移を駆動する2つの力の形式化を行う。
論文 参考訳（メタデータ） (2026-01-23T17:17:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。