論文の概要: DelegateGuard: Purpose-Bound Capabilities for Delegated LLM Agent Workflows
- arxiv url: http://arxiv.org/abs/2610.16005v1
- Date: Mon, 12 Oct 2026 00:12:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-19 08:09:14.376009
- Title: DelegateGuard: Purpose-Bound Capabilities for Delegated LLM Agent Workflows
- Title（参考訳）: DelegateGuard:delegated LLMエージェントワークフローの目的境界機能
- Abstract要約: 既存のリークベンチマークはこれらの障害を露呈するが、委任されたエージェントが行使する権限を制限しない。
本稿では,ユーザ認証の開始を目的,ラベル,操作,シンク,デリゲートの深度を超えて,阻止可能な機能に変換するリファレンスモニタシステムを提案する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: \textbf{(Context)} LLM agents increasingly delegate subtasks while holding authority over sensitive data, creating confused-deputy risks: an injected delegate can exfiltrate data, amplify its authority, or act after revocation. Existing leakage benchmarks expose these failures but do not constrain the authority a delegated agent may exercise. \textbf{(Methods)} We present \system, a reference monitor that converts the initiating user's authorization into attenuable capabilities over purpose, labels, operations, sinks, and delegation depth; every data-moving action is mediated outside the LLM, and revocation cascades through the delegation graph. We formalize a trace-level safety invariant and evaluate it with an adaptive within-authority adversary and four baselines, model-action and multi-turn ecological studies, and conformance and scale checks over deterministic traces and 517{,}401 Enron emails. \textbf{(Results)} \system blocks ungranted-sink exfiltration, authority amplification, revocation replay, purpose gaming, and intra-tool label violations, and dominates static allowlists on the revocation and intra-tool cases (10/10). Two open models proposed attacker-goal actions on 42/45 and 44/45 injected traces, all blocked at execution; a 90-run multi-turn study cut leakage from 0.844 to 0.20 with full task completion, at microsecond per-decision overhead. Proposition~1 characterizes exactly where attenuation-based authorization suffices, a boundary we also reproduce empirically across four observable-sink workflows. \textbf{(Conclusion \& Significance)} Purpose-bound runtime authorization gives delegated LLM workflows a model-independent execution boundary and a precise recipe for composing it with declassification and content monitoring on externally observable sinks.
- Abstract（参考訳）: LLMエージェントは、機密データに対して権限を保持しながらサブタスクを委譲し、混乱したデリゲートのリスクを発生させる。
既存のリークベンチマークはこれらの障害を露呈するが、委任されたエージェントが行使する権限を制限しない。
これは、ユーザーの認証を目的、ラベル、操作、シンク、デリゲートの深さを超えて減衰する機能に変換するリファレンスモニターであり、すべてのデータ移動アクションは LLM の外部を介し、デリゲートグラフを介してカスケードを無効にする。
本研究では, トラストレベルの安全性の不変性を定式化し, 適応的なインテリア・オーソリティと4つのベースライン, モデル・アクションおよびマルチターン生態学的研究, 決定論的トレースに対する適合性とスケールチェック, 517{,}401 Enron メールで評価する。
\textbf{(Results)} \system block ungranted-sink exfiltration, authority amplification, revocation replay, purpose gaming, and in-tool label violations, and leds static allowlists on the revocation and in-tool case (10/10)。
2つのオープンモデルが42/45と44/45のインジェクトされたトレースに対して攻撃目標アクションを提案し、実行時にすべてブロックされた。
提案~1は、減衰に基づく認証が十分である場所を正確に特徴付け、また、観測可能な4つのワークフローを経験的に再現する境界を特徴付ける。
目的に縛られたランタイム認可は、モデルに依存しない実行バウンダリと、外部観測可能なシンク上での非分類とコンテンツ監視でそれを構成するための正確なレシピを提供する。
関連論文リスト
- AuthGateBench: Benchmarking LLMs as Authorization Gate [5.504238772822917]
AuthGateBenchは、良心的な要求の下で認証ゲーティングを行うための最初のポリシーガイダンスベンチマークである。
モデルがより良い判断を下すのに補助的な環境信号が役立つかどうかを検討する。
評価では、モデルが内部の安全アライメントに過度に依存しているため、障害モード間で精度が不均一に低下する。
論文 参考訳（メタデータ） (2026-10-12T08:55:01Z) - Decision Uncertainty-Oriented Watermarking (DUOW): Securing Multi-Agent Routing Against Policy Cloning [52.112503352265556]
Decision Uncertainty-Oriented Watermarking (DUOW)は、モデルパラメータや生成された出力を変更することなく、外部決定層で動作する軽量フレームワークである。
DUOWは高いタスクユーティリティを保ち、最大90%のログ消去の下で信頼性の高いオーナシップ検証を実現し、計算オーバーヘッドを無視できることを示した。
論文 参考訳（メタデータ） (2026-10-10T05:51:13Z) - DecepEval: A Benchmark for Evaluating Deception in LLM Agents [75.59466511154791]
大規模言語モデル(LLM)エージェントは騙しによってタスクパフォーマンスを追求することができる。
既存の評価では、LLMエージェントは騙すことができるが、しばしば孤立したシナリオや狭義に定義された条件を調べることができる。
3つのタスクファミリに1,532のインスタンスと28のプロフェッショナルシナリオからなるベンチマークであるDecepEvalを紹介します。
論文 参考訳（メタデータ） (2026-10-06T08:33:43Z) - Can LLM Agents Automate Reinforcement Learning for Text-to-Speech? [64.13250261774849]
私たちは、共有ワークスペースの周りに、ヒューマンガイダンスとエージェント実行を構造化するコラボレーティブワークフローを構築します。
エージェントが何を自動化するかを測定するため、我々は公開レシピに対して段階的に軌道ステージを監査する。
以上の結果から, エージェントは不特定レシピを回収し, 改良し, 失速した場合には, 文献を調査し, LMキャリアからフローキャリアへピボットすることがわかった。
論文 参考訳（メタデータ） (2026-10-03T12:44:09Z) - LMSM: LLM Security Framework Inspired by Linux Security Modules [56.93644694627783]
大規模言語モデル(LLM)は階層化されたディフェンスでデプロイされることが多いが、悪意のあるプロンプトはそれらをバイパスすることができる。
我々は,Language Model Security Modules (LMSM) という,Linux Security Modules (LSM) の背後にある分離を LLM サービスに適応させるセキュリティフレームワークを提案する。
論文 参考訳（メタデータ） (2026-08-26T12:13:05Z) - What Guides the Agent? Adjudicating Unauthorized Behavior via Localizing Behavior-Guiding Instructions [16.444770499696457]
Attnlocateは、ツール呼び出しの決定に真に影響を及ぼすコンテキストのきめ細かいローカライズのためのランタイムフレームワークである。
Attnlocateは、このローカライゼーション問題をオブジェクト検出タスクとして、振る舞い誘導命令によって引き起こされるユニークなアクティベーショントレースを検出することを目的としている。
5つのLSMファミリーから10のエージェント構成にまたがるAttnlocateを評価し,間接的プロンプト注入とツール中毒のシナリオについて検討した。
論文 参考訳（メタデータ） (2026-08-25T03:24:53Z) - Adversarial Attacks in Multi-Agent LLM Pipelines: Unveiling Structural Vulnerabilities in Agentic AI Architectures [4.053243845971823]
マルチエージェントLLMパイプラインは、特殊な言語モデルエージェントを構造化し、中間出力をエージェント間で渡して複雑なタスクを解決する。
この設計では、単一のエージェント設定にないセキュリティギャップが導入されている。
この脆弱性は、エージェント間の境界を越える際に、データの明示的な検証を強制するセキュリティプリミティブである境界検証の欠如に起因している、と私たちは主張する。
論文 参考訳（メタデータ） (2026-08-01T15:35:58Z) - Agentic Permissions Policy Algebra for Taint Confinement in LLM Agents [0.0]
従来のテナント追跡は、未確認データを読み取る際にエージェントのコンテキストを永久に汚染する。
本稿では,エンジン管理型コンテキスト分岐によるユーザビリティボトルネックを解決するためのIFCフレームワークであるAPPAを提案する。
我々は4つのモデルにまたがるマルチターンツールチェインベンチマークでAPPAを評価した。
論文 参考訳（メタデータ） (2026-07-27T16:19:45Z) - Backdoor Cleaning without External Guidance in MLLM Fine-tuning [76.82121084745785]
Believe Your Eyes (BYE)は、アテンションエントロピーパターンを自己教師信号として活用して、バックドアサンプルを特定してフィルタリングするデータフィルタリングフレームワークである。
クリーンタスクのパフォーマンスを維持しながら、ほぼゼロの攻撃成功率を達成する。
論文 参考訳（メタデータ） (2025-05-22T17:11:58Z) - Lazy Layers to Make Fine-Tuned Diffusion Models More Traceable [70.77600345240867]
新たな任意の任意配置(AIAO)戦略は、微調整による除去に耐性を持たせる。
拡散モデルの入力/出力空間のバックドアを設計する既存の手法とは異なり,本手法では,サンプルサブパスの特徴空間にバックドアを埋め込む方法を提案する。
MS-COCO,AFHQ,LSUN,CUB-200,DreamBoothの各データセットに関する実証研究により,AIAOの堅牢性が確認された。
論文 参考訳（メタデータ） (2024-05-01T12:03:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。