論文の概要: Conflux: Preventing Privilege Escalation with Principal Contexts and System-Level Evaluation
- arxiv url: http://arxiv.org/abs/2611.08768v2
- Date: Thu, 12 Nov 2026 17:25:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:32.857947
- Title: Conflux: Preventing Privilege Escalation with Principal Contexts and System-Level Evaluation
- Title(参考訳): Conflux: 主要なコンテキストとシステムレベル評価によるプリヴィリエジエスカレーションの防止
- Abstract要約: LLMエージェントは、外部に作用しながら複数のプリンシパルからの情報を結合する。
モデルレベルの防衛は相変わらず確率的であるため、執行機関はモデル判断の外に座っていなければならない。
我々は、主要なコンテキスト防衛であるConfluxを提示する。
- 参考スコア(独自算出の注目度): 0.4567095640467989
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: LLM agents combine information from multiple principals while acting externally. We formalise privilege escalation (PE) as the system-level security objective: an action may proceed only if every principal that influenced it would allow it. Model-level defences remain probabilistic, so enforcement must sit outside model judgement. We present Conflux, a principal-context defence. Its kernel, ITES, derives authority from provenance and the organisation's existing access-control system and intersects the permissions of every influencing principal. We prove a conditional authority-confinement theorem: under complete mediation, no-laundering provenance, a known non-empty decision context, fresh permission checks, and action binding, the kernel admits no action that escalates privilege with respect to any recorded influencing principal. The theorem covers the represented value-influence fragment; control influence from tool, branch, recipient, or plan-step selection remains a refinement obligation. Conflux extends the kernel with independent policy ports, argument-aware authorisation, disclosure, consent, delegation, restriction, and exposure planning. We describe two system- level evaluators. SLED is a black-box evaluator: it exhaustively explores a declared finite model of a defence up to a bound. SLED-V is a white-box evaluator: it checks a serialisable intermediate representation against security and provenance properties. The evidence is bounded and partial. The appendix reports retained AgentDojo, SLED, and SLED-V results, including the limits of those runs. No result in this paper is an unbounded deployment guarantee.
- Abstract(参考訳): LLMエージェントは、外部に作用しながら複数のプリンシパルからの情報を結合する。
我々は特権エスカレーション(PE)をシステムレベルのセキュリティ目標として定式化します。
モデルレベルの防衛は相変わらず確率的であるため、執行機関はモデル判断の外に座っていなければならない。
我々は、主要なコンテキスト防衛であるConfluxを提示する。
そのカーネルであるITESは、証明と組織の既存のアクセス制御システムから権威を導き、影響するすべてのプリンシパルの許可を相互に交わす。
完全な調停、無洗浄の証明、既知の空でない決定コンテキスト、新しい許可チェック、およびアクションバインディングの下で、カーネルは記録された影響するプリンシパルに関して特権をエスカレートする行為を認めない。
この定理は、表現された価値影響の断片をカバーしている。ツール、ブランチ、受信者、計画段階の選択による制御の影響は、洗練義務のままである。
Confluxはカーネルを拡張して、独立したポリシーポート、引数対応のオーソライゼーション、開示、同意、デリゲート、制限、露出計画を行う。
2つのシステムレベル評価器について述べる。
SLEDはブラックボックス評価器であり、宣言された有限モデルの防御を境界まで徹底的に探索する。
SLED-Vはホワイトボックス評価器であり、セキュリティと前駆特性に対するシリアライズ可能な中間表現をチェックする。
証拠は限定的で部分的だ。
付録は、AgentDojo、SLED、およびSLED-Vの結果を保持しており、それらの実行の制限を含んでいる。
この論文の成果は、無制限のデプロイメント保証である。
関連論文リスト
- SecureGARD: Dynamic Ontology-Guided Governance for Secure Tool-Using LLM Agents [41.99976187691525]
我々は異質な呼び出しを 共有セマンティックな表現に仕立てています
オントロジーを オフラインで進化させます
我々は,AgentDojo,ASB,AgentDynについて,良性かつ間接的なインジェクション設定下で評価した。
論文 参考訳(メタデータ) (2026-11-04T15:51:30Z) - Autonomy in Check: Governor-Mediated Adaptive Security at the Edge [3.2717071255717234]
ネットワークエッジのアダプティブセキュリティは、ますます自動プランナーに依存している。
意味的に間違ったアクションは、ミッションコンテキストを判断できない強制的な基板によって忠実に実行される。
信頼できないプランナが型付きセキュリティインテントを出力する分割制御アーキテクチャを提案する。
承認されたアクションのみが署名されたレシートにバインドされ、プレインストールされたeBPFマップ更新にコンパイルされる。
論文 参考訳(メタデータ) (2026-09-16T09:00:34Z) - FAVA: Formal Authorization for Verified Agents with Evidence-Backed Permission Graphs [11.447078130049512]
FAVAは、エージェントの実行を許可する認可フレームワークである。
OpenAgentSafety、OctoBench、ActPlaneのシナリオでFAVAを評価する。
論文 参考訳(メタデータ) (2026-07-29T09:41:07Z) - Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels [53.63220028820581]
身体的知性は、学習した知覚と意思決定をリアルタイムの計算、制御、物理的相互作用と統合する。
我々は,信頼に値するインテリジェンスを,特定のタスクを確実に実行するための持続能力として定義する。
論文 参考訳(メタデータ) (2026-07-28T17:50:44Z) - Agent Security Needs Redefinition through a Holistic Framework [46.88917910966891]
被告は、命令が悪意あるように見えるかどうかを問う。ベンチマークは、エージェントが有害な鳴き声を行うかどうかを問う。
我々は,エージェントの軌道全体にわたって連続的に評価されなければならない4つの特性を通じて,コンテキストセキュリティを運用する。
論文 参考訳(メタデータ) (2026-07-24T06:43:09Z) - AgentSecBench: Measuring Prompt Injection, Privacy Leakage, and Tool-Use Integrity in LLM Agents [0.2864713389096699]
本稿では,AgentSecBenchを,この問題に対する正式なセキュリティフレームワークの実証的なインスタンス化として紹介する。
3つのゲーム・インストラクション・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス(英語版)・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス(英語版)・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス・インテリジェンス(英語版)を定めている。
これは、承認された観察と能力に対するプロジェクションとしてのアプリケーションポリシーを表し、プロジェクションの即時アノテーションとプロジェクションの強化を区別し、敵のアドバンテージと、防衛が生成前に関連するモデル可視チャネルを閉鎖するかどうかを計測する。
論文 参考訳(メタデータ) (2026-05-25T18:53:22Z) - Trust No Tool: Evaluating and Defending LLM Agents under Untrusted Tool Feedback [38.251599309409]
我々は,悪質なツールが探索中に合理的に振る舞う,異なる障害モード,認知的中毒について検討する。
ファイナルアクションリスクスコアリングのためのバックボーンに依存しないフレームワークであるVISTA-Guardを提案する。
論文 参考訳(メタデータ) (2026-05-17T13:51:34Z) - Verifiable Agentic Infrastructure: Proof-Derived Authorization for Sovereign AI Systems [2.124730017640531]
構造化された人工物から実行権限を演算する制御された突然変異システムに対する検証フレームワークを提案する。
DTFは、エージェント実行を統治可能、監査可能、およびソブリンAIデプロイメントにバウンド化するためのインフラストラクチャ基盤を提供する。
論文 参考訳(メタデータ) (2026-05-13T17:58:52Z) - Alignment Contracts for Agentic Security Systems [7.008213336755055]
我々は、観測可能な効果トレースに対する行動制約を規定し、強制するためのフレームワークであるアライメント契約を導入する。
契約は、スコープ、許容および禁止された効果、リソース予算、開示ポリシーを定義します。
リーン4アーティファクトは、論文が使用する公式なコア定理をチェックします。
論文 参考訳(メタデータ) (2026-04-30T14:38:05Z) - Gaming the Judge: Unfaithful Chain-of-Thought Can Undermine Agent Evaluation [76.5533899503582]
大規模言語モデル(LLM)は、エージェントのパフォーマンスを評価するために、ますます裁判官として使われている。
このパラダイムは、エージェントのチェーン・オブ・シークレット(CoT)推論が内部の推論と環境状態の両方を忠実に反映していることを暗黙的に仮定している。
我々は、操作された推論だけで、様々なWebタスクにまたがる800の軌跡に対して、最先端のVLM審査員の偽陽性率を最大90%向上させることができることを実証した。
論文 参考訳(メタデータ) (2026-01-21T06:07:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。