論文の概要: CONTINUITY: Security-Context Contracts for Composable LLM Agent Controls
- arxiv url: http://arxiv.org/abs/2609.05269v1
- Date: Fri, 04 Sep 2026 15:26:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-07 18:15:24.103215
- Title: CONTINUITY: Security-Context Contracts for Composable LLM Agent Controls
- Title（参考訳）: 連続性: 構成可能なLLMエージェント制御のためのセキュリティコンテキスト契約
- Abstract要約: セキュリティクリティカルなコンテキストは、コンポーネント境界を越えたアクションとしてドロップ、拡大、リバウンド、あるいは再解釈される。
エージェントセキュリティ制御の検証可能な構成のためのフレームワークであるITYを紹介する。
- 参考スコア（独自算出の注目度）: 6.892500414166659
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: LLM agent systems increasingly combine provenance tracking, authorization, policy enforcement, protocol adapters, and execution controls. However, individually correct security mechanisms do not necessarily compose into an end-to-end secure system: security-critical context may be dropped, widened, rebound, or reinterpreted as actions cross component boundaries. We identify this failure mode as security-context discontinuity and introduce CONTINUITY, a framework for verifiable composition of agent security controls. CONTINUITY models each component with an assume-guarantee contract and carries authenticated security context across transitions using signed root grants, provenance commitments, role-bound transition receipts, bounded typed releases, transformation witnesses, and effect-bound execution permits. We formalize end-to-end consequence integrity, requiring every realized external effect to be backed by a valid and current authorization witness linking the principal, task, provenance, delegation, policy state, canonical action, and finality boundary. We implement a reference verifier and deterministic cross-layer fault-injection suite covering 32 fault classes across four application domains. In 2,560 parameterized attack instances spanning 128 fault-domain classes, the full CONTINUITY configuration commits no harmful external effect, while completing all 700 benign tasks and escalating all 200 ambiguous cases. These results show that secure agent execution requires not only sound individual controls, but explicit contracts that preserve their guarantees across the complete instruction-to-effect path.
- Abstract（参考訳）: LLMエージェントシステムは、証明追跡、認可、ポリシー執行、プロトコルアダプタ、実行制御を次第に組み合わせている。
セキュリティクリティカルなコンテキストは、コンポーネントの境界を越えたアクションとしてドロップ、拡大、リバウンド、あるいは再解釈される。
我々は,この障害モードをセキュリティ・コンテキストの不連続性として認識し,エージェントセキュリティ制御の検証のためのフレームワークであるConTINUITYを導入する。
CONTINUITYは、各コンポーネントを前提保証契約でモデル化し、署名されたルート付与、証明されたコミットメント、ロールバウンドなトランジションレシート、バウンドされた型付きリリース、変換証人、エフェクトバウンドな実行許可を使用して、トランジション間で認証されたセキュリティコンテキストを実行する。
エンド・ツー・エンドの結果の整合性を形式化し、すべての現実的な外部効果を、プリンシパル、タスク、前処理、デリゲート、ポリシー状態、標準アクション、最終性境界をリンクする有効な、現在の承認証人によって裏付けることを要求する。
4つのアプリケーションドメインにまたがる32のフォールトクラスをカバーする参照検証と決定論的断裂注入スイートを実装した。
128のフォールトドメインクラスにまたがる2,560のパラメータ化攻撃インスタンスでは、完全なConTINUITY構成は有害な外部効果をコミットせず、700の良質なタスクをすべて完了し、200の曖昧なケースをすべてエスカレートする。
これらの結果は、セキュアなエージェントの実行には、個々のコントロールの健全さだけでなく、完全なインストラクション・トゥ・エフェクトパス全体にわたって保証を守る明示的な契約が必要であることを示している。
関連論文リスト
- LMSM: LLM Security Framework Inspired by Linux Security Modules [56.93644694627783]
大規模言語モデル(LLM)は階層化されたディフェンスでデプロイされることが多いが、悪意のあるプロンプトはそれらをバイパスすることができる。
我々は,Language Model Security Modules (LMSM) という,Linux Security Modules (LSM) の背後にある分離を LLM サービスに適応させるセキュリティフレームワークを提案する。
論文 参考訳（メタデータ） (2026-08-26T12:13:05Z) - Who Can Make the Action Happen? An Authority-Decomposition Framework for High-Risk Automated Systems [8.71734630214811]
本稿では,信頼領域の連立関係が保護された実行を引き起こすのに十分である行動関連手法を提案する。
これは、実行に対する因果制御と、操作の権威的アカウントの制御を分離する。
インクルージョン最小限の連立と、要求される実行境界が指定された上流ドメインから独立しているかどうかのテストが導かれる。
論文 参考訳（メタデータ） (2026-08-19T14:30:58Z) - Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels [53.63220028820581]
身体的知性は、学習した知覚と意思決定をリアルタイムの計算、制御、物理的相互作用と統合する。
我々は,信頼に値するインテリジェンスを,特定のタスクを確実に実行するための持続能力として定義する。
論文 参考訳（メタデータ） (2026-07-28T17:50:44Z) - A Decision-Centered Reference Architecture for Trustworthy Agentic Commerce [0.0]
エージェントコマースは、エージェントショッピングを、ポリシーを解釈し、チェックアウトを準備し、トランザクション対応言語を生成し、委譲された支払い権限の下で行動するソフトウェアエージェントに拡張する。
本研究では,標準エンベロープを中心に構築されたプロトコルに依存しないアーキテクチャ,保護された依存性と結果,Ed25519あるいはHMAC認証,ライブ要求リバインド,7軸生成ゲート,実行時依存性再検証,セマンティック不変量について述べる。
論文 参考訳（メタデータ） (2026-07-20T08:33:31Z) - Securing LLM Agents Need Intent-to-Execution Integrity [49.490963596514185]
我々は, LLMエージェントの確保には, エージェントの実行がユーザの意図を忠実に反映した場合に規定するエンドツーエンドの正当性を定義する必要があると主張している。
LLMエージェントはコンパイラと構造的に類似しており、セキュリティ違反はユーザ意図を保存しない誤った実行に対応する。
emphTool整合性、emph命令整合性、emphJudgment整合性、emphData整合性。
論文 参考訳（メタデータ） (2026-05-16T12:53:31Z) - Auditing Agent Harness Safety [81.22315979618612]
LLMエージェントは、ツールをディスパッチし、リソースを割り当て、特別なコンポーネント間でメッセージをルーティングする実行ハーネスの中でますます動作します。
ほとんどの安全ベンチマークは最終出力または終端状態のみをスコアするが、多くの違反は終端ではなく、軌道の途中で発生する。
HarnessAuditは、境界コンプライアンス、実行の忠実さ、システムの安定性など、完全な実行軌跡を監査するフレームワークである。
論文 参考訳（メタデータ） (2026-05-14T02:14:28Z) - The Granularity Mismatch in Agent Security: Argument-Level Provenance Solves Enforcement and Isolates the LLM Reasoning Bottleneck [18.14752683836217]
textscPACTは、ツール引数にセマンティックロールを割り当てるランタイムモニタである。
textscPACTはエージェントセキュリティを権限バインディングとして再設定する。
論文 参考訳（メタデータ） (2026-05-11T04:09:11Z) - A Framework for Formalizing LLM Agent Security [46.86073273904095]
LLMエージェントのセキュリティは本質的にコンテキスト的です。
LLMエージェントに対する既存のセキュリティ攻撃の定義は、しばしばこの文脈の性質を捉えない。
本稿では,文脈的セキュリティの観点から,既存の攻撃と防御を体系化するフレームワークを提案する。
論文 参考訳（メタデータ） (2026-03-19T21:01:49Z) - Condition-Triggered Cryptographic Asset Control via Dormant Authorization Paths [1.7429038786735553]
暗号化されたデジタル資産の制御は、伝統的に秘密鍵の恒久的な所有と同一視される。
条件付き休息許可パス(CT-DAP)を導入する。
CT-DAP(CT-DAP)は、破壊可能な認証要素に基づいて構築された暗号資産管理手法である。
論文 参考訳（メタデータ） (2026-03-09T03:57:06Z) - CaMeLs Can Use Computers Too: System-level Security for Computer Use Agents [60.98294016925157]
AIエージェントは、悪意のあるコンテンツがエージェントの行動をハイジャックして認証情報を盗んだり、金銭的損失を引き起こすような、インジェクション攻撃に弱い。
CUAのためのシングルショットプランニングでは、信頼できるプランナーが、潜在的に悪意のあるコンテンツを観察する前に、条件付きブランチで完全な実行グラフを生成する。
このアーキテクチャ分離は命令インジェクションを効果的に防止するが、ブランチステアリング攻撃を防ぐには追加の対策が必要であることを示す。
論文 参考訳（メタデータ） (2026-01-14T23:06:35Z) - VeriGuard: Enhancing LLM Agent Safety via Verified Code Generation [40.594947933580464]
医療などのセンシティブなドメインに自律的なAIエージェントを配置することは、安全性、セキュリティ、プライバシに重大なリスクをもたらす。
LLMをベースとしたエージェントに対して、正式な安全保証を提供する新しいフレームワークであるVeriGuardを紹介する。
論文 参考訳（メタデータ） (2025-10-03T04:11:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。