論文の概要: Compositional Policy Violations: When Step-Level Compliance Fails In Agentic AI Workflows

• arxiv url: http://arxiv.org/abs/2609.18820v2
• Date: Thu, 17 Sep 2026 04:26:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-20 08:55:53.870291
• Title: Compositional Policy Violations: When Step-Level Compliance Fails In Agentic AI Workflows
• Title（参考訳）: 構成ポリシー違反: エージェントAIワークフローにおけるステップレベルコンプライアンスの障害
• Abstract要約: 我々は,4種類の構成政策違反(CPV)の分類を提示する。 CPVは、構成する段階的なコンプライアンスの失敗であり、オーソリティクリープ、Threshold Laundering、累積的なSum Violation、Context Collapseの4つのタイプの分類を提示する。 本稿では,パイプラインの派生表現ではなく,プロファイナンスから保護された量を再計算して,完全な実行トレースに対するポリシを評価する,プロファイナンス対応アーキテクチャを提案する。
• 参考スコア（独自算出の注目度）: 4.005837361297009
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Agentic workflows now make consequential decisions in regulated settings, and the governance placed around them is almost entirely step-scoped: input-output classifiers, per turn rails, and span-level evaluators. The policies organizations actually hold, such as referral thresholds, authority limits, and review requirements, are properties of the whole execution rather than of any one step. This mismatch admits a failure mode we call a Compositional Policy Violation (CPV): every individual step passes its own check while the composed execution violates the governing policy. A predicate over a single step cannot evaluate a property that step does not determine, so no improvement in the accuracy of the step-scoped monitors detects this class. We define CPVs as the failure of step-level compliance to compose, and present a taxonomy of four types: Authority Creep, Threshold Laundering, Cumulative Sum Violation, and Context Collapse. We show that the correct repair for each class is dictated by where the guarded quantity mutates. We then introduce a provenance-aware runtime architecture that evaluates policies over complete execution traces, recomputing guarded quantities from raw provenance rather than the pipeline's derived representation.
• Abstract（参考訳）: エージェントワークフローは、規制された設定で連続的な決定を行い、それらを取り巻くガバナンスは、ほぼ完全にステップスコープされる:入力出力分類器、ターンレール毎、スパンレベルの評価器。 参照しきい値や権限制限,レビュー要件など,組織が実際に保持するポリシは,ひとつのステップではなく,実行全体の特性です。 このミスマッチは、私たちがCPV(Composeal Policy Violation)と呼ぶ障害モードを認めます。 単一のステップ上の述語は、ステップが決定しない特性を評価できないため、ステップスコープモニタの精度の改善は、このクラスを検出する。 我々は、CPVをステップレベルのコンプライアンスの失敗として定義し、オーソリティクリープ、Threshold Laundering、Cumulative Sum Violation、Context Collapseの4種類の分類を提示する。 各クラスに対する正しい修復は、ガードされた量が変化する場所によって決定されることを示す。 次に、完全な実行トレースに対するポリシを評価し、パイプラインの派生表現ではなく、生のプロファイラから保護された量を再計算する、プロファイラス対応ランタイムアーキテクチャを導入します。

関連論文リスト

• Policy Loopholes in Agent Evaluation: When Policy Ambiguity Masquerades as Agent Error [2.0305676256390934]
  ベンチマーク開発者は、金のアノテーションを集める前にポリシーを監査する必要がある。 ドメイン間の比較によって、エクスプロイラビリティはポリシーの曖昧さとツールの許容性の両方を必要とすることが明らかになった。
  論文  参考訳（メタデータ） (2026-09-13T10:00:13Z)
• STAGE: Stateful Translation to Agentic Graph Execution with Policy-Scoped Context and Deterministic Control [0.29360071145551064]
  本稿では、決定論的コードに手続き制御を配置しつつ、ポリシースコープノードにモデル判断を限定するフレームワークSTAGEを提案する。 3つの公開ポリシーフォローベンチマークと、プロプライエタリなバンキングベンチマークであるSmart Disputeについて、STAGEを評価した。
  論文  参考訳（メタデータ） (2026-08-23T18:17:09Z)
• Citation-Closure Retrieval and Per-Rule Attribution for Real-World Regulatory Compliance Question Answering [54.97384993676565]
  複雑な国内R&D規制から派生した運用知識グラフを特徴とする,新たなベンチマークであるRegOps-Benchを用いて,レギュレーションコンプライアンスQAを形式化する。 RefWalkはクロスドキュメントの引用を横切り、マックスベースのアグリゲーションを通じてマルチビュー候補を融合させ、ソースへのクレームを明示的にマッピングするためにルールごとの属性を強制する。
  論文  参考訳（メタデータ） (2026-05-28T10:38:38Z)
• SARC: A Governance-by-Architecture Framework for Agentic AI Systems [0.0]
  エージェントAIシステムは、ツール、サブエージェント、外部サービスを通じてますます機能するが、ガバナンスコントロールは、プロンプト、ダッシュボード、ポストホックドキュメンテーションにアタッチされることが多い。 SARCは、制約をステート、アクションスペース、報酬と共に第一級の仕様オブジェクトとして扱うツール使用エージェントのためのランタイムガバナンスアーキテクチャである。 SARCは厳密な述語の下でゼロのハードコントラスト違反を実行し、その宣言されたPAAのスロットリング応答は、ポリシー・アズ・コードのみと比較して、ソフトウインドウのオーバーアーを89.5%削減する。
  論文  参考訳（メタデータ） (2026-05-08T13:34:36Z)
• IMPACT-CYCLE: A Contract-Based Multi-Agent System for Claim-Level Supervisory Correction of Long-Video Semantic Memory [73.22944697933603]
  既存のパイプラインは不透明でエンドツーエンドの出力を生成し、検査の中間状態は公開しない。 IMPACT-Cycleは,マルチモーダル反復クレームレベルのメンテナンスとして,長時間ビデオ理解を再構築するマルチエージェントシステムである。
  論文  参考訳（メタデータ） (2026-04-22T03:03:33Z)
• PolicyBank: Evolving Policy Understanding for LLM Agents [51.86716874651299]
  PolicyBankは構造化されたツールレベルの政策洞察を維持し、それらを反復的に洗練する。 PolicyBankは、人間の神託に対するギャップの最大82%を閉じている。
  論文  参考訳（メタデータ） (2026-04-16T20:29:30Z)
• Policy-Invisible Violations in LLM-Based Agents [10.660248467840821]
  コンプライアンスがエンティティ属性、コンテキスト状態、あるいはエージェントの可視的コンテキストから欠落したセッション履歴に依存する場合。 PhantomPolicyは、8つの違反カテゴリにまたがるベンチマークで、バランスの取れた違反と安全管理のケースを示す。 本稿では,反ファクトグラフシミュレーションに基づく実施フレームワークであるSentinelを紹介する。
  論文  参考訳（メタデータ） (2026-04-14T01:15:15Z)
• Near-Miss: Latent Policy Failure Detection in Agentic Workflows [9.719140082591956]
  エージェントの会話トレースにおける遅延ポリシー障害を検出するための新しい指標を提案する。 その結果,ツールコールの変異を伴う軌道の8～17%に潜伏障害がみられた。
  論文  参考訳（メタデータ） (2026-03-31T12:26:35Z)
• TAG: Target-Agnostic Guidance for Stable Object-Centric Inference in Vision-Language-Action Models [59.13964209628383]
  VLA(Vision-Language-Action)ポリシーは、言語指示や視覚的な観察をロボット行動にマッピングする上で大きな進歩を見せている。 本稿では,VLA政策における乱れや外見に起因したバイアスを明示的に軽減する単純な推論時ガイダンス機構であるTAG(Target-Agnostic Guidance)を提案する。 我々は, LIBERO, LIBERO-Plus, VLABenchなどの標準操作ベンチマーク上でTAGを評価し, クラッタ下での堅牢性を一貫して改善し, ニアミスや不正なオブジェクト実行を減らす。
  論文  参考訳（メタデータ） (2026-03-25T17:56:32Z)
• Verification of Robust Properties for Access Control Policies [51.736723807086385]
  既存のアクセス制御ポリシーの検証方法は、検証が進む前に、ポリシーを完全かつ完全に決定する必要がある。 本稿では,政策構造がどのような決定を下すか,どのような決定を下すか,あるいはその後の拡張に拘わらず,その決定を行うかという課題について,ロバストなプロパティ検証を導入する。 可能なすべてのポリシー拡張を普遍的に定量化しているにもかかわらず、判断は二階述語論理プログラミング言語における探索の証明に還元されることを示す。
  論文  参考訳（メタデータ） (2026-03-13T17:14:38Z)
• SVIP: Sequence VerIfication for Procedures in Videos [68.07865790764237]
  ステップレベルの変換を伴う負のアクションシーケンスと同一のアクションシーケンスを実行するポジティブなビデオペアを区別することを目的とした,新しいシーケンス検証タスクを提案する。 このような困難なタスクは、事前のアクション検出やセグメンテーションなしで、オープンセット設定に置かれる。 我々は、化学実験において、あらゆる段階的な変換を列挙したスクリプト付きビデオデータセットを収集する。
  論文  参考訳（メタデータ） (2021-12-13T07:03:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。