論文の概要: PolicyGuard: A Dialogue-Grounded Sub-Agent Verifier for Policy Adherence in LLM Agents
- arxiv url: http://arxiv.org/abs/2606.29225v1
- Date: Sun, 28 Jun 2026 06:27:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:15.83841
- Title: PolicyGuard: A Dialogue-Grounded Sub-Agent Verifier for Policy Adherence in LLM Agents
- Title（参考訳）: PolicyGuard: LLMエージェントにおけるポリシー順守のための対話型サブエージェント検証
- Abstract要約: LLMエージェントは、ツールコールを通じて、組織に代わってユーザーリクエストを処理する。
外部チェックは非準拠のエージェントアクションをブロックする。
本稿では,エージェントの対話に対する見解,文脈におけるポリシー上の理由,エージェントの次のターンに対して実行可能なフィードバックを提供するサブエージェント検証ツールであるPolicYGUARDを紹介する。
- 参考スコア（独自算出の注目度）: 46.25624714630383
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: LLM agents handle user requests on behalf of organizations through tool calls and must follow the company policies stated in their system prompts. Prior work approaches this as a safeguarding problem -- external checks that block non-compliant agent actions. We argue that policy adherence is a broader problem: real workflows unfold across many turns, require explicit user confirmation and prerequisite reads, and hinge on the content of the dialogue rather than on any single argument value. Meeting this bar requires (i) full conversation context, (ii) self-reasoning over the policy and the current dialogue, and (iii) conversation-specific remediation that guides the agent's next turn -- three capabilities that prior safeguard work has often underestimated. We introduce POLICYGUARD, a sub-agent verifier that shares the agent's view of the dialogue, reasons over the policy in context, and provides actionable feedback for the agent's next turn. On tau^2-BENCH airline across three vendors (GPT-5.4, Claude Sonnet 4.6, Gemini 2.5 Pro) with four trials per setting, POLICYGUARD improves PASS4 by +12.0 / +6.0 / +12.0 pp. Per-call analyses show POLICYGUARD achieves higher policy-violation recall while blocking roughly half as often as argument-level guards.
- Abstract（参考訳）: LLMエージェントは、ツールコールを通じて組織に代わってユーザーリクエストを処理し、システムプロンプトに記載された会社のポリシーに従う必要がある。
以前の作業では、非準拠のエージェントアクションをブロックする外部チェックの保護問題として、この問題にアプローチしていた。
実際のワークフローは多くのターンにまたがって展開し、明示的なユーザ確認と前提条件の読み込みを必要とし、単一の引数値ではなく対話の内容にヒンジする。
このバーに会うには
(i)会話の完全な文脈
(二)政策及び現在の対話に関する自己主張、及び
3) エージェントの次のターンを導く会話特有の修復 -- 以前のセーフガード作業が過小評価される3つの機能。
本稿では,エージェントの対話に対する見解,文脈におけるポリシー上の理由,エージェントの次のターンに対して実行可能なフィードバックを提供するサブエージェント検証ツールであるPolicYGUARDを紹介する。
3つのベンダー(GPT-5.4、Claude Sonnet 4.6、Gemini 2.5 Pro)をまたいだTau^2-BENCHの航空会社では、PolicYGUARDはPASS4を+12.0 / +6.0 / +12.0 ppで改善している。
コール毎の分析は、PolicYGUARDがより高いポリシー違反リコールを達成する一方で、引数レベルのガードの約半分をブロックしていることを示している。
関連論文リスト
- Confuse the Model, Control the Flow: Understanding and Mitigating Privacy Leakage from LLM Agents with Information Flow Control [33.97165894442089]
パーソナルAIエージェントは、ユーザのプライベートデータと通信へのアクセスがますます与えられている。
エージェントは、与えられた機密情報が特定の当事者に開示されるべきかどうかを判断しなければならない。
FLOWSEALは、エージェントのコンテキスト外のツールレベルのインターセプターを通じて機密性を強制する防衛システムである。
論文 参考訳（メタデータ） (2026-09-12T15:31:37Z) - PolicyGuide: From Guarding One Action to Guiding the Whole Workflow for Policy-Compliant LLM Agents [46.25624714630383]
PolicyGuideは、各ドメインポリシーをワークフローグラフにコンパイルし、ユーザターンバウンダリでプロアクティブ検証を起動する。
永続的なグラフ状態から、検証者はオープンリクエストを調整し、ポリシーに準拠したパスに沿ってステップ固有の修復を返す。
論文 参考訳（メタデータ） (2026-08-20T10:13:19Z) - How Agents Ask for Permission: User Permissions for AI Agents, from Interfaces to Enforcement [55.966820779528376]
AIエージェントが普及するにつれて、ユーザーはそのようなシステムが抱えるリスクにますますさらされている。
プロンプト・インジェクション・アタックや幻覚は、エージェントに個人情報を第三者にリークさせる可能性がある。
自律システムとして、エージェントは、ユーザの意図や承認なしに、銀行取引のような機密性の高いタスクを実行することの、より積極的な危険性を示す。
論文 参考訳（メタデータ） (2026-07-15T11:36:22Z) - Communication Policy Evolution for Proactive LLM Agents [58.4960889232199]
本稿では,コミュニケーションポリシを形式化し,テキストおよびUIベースのポリシを確立し,さまざまな環境におけるコミュニケーションポリシを評価する。
本稿では,コミュニケーションポリシーをロールアウトとプロンプトレベルの進化を通じて改善するための自己進化フレームワークであるコミュニケーションポリシー進化(CPE)を提案する。
論文 参考訳（メタデータ） (2026-06-12T09:54:01Z) - PolicyBank: Evolving Policy Understanding for LLM Agents [51.86716874651299]
PolicyBankは構造化されたツールレベルの政策洞察を維持し、それらを反復的に洗練する。
PolicyBankは、人間の神託に対するギャップの最大82%を閉じている。
論文 参考訳（メタデータ） (2026-04-16T20:29:30Z) - Policy Compiler for Secure Agentic Systems [20.346157626726725]
本稿では,エージェントシステムのためのポリシーコンパイラであるPCASについて紹介する。
我々はPCASを3つのケーススタディ – インジェクション防衛のための情報フローポリシー、マルチエージェント製薬システムにおける承認、カスタマーサービスのための組織ポリシー – で評価する。
論文 参考訳（メタデータ） (2026-02-18T18:57:12Z) - Analyzing and Internalizing Complex Policy Documents for LLM Agents [53.14898416858099]
大規模言語モデル(LLM)ベースのエージェントシステムは、多様なビジネスルールをコードするコンテキスト内ポリシー文書に依存している。
これは、パフォーマンスを保ちながら、ポリシー文書をモデルプリエントに組み込む内部化手法の開発を動機付けます。
CC-Genは4つのレベルにまたがる制御可能な複雑度を持つエージェントベンチマークジェネレータである。
論文 参考訳（メタデータ） (2025-10-13T16:30:07Z) - PSG-Agent: Personality-Aware Safety Guardrail for LLM-based Agents [60.23552141928126]
PSG-AgentはLLMベースのエージェントのためのパーソナライズされた動的システムである。
まずPSG-Agentは、安定した特性のために相互作用履歴をマイニングすることでパーソナライズされたガードレールを作成する。
第二に、PSG-Agentは特別なガードでエージェントパイプラインを横断する継続的監視を実装している。
論文 参考訳（メタデータ） (2025-09-28T03:31:59Z) - Effective Red-Teaming of Policy-Adherent Agents [10.522087614181745]
タスク指向のLLMベースのエージェントは、適格性やキャンセルルールの返金といった厳格なポリシーを持つドメインで、ますます使われています。
本稿では,個人的利益のためにポリシーに忠実なエージェントを活用することを目的とした,敵対的ユーザに焦点を当てた新たな脅威モデルを提案する。
CRAFTは、ポリシーを意識した説得戦略を利用して、顧客サービスシナリオにおいてポリシーに忠実なエージェントを弱体化させるマルチエージェントのレッドチームシステムである。
論文 参考訳（メタデータ） (2025-06-11T10:59:47Z) - Certifiably Robust Policy Learning against Adversarial Communication in
Multi-agent Systems [51.6210785955659]
多くのマルチエージェント強化学習(MARL)では,エージェントが情報を共有し,適切な判断を下す上でコミュニケーションが重要である。
しかし、ノイズや潜在的な攻撃者が存在する現実世界のアプリケーションに訓練された通信エージェントを配置すると、通信ベースのポリシーの安全性は過小評価されている深刻な問題となる。
本研究では,攻撃者が任意の$CfracN-12$エージェントから被害者エージェントへの通信を任意に変更できる,$N$エージェントを備えた環境を検討する。
論文 参考訳（メタデータ） (2022-06-21T07:32:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。