論文の概要: PolicyGuide: From Guarding One Action to Guiding the Whole Workflow for Policy-Compliant LLM Agents
- arxiv url: http://arxiv.org/abs/2608.19861v1
- Date: Thu, 20 Aug 2026 10:13:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-21 20:28:51.528729
- Title: PolicyGuide: From Guarding One Action to Guiding the Whole Workflow for Policy-Compliant LLM Agents
- Title（参考訳）: PolicyGuide: 1つのアクションのガードからポリシー準拠のLLMエージェントの全体ワークフローのガイドまで
- Abstract要約: PolicyGuideは、各ドメインポリシーをワークフローグラフにコンパイルし、ユーザターンバウンダリでプロアクティブ検証を起動する。
永続的なグラフ状態から、検証者はオープンリクエストを調整し、ポリシーに準拠したパスに沿ってステップ固有の修復を返す。
- 参考スコア（独自算出の注目度）: 46.25624714630383
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Customer-service LLM agents must follow organizational policy when acting on a user's behalf. Compliance failures arise from either forbidden actions, such as granting an ineligible change, or omitted procedural requirements, such as identification or confirmation. Runtime safeguards can intervene on risky actions, but action-local checks do not guide an agent through a multi-step procedure. Workflow-following systems support prescribed process execution, but primarily target workflow completion rather than safeguarding agent behavior. PolicyGuide instead compiles each domain policy into a workflow graph and invokes a proactive verifier at user-turn boundaries. From persisted graph state, the verifier reconciles open requests and returns step-specific remediation along a policy-compliant path. Across the $τ^2$-bench airline, retail, and telecom domains with a GPT-5.4 agent and verifier, PolicyGuide raises mean $\mathrm{Pass}^4$ from $0.42$ to $0.62$, with the largest gain on telecom ($0.19$ to $0.61$), the most workflow-structured domain. The same workflows transfer to Claude Sonnet 4.6 and Gemini 2.5 Pro agents. Complementary evaluations find the lowest observed attack-success rate under adversarial users and the strongest procedural compliance in an author-designed workflow-level validation.
- Abstract（参考訳）: 顧客サービスLLMエージェントは、ユーザの代理として行動する際には、組織的なポリシーに従う必要がある。
コンプライアンスの失敗は、不適格な変更を与えるなどの禁止された行為や、識別や確認のような手続き上の要件を省略することから生じる。
実行時のセーフガードはリスクのあるアクションに介入できるが、アクションローカルチェックはエージェントを多段階の手順で誘導しない。
ワークフロー追従システムは、所定のプロセスの実行をサポートするが、主にエージェントの動作を保護するのではなく、ワークフローの完了をターゲットにしている。
PolicyGuideは代わりに、各ドメインポリシーをワークフローグラフにコンパイルし、ユーザターンバウンダリでプロアクティブ検証を起動する。
永続的なグラフ状態から、検証者はオープンリクエストを調整し、ポリシーに準拠したパスに沿ってステップ固有の修復を返す。
GPT-5.4エージェントと検証器によって、τ^2$-benchの航空会社、小売、テレコムのドメイン全体で、PhysgyGuideは、平均$\mathrm{Pass}^4$を$0.42$から$0.62$に引き上げ、テレコムの最大の利益(0.19$から$0.61$)はワークフロー構造化ドメインである。
同じワークフローはClaude Sonnet 4.6とGemini 2.5 Proエージェントに転送される。
補足的評価では、敵のユーザに対して最も低い攻撃率と、著者が設計したワークフローレベルの検証において最も高い手続き的コンプライアンスが示される。
関連論文リスト
- LMSM: LLM Security Framework Inspired by Linux Security Modules [56.93644694627783]
大規模言語モデル(LLM)は階層化されたディフェンスでデプロイされることが多いが、悪意のあるプロンプトはそれらをバイパスすることができる。
我々は,Language Model Security Modules (LMSM) という,Linux Security Modules (LSM) の背後にある分離を LLM サービスに適応させるセキュリティフレームワークを提案する。
論文 参考訳（メタデータ） (2026-08-26T12:13:05Z) - StepGuard: Learning Step-Level Guardrails with Scalable Supervision and Safety-Utility Balancing [80.39644823192113]
StepGuardは、完了したエージェントの軌跡を監査し、実行前にツールアクションをチェックするステップレベルのガードモデルである。
StepGuardは、GPT-5.4に匹敵するパフォーマンスで、オープンウェイトガードモデルの中で最高の平均精度を達成した。
AgentDojoとAgentDynのエージェントを保護するために使用される場合、StepGuardは平均攻撃成功率を77.3%削減する。
論文 参考訳（メタデータ） (2026-08-25T16:17:27Z) - AgentFlow: A Flow-Centric Policy Language and Framework for Securing LLM Agent Systems [7.734540679538682]
LLMエージェントはますます信頼できないコンテンツを読み、外部ツールを呼び出し、プライベートデータにアクセスし、他のエージェントに作業を委譲する。
本稿では,エージェントシステム内のデータ移動場所を特定するための,フロー中心のポリシー言語であるAgentFlowについて述べる。
論文 参考訳（メタデータ） (2026-08-24T06:56:00Z) - OpenAgentFlow: Enabling System-Wide Safety Boundaries for Heterogeneous AI Agent Fleets [30.42587289236515]
制御プレーン/アクションプレーンアーキテクチャであるOpenAgentFlowについて述べる。
GUI、API、ツール、LLM生成アクションは共通のAgentEventストリームに正規化され、共有事前実行ポリシー実行ポイントによって仲介される。
これにより、互換性のないエグゼクタ間で共通のガバナンス層が提供され、エージェント、プロンプト、モデル、実行パスを変更することなく、新しいポリシーが有効になる。
論文 参考訳（メタデータ） (2026-08-14T02:55:59Z) - PolicyGuard: A Dialogue-Grounded Sub-Agent Verifier for Policy Adherence in LLM Agents [46.25624714630383]
LLMエージェントは、ツールコールを通じて、組織に代わってユーザーリクエストを処理する。
外部チェックは非準拠のエージェントアクションをブロックする。
本稿では,エージェントの対話に対する見解,文脈におけるポリシー上の理由,エージェントの次のターンに対して実行可能なフィードバックを提供するサブエージェント検証ツールであるPolicYGUARDを紹介する。
論文 参考訳（メタデータ） (2026-06-28T06:27:36Z) - Governance by Construction for Generalist Agents [7.48004748585128]
このデモでは、CUGAのポリシ・アズ・コード・レイヤであるポリシ・アズ・コード・レイヤを紹介し、ジェネラリストエージェントと組み合わせて予測可能、監査可能、コンプライアンス対応の振る舞いを提供する。
実行の重要なすべての段階において、ポリシーの介入を強制するガバナンスアーキテクチャを提案する。
論文 参考訳（メタデータ） (2026-05-20T08:13:16Z) - Near-Miss: Latent Policy Failure Detection in Agentic Workflows [9.719140082591956]
エージェントの会話トレースにおける遅延ポリシー障害を検出するための新しい指標を提案する。
その結果,ツールコールの変異を伴う軌道の8～17%に潜伏障害がみられた。
論文 参考訳（メタデータ） (2026-03-31T12:26:35Z) - Authenticated Workflows: A Systems Approach to Protecting Agentic AI [0.0]
企業エージェントAIのための,最初の完全信頼層である認証を導入します。
我々は、すべての境界交差において、意図(組織方針を満たす操作)と整合性(操作は暗号的に真である)を強制する。
これにより、決定論的セキュリティ操作が提供され、有効な暗号証明が実行されるか、拒否される。
論文 参考訳（メタデータ） (2026-02-11T03:04:50Z) - Towards Policy-Compliant Agents: Learning Efficient Guardrails For Policy Violation Detection [25.53228630260007]
PolicyGuardBenchは、エージェントのトラジェクトリにおけるポリシー違反を検出するための約60kのサンプルのベンチマークである。
PolicyGuard-4Bは軽量のガードレールモデルであり、すべてのタスクに対して強力な検出精度を提供する。
PolicyGuardBench と PolicyGuard-4B は、Webエージェントのトラジェクトリにおけるポリシーコンプライアンスを研究するための、最初の包括的なフレームワークを提供する。
論文 参考訳（メタデータ） (2025-10-03T20:03:19Z) - PSG-Agent: Personality-Aware Safety Guardrail for LLM-based Agents [60.23552141928126]
PSG-AgentはLLMベースのエージェントのためのパーソナライズされた動的システムである。
まずPSG-Agentは、安定した特性のために相互作用履歴をマイニングすることでパーソナライズされたガードレールを作成する。
第二に、PSG-Agentは特別なガードでエージェントパイプラインを横断する継続的監視を実装している。
論文 参考訳（メタデータ） (2025-09-28T03:31:59Z) - Progent: Programmable Privilege Control for LLM Agents [46.31581986508561]
本稿では,大規模言語モデルエージェントをセキュアにするための最初の特権制御フレームワークであるProgentを紹介する。
Progentは、潜在的に悪意のあるものをブロックしながら、ユーザタスクに必要なツールコールの実行をエージェントに制限することで、ツールレベルでのセキュリティを強化する。
モジュール設計のおかげで、Progentの統合はエージェント内部を変更せず、既存のエージェントの実装に最小限の変更しか必要としません。
論文 参考訳（メタデータ） (2025-04-16T01:58:40Z) - SOPBench: Evaluating Language Agents at Following Standard Operating Procedures and Constraints [59.645885492637845]
SOPBenchは、各サービス固有のSOPコードプログラムを実行可能な関数の有向グラフに変換する評価パイプラインである。
提案手法では,各サービス固有のSOPコードプログラムを実行可能関数の有向グラフに変換し,自然言語SOP記述に基づいてこれらの関数を呼び出しなければならない。
我々は18の先行モデルを評価し、上位モデルでさえタスクが困難であることを示す。
論文 参考訳（メタデータ） (2025-03-11T17:53:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。