論文の概要: Sapien: A Stateful Policy Engine for Autonomous AI Agents
- arxiv url: http://arxiv.org/abs/2610.00797v1
- Date: Wed, 30 Sep 2026 22:40:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:23.798023
- Title: Sapien: A Stateful Policy Engine for Autonomous AI Agents
- Title（参考訳）: Sapien: 自律AIエージェントのためのステートフルなポリシーエンジン
- Abstract要約: 私たちは、ステートフルなコンテキストポリシーを実施するためのポリシーエンジンであるSapienを紹介します。
Sapienポリシーは、正規表現を使用して許可されたツール呼び出しシーケンスを指定する。
エージェントが完全にハイジャックされたとしても、SapienのポリシーはAgentDojoに対する93～95%、Toolathlonに対する62～85%の攻撃を除外する。
- 参考スコア（独自算出の注目度）: 7.602591657655981
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Contextual security defenses prevent AI agents from taking rogue actions by synthesizing a task-specific policy and enforcing it on the agent's tool calls. In multi-step tasks, however, which actions are valid often depends on what the agent has already done and learned. We present Sapien, a policy engine for enforcing stateful contextual policies. A Sapien policy specifies permitted tool-call sequences using a regular expression extended with stateful predicates, deferred policy generation, and scoped semantic checks. We show that Sapien stays within a few percent of an unconstrained agent's utility. Even if the agent is fully hijacked, Sapien's policies rule out 93-95% of attacks on AgentDojo and 62-85% on Toolathlon (twice as many as tool allowlists on long-horizon tasks).
- Abstract（参考訳）: コンテキストセキュリティディフェンスは、AIエージェントがタスク固有のポリシーを合成し、エージェントのツールコールにそれを強制することによって、不正なアクションを取るのを防ぐ。
しかし、マルチステップタスクでは、どのアクションが有効なのかは、エージェントが既に何をし、学んだかによって異なります。
私たちは、ステートフルなコンテキストポリシーを実施するためのポリシーエンジンであるSapienを紹介します。
Sapienポリシーは、ステートフルな述語、遅延ポリシー生成、スコープ付きセマンティックチェックで拡張された正規表現を使用して許可されたツール呼び出しシーケンスを指定する。
サピエンは制約のないエージェントのユーティリティの 数パーセント に留まっていることを示す。
エージェントが完全にハイジャックされたとしても、Sapienのポリシーでは、AgentDojoに対する攻撃の93-95%と、Toolathlonに対する62-85%を除外している。
関連論文リスト
- How Agents Ask for Permission: User Permissions for AI Agents, from Interfaces to Enforcement [55.966820779528376]
AIエージェントが普及するにつれて、ユーザーはそのようなシステムが抱えるリスクにますますさらされている。
プロンプト・インジェクション・アタックや幻覚は、エージェントに個人情報を第三者にリークさせる可能性がある。
自律システムとして、エージェントは、ユーザの意図や承認なしに、銀行取引のような機密性の高いタスクを実行することの、より積極的な危険性を示す。
論文 参考訳（メタデータ） (2026-07-15T11:36:22Z) - Capable but Careless: Do Computer-Use Agents Follow Contextual Integrity? [54.701199583505144]
アプリケーション間アクセスは、ほとんど見落とされたプライバシーリスクを生み出す。
我々はAgentCIBenchを紹介します。これは、このリスクを決定論的に評価されたシナリオに変換する評価ハーネスです。
我々は15のフロンティアエージェントを評価し、驚くほど高い失敗率を見出す。
論文 参考訳（メタデータ） (2026-06-22T11:36:58Z) - LedgerAgent: Structured State for Policy-Adherent Tool-Calling Agents [39.819141036179225]
サービスドメイン内のポリシーに準拠したツール呼び出しエージェントは、ツールを呼び出し、ドメインポリシーに従う間、順番にタスク状態を維持する必要があります。
textscLedgerAgentは、異なる台帳内の観察されたタスク状態を保持し、その状態にプロンプトをレンダリングするツール呼び出しエージェントの推論時メソッドである。
論文 参考訳（メタデータ） (2026-06-18T17:41:56Z) - AgentWall: A Runtime Safety Layer for Local AI Agents [0.0]
AgentWallは、ローカルAIエージェントのランタイム安全性と可観測性レイヤである。
ホスト環境に到達する前に提案されたすべてのエージェントアクションをインターセプトし、明示的な宣言的なポリシーで評価し、機密性の高い操作に対して人間の承認を必要とし、監査と再生のための完全な実行パスを記録します。
本稿では,AgentWallの設計,アーキテクチャ,脅威モデル,およびポリシーモデルについて述べる。
論文 参考訳（メタデータ） (2026-03-24T11:39:35Z) - SkillJect: Automating Stealthy Skill-Based Prompt Injection for Coding Agents with Trace-Driven Closed-Loop Refinement [120.52289344734415]
エージェントスキルに適したステルスプロンプトインジェクションのための自動フレームワークを提案する。
フレームワークは、明示的なステルス制約の下でインジェクションスキルを合成するアタックエージェント、インジェクションされたスキルを使用してタスクを実行するコードエージェント、アクショントレースをログする評価エージェントの3つのエージェントでクローズドループを形成する。
本手法は,現実的な環境下で高い攻撃成功率を達成する。
論文 参考訳（メタデータ） (2026-02-15T16:09:48Z) - ceLLMate: Sandboxing Browser AI Agents [16.060034673487287]
本稿では,ブラウザレベルのサンドボックスフレームワークであるceLLMateを提案する。
ceLLMateは、ウェブサイトが発行する必須ポリシーと、ユーザの自然言語タスクからこれらのポリシーを適応およびインスタンス化する自動ポリシー予測レイヤをペアリングする。
エージェントに依存しないブラウザ拡張としてceLLMateを実装し、サンドボックスポリシーによって様々な種類のプロンプトインジェクション攻撃を無視可能なオーバーヘッドで効果的にブロックできることを実証する。
論文 参考訳（メタデータ） (2025-12-14T08:25:31Z) - Progent: Programmable Privilege Control for LLM Agents [46.31581986508561]
本稿では,大規模言語モデルエージェントをセキュアにするための最初の特権制御フレームワークであるProgentを紹介する。
Progentは、潜在的に悪意のあるものをブロックしながら、ユーザタスクに必要なツールコールの実行をエージェントに制限することで、ツールレベルでのセキュリティを強化する。
モジュール設計のおかげで、Progentの統合はエージェント内部を変更せず、既存のエージェントの実装に最小限の変更しか必要としません。
論文 参考訳（メタデータ） (2025-04-16T01:58:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。