論文の概要: Dynamic Capability Scoping for Enterprise AI Agents: A Synthetic Dataset and Three-Source Permission Architecture
- arxiv url: http://arxiv.org/abs/2607.22445v1
- Date: Fri, 24 Jul 2026 16:08:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-27 20:58:57.176266
- Title: Dynamic Capability Scoping for Enterprise AI Agents: A Synthetic Dataset and Three-Source Permission Architecture
- Title（参考訳）: エンタープライズAIエージェントのための動的機能スコープ: 合成データセットと3ソースパーミッションアーキテクチャ
- Abstract要約: 能動スコープは動的に最小限の原理を踏襲し、検出前に予防機構として扱う必要があると我々は主張する。
エージェントの文脈に存在しないクレデンシャルは、エージェントの推論にかかわらず誤用することはできない。
我々は、多部門企業政策に基づく600のエンタープライズタスクプロンプトの合成データセットをコントリビュートする。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Enterprise AI agents are typically granted static credential sets at configuration time, holding every tool the role might need for every task they perform. This persistent over-privilege expands the attack surface. We argue that capability scoping must follow a dynamic least-privilege principle and be treated as a prevention mechanism before a detection one. A credential that does not exist in an agent's context cannot be misused regardless of the agent's reasoning or evasion sophistication. We outline a three-source architecture instantiating this principle: role-based ceilings, a task-context classifier, and policy-derived combination prohibitions creating a layered proactive defense against LLM agent misalignment and misuse cases. The architecture supports both enforcing and observe-only deployment; the latter records agent permission requests inconsistent with task context, producing a behavioral signal usable in misalignment research. As a first step toward evaluating this architecture, we contribute a synthetic dataset of 600 enterprise task prompts grounded in a multi-department company policy, labeled with minimum required permissions across a 15-permission tool-based taxonomy that maps directly to deployable credentials or enforceable guardrails. The dataset is constructed via a two-pass pipeline that separates prompt generation from permission labeling to avoid circularity, and is validated against a 60-record/688 decisions human-reviewed sample (Cohen's $κ= 0.917$ pre-review and $κ= 0.967$ post-review). Iterating between dataset and policy reduced ceiling violations from 46 to 3, a 93% reduction. This shows that synthetic prompt generation can drive policy refinement when the two are developed together. The dataset, environment specification, and generation pipeline are released to support evaluation of dynamic scoping mechanisms.
- Abstract（参考訳）: エンタープライズAIエージェントは、通常、設定時に静的なクレデンシャルセットが与えられ、その役割が実行するすべてのタスクに必要なすべてのツールを保持する。
この永続的な過剰特権は、攻撃面を広げる。
能動スコープは動的に最小限の原理に従わなければならず、検出前に予防機構として扱う必要があると我々は主張する。
エージェントの文脈に存在しない資格は、エージェントの推論や回避技術にかかわらず、誤用することはできない。
ロールベースの天井,タスクコンテキスト分類器,およびポリシーに基づく組み合わせの禁止により,LCMエージェントのミスアライメントや誤用に対する積極的防御が図られている。
アーキテクチャは、強制と観察のみのデプロイメントの両方をサポートし、後者は、エージェントの許可要求をタスクコンテキストと一致せず記録し、誤った調整研究で使用可能な行動信号を生成する。
このアーキテクチャを評価するための第一歩として、デプロイ可能な認証情報や強制可能なガードレールに直接マップする15の認証ツールに基づく分類において、最小限の許可をラベル付けした、多部門企業ポリシーに基づく600のエンタープライズタスクプロンプトの合成データセットを寄贈する。
データセットは、パーミッションラベリングから即時生成を分離して円形を避ける2パスパイプラインで構築され、60-record/688の人間レビュー済みのサンプルに対して検証される(Cohenの$κ=0.917$pre-reviewと$κ=0.967$ post-review)。
データセットとポリシーの反復は、天井違反を46から3に減らし、93%削減した。
このことは、合成的なプロンプト生成が、これら2つを一緒に開発する際にポリシーの洗練を促進することを示している。
データセット、環境仕様、生成パイプラインがリリースされ、動的スコープ機構の評価をサポートする。
関連論文リスト
- Authorization Architectures for Tool-Using AI Agents [0.0]
信頼できる人間-AIシステムは、すべての連続エージェントアクションが人間のプリンシパルにトレース可能であることを要求する。
このレビューでは、人間のユーザ、オペレータ/デプロイ、オーケストレータエージェント、サブエージェント、ツールエンドポイントにまたがる主要な階層について紹介する。
提案する7つの構造的要件は,4層参照アーキテクチャを導出し,その要件を3つのデプロイ可能な参照構成に適用し,実行時強制とアグリゲーション境界を主要な未解決ギャップとして同定する。
論文 参考訳（メタデータ） (2026-09-14T17:21:22Z) - Formal Verification of Agentic Systems over Operational Data [59.98246281888422]
大規模言語モデル(LLM)によって駆動されるエージェントシステムは、永続的な運用データを扱う現実世界にますます展開されている。
既存のアプローチはそのようなシステムレベルの保証を提供していません。
本稿では, 1 つの LLM とツールオーケストレーションハーネスからなるエージェントシステムのリレーショナル操作データに対する検証について述べる。
論文 参考訳（メタデータ） (2026-08-04T13:01:30Z) - ScrambleToolBench: Agents Search Exhaustively Even When Their Own Map Points to the Next Step [74.83535434786145]
ScrambleToolBenchは,行動推論の分離を目的とした対話型端末ベンチマークである。
このベンチマークでは、エージェントがテストとエラーのインタラクションを通じて、隠されたツールの振る舞いを明らかにする必要がある。
現状の言語モデルに対する我々の評価は、初期発見が成功しても頑健な適応にはならないことを示している。
論文 参考訳（メタデータ） (2026-08-03T15:07:46Z) - Agentic Permissions Policy Algebra for Taint Confinement in LLM Agents [0.0]
従来のテナント追跡は、未確認データを読み取る際にエージェントのコンテキストを永久に汚染する。
本稿では,エンジン管理型コンテキスト分岐によるユーザビリティボトルネックを解決するためのIFCフレームワークであるAPPAを提案する。
我々は4つのモデルにまたがるマルチターンツールチェインベンチマークでAPPAを評価した。
論文 参考訳（メタデータ） (2026-07-27T16:19:45Z) - PRIMA: Operational Patterns for Resilient Multi-Agent Research with Verifiable Identity and Convergent Feedback [0.0]
PRIMAは、複数時間にわたる協調型マルチエージェント研究システムとして運用されている。
主なコントリビューションは、生存可能な障害モードのための3つの運用パターンである。
グラフ同型ケーススタディは、生成されたアーティファクトのアーキテクチャ的クレームを根拠にしている。
論文 参考訳（メタデータ） (2026-05-23T23:27:46Z) - Securing LLM Agents Need Intent-to-Execution Integrity [49.490963596514185]
我々は, LLMエージェントの確保には, エージェントの実行がユーザの意図を忠実に反映した場合に規定するエンドツーエンドの正当性を定義する必要があると主張している。
LLMエージェントはコンパイラと構造的に類似しており、セキュリティ違反はユーザ意図を保存しない誤った実行に対応する。
emphTool整合性、emph命令整合性、emphJudgment整合性、emphData整合性。
論文 参考訳（メタデータ） (2026-05-16T12:53:31Z) - PRISM: : Planning and Reasoning with Intent in Simulated Embodied Environments [59.07829883257003]
5つの集合住宅の上に建設され、PRISMは300の人間認証タスクを3つの能力レベルに構成する。
PRISMはエージェントに依存しない実行可能なアクションAPIを公開し、任意のエージェントをエンドツーエンドで評価できるようにする。
論文 参考訳（メタデータ） (2026-05-12T04:59:47Z) - Securing the Agent: Vendor-Neutral, Multitenant Enterprise Retrieval and Tool Use [0.0]
本稿では,ポリシー意識の取り込み,検索時間ゲーティング,共有推論を組み合わせた階層型分離アーキテクチャを提案する。
このアプローチは、サーバ上でのセキュリティクリティカルなオペレーション – ツール実行承認、ステートアイソレーション、ポリシ執行 – を集中化します。
我々はこれを実証的に評価し、ABACゲーティングは無視可能なオーバーヘッドを導入しながら、テナント間のリークを排除していることを示す。
論文 参考訳（メタデータ） (2026-05-06T17:59:21Z) - Semantic Intent Fragmentation: A Single-Shot Compositional Attack on Multi-Agent AI Pipelines [0.9772267314090434]
LLMオーケストレーションシステムに対する攻撃クラスとして,SIF(Semantic Intent Fragmentation)を導入する。
SIFは、バルクスコープ、サイレントデータ抽出、組み込みトリガデプロイメント、擬似識別アグリゲーションの4つのメカニズムを利用する。
GPT-20Bオーケストレータは71%のケースでポリシー違反の計画を作成し、各サブタスクは良心的に見える。
論文 参考訳（メタデータ） (2026-04-08T18:19:03Z) - Dynamic analysis enhances issue resolution [53.50448142467294]
DAIRA(Dynamic Analysis-enhanced Issue Resolution Agent)は、エージェントの推論サイクルに動的解析を組み込む自動修復フレームワークである。
テストトレース駆動の方法論によって駆動されるDAIRAは、軽量モニタを使用して重要なランタイムデータを抽出する。
Gemini 3 Flash Previewを使用すると、DAIRAは新たな最先端(SOTA)パフォーマンスを確立し、SWE-bench Verifiedデータセットで79.4%の解像度を達成する。
論文 参考訳（メタデータ） (2026-03-23T14:48:54Z) - Agentic Peer-to-Peer Networks: From Content Distribution to Capability and Action Sharing [10.47562113256175]
本稿では,このようなコラボレーションの実現に必要なネットワーク基盤について概説する。
本稿では,接続/ID,意味発見,実行を分離する平面型参照アーキテクチャを提案する。
Tier1は評判信号に依存し、Tier2はフォールバック選択で軽量なカナリアチャレンジ応答を適用し、Tier3は署名されたツールレシートやトラスのようなエビデンスパッケージを必要とします。
論文 参考訳（メタデータ） (2026-03-04T05:58:44Z) - BackdoorAgent: A Unified Framework for Backdoor Attacks on LLM-based Agents [58.83028403414688]
大規模言語モデル(LLM)エージェントは、計画、メモリ、ツールの使用を組み合わせた多段階ワークフローを通じてタスクを実行する。
エージェントワークフローの特定のステージに注入されたバックドアトリガーは、複数の中間状態を通して持続し、下流出力に悪影響を及ぼす可能性がある。
LLMエージェントにおけるバックドア脅威を統一したエージェント中心のビューを提供するモジュールおよびステージアウェアフレームワークである textbfBackdoorAgent を提案する。
論文 参考訳（メタデータ） (2026-01-08T03:49:39Z) - Analyzing and Internalizing Complex Policy Documents for LLM Agents [53.14898416858099]
大規模言語モデル(LLM)ベースのエージェントシステムは、多様なビジネスルールをコードするコンテキスト内ポリシー文書に依存している。
これは、パフォーマンスを保ちながら、ポリシー文書をモデルプリエントに組み込む内部化手法の開発を動機付けます。
CC-Genは4つのレベルにまたがる制御可能な複雑度を持つエージェントベンチマークジェネレータである。
論文 参考訳（メタデータ） (2025-10-13T16:30:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。