論文の概要: Empirical Evaluation of Task-Based Permission Scoping Architecture for AI Agents
- arxiv url: http://arxiv.org/abs/2609.15422v1
- Date: Mon, 14 Sep 2026 11:48:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:06.302237
- Title: Empirical Evaluation of Task-Based Permission Scoping Architecture for AI Agents
- Title（参考訳）: AIエージェントのタスクベースパーミッション・スコープ・アーキテクチャの実証評価
- Abstract要約: ロールベースのアクセス制御は、現在のタスクがそれらを使用するかどうかに関わらず、すべてのクレデンシャルが露出する。
以前の作業では、これをタスクコンテキストのミスマッチとして定義し、3ソースのパーミッションアーキテクチャを提案した。
本稿では,数発の訓練を受けたClaude Haiku 4.5に適合する細調整RoBERTa大エンコーダのセキュリティゲートの実装により,その評価を終了する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: AI agents are provisioned the same as employee-owned hosts in many enterprise settings with a static credential set fixed at deployment which includes all permissions the employee role might ever need. Role-based access control made this compromise for human principals because scoping access per task was infeasible. For AI agents, the compromise leaves every credential standing exposed whether or not the current task uses them. These permissions can later be utilised by a compromised or misaligned agent. Prior work (Noyan, 2026) defined this as the task-context mismatch, and proposed a three-source permission architecture which includes role-based permission ceilings, a task permission classifier and policy-based prohibitions, together eliminating the exposure preemptively. The work released a 600-prompt labelled dataset to evaluate it. This paper presents that evaluation end to end by implementing the security gate; a fine-tuned RoBERTa-large encoder which matched few-shot trained Claude Haiku 4.5 on classification quality (macro-F1 0.881 against 0.886, precision 0.897 against 0.842, severity-weighted residual risk 0.63 against 1.12). The results show the trusted component does not need to scale with the agent it supervises, and the scalable-oversight margin for this control method is wide. We also propose an attack-surface elimination metric which shows the role ceiling alone closes 27.9% of the severity-weighted surface and adding the task classifier closes 84.4%. The gap displays security advantages of task-granular access control over role-granular, and AI agents are the first principal type for which the task-granular access control is enforceable because their tasks arrive as machine-readable text. The research establishes task-based access control as a measured, potentially deployable mechanism for reducing attack surface in agentic deployments.
- Abstract（参考訳）: AIエージェントは、多くのエンタープライズ環境で、従業員の役割が必要とするすべてのパーミッションを含む、デプロイ時に固定された静的なクレデンシャルセットで、従業員が所有するホストと同じようにプロビジョニングされる。
ロールベースのアクセス制御は、タスクごとのスコーピングアクセスが不可能であるため、人間のプリンシパルにとってこの妥協を行った。
AIエージェントにとって、この妥協は、現在のタスクがそれらを使用するかどうかに関わらず、すべてのクレデンシャルな立場を露呈する。
これらの許可は後に、妥協された、あるいは不一致したエージェントによって利用することができる。
以前の作業(Noyan, 2026)では、これをタスクコンテキストのミスマッチとして定義し、ロールベースのパーミッション天井、タスク権限分類器、ポリシーベースの禁止を含む3ソースのパーミッションアーキテクチャを提案し、エクスポージャーを予防的に排除した。
研究は600発のラベル付きデータセットを公開し、評価した。
本稿では,セキュリティゲートの実装による評価の終了と,数発の訓練を受けたClaude Haiku 4.5に適合する細調整のRoBERTa大エンコーダについて述べる(macro-F1 0.881 against 0.886,precision 0.897 against 0.842,重度重み付き残余リスク0.63 against 1.12)。
その結果、信頼性の高いコンポーネントは、監督するエージェントとスケールする必要がなく、この制御方法のスケーラブルなオーバストマージンは広いことを示している。
また,重厚表面の27.9%がロール天井のみを閉じ,84.4%がタスク分類器を閉じていることを示す攻撃面除去指標を提案する。
このギャップは、タスク・グラニュラアクセス制御のセキュリティ上の利点を示しており、AIエージェントはタスク・グラニュラアクセス制御が機械可読テキストとして提供されるため、タスク・グラニュラアクセス制御が強制可能な最初のプリンシパルタイプである。
本研究は,エージェント配置における攻撃面の低減のための,タスクベースのアクセス制御を計測し,潜在的に展開可能な機構として確立する。
関連論文リスト
- MasDrift: Benchmarking Authorization Preservation Across Multi-Agent Architectures [23.859862132370168]
MasDriftは8つのドメインにまたがる600の生産性タスクのベンチマークである。
MasDriftは、階層の深さとピア幅を変えながら、単一エージェント、集中型、分散化されたコーディネーションを比較する。
我々は,認証証拠の在り処で異なる2つの防衛措置を比較した。一方は,元のユーザ要求に待ち受けている毎回再審理を行い,もう一方はデリゲートチェーンに沿って緩和された政策を実行する。
論文 参考訳（メタデータ） (2026-08-02T04:46:15Z) - Dynamic Capability Scoping for Enterprise AI Agents: A Synthetic Dataset and Three-Source Permission Architecture [0.0]
能動スコープは動的に最小限の原理を踏襲し、検出前に予防機構として扱う必要があると我々は主張する。
エージェントの文脈に存在しないクレデンシャルは、エージェントの推論にかかわらず誤用することはできない。
我々は、多部門企業政策に基づく600のエンタープライズタスクプロンプトの合成データセットをコントリビュートする。
論文 参考訳（メタデータ） (2026-07-24T16:08:03Z) - AgentAbstain: Do LLM Agents Know When Not to Act? [19.223843408018997]
既存の評価は、エージェントがいつ禁じるべきかを知るのではなく、タスクの成功に焦点を当てている。
エージェント禁忌のための最初の体系的評価枠組みとして,ツールを用いたLDMエージェントの動作を検知するキャリブレーション能力について述べる。
AgentAbstainは、エージェントネイティブな分類に基づくペアタスクのベンチマークである。
論文 参考訳（メタデータ） (2026-07-11T00:57:36Z) - Decentralized Granular Access Control for Agentic AI Systems in Critical Infrastructure [0.205246094017924]
本稿では,重要なクラウドインフラで動作するエージェントAIシステムを対象とした分散多層アクセス制御アーキテクチャを提案する。
非決定論的アクターによる特権エスカレーションを防止するために,アクセスパターンの分布,否定率,層状認証の有効性に関する実証データを提示する。
論文 参考訳（メタデータ） (2026-06-14T20:32:47Z) - A New Framework for Cybersecurity Refusals in AI Agents [52.94784168139071]
攻撃的セキュリティの文脈において、拒絶境界を確立するための最初の枠組みを提示する。
本研究では,現在のLLMエージェントがWebベースの攻撃的セキュリティシナリオにおいて,適切な拒絶境界にどのように準拠しているかを評価するために,このフレームワークを適用した。
論文 参考訳（メタデータ） (2026-05-31T15:39:39Z) - CHI-Bench: Can AI Agents Automate End-to-End, Long-Horizon, Policy-Rich Healthcare Workflows? [150.84850629123287]
現実的な医療業務のエンドツーエンドの自動化は、現在のベンチマークで不足している3つの機能を強調します。
$-Benchは3つのドメインにわたる長期医療のベンチマークである。
30以上のエージェントハーネス/モデル構成で、最高のエージェントはタスクの28.0%しか解決せず、厳格なパス3では20%をクリアし、単一のセッションですべてのタスクを実行するとパフォーマンスは3.8%に低下する。
論文 参考訳（メタデータ） (2026-05-15T22:34:31Z) - Auditing Agent Harness Safety [81.22315979618612]
LLMエージェントは、ツールをディスパッチし、リソースを割り当て、特別なコンポーネント間でメッセージをルーティングする実行ハーネスの中でますます動作します。
ほとんどの安全ベンチマークは最終出力または終端状態のみをスコアするが、多くの違反は終端ではなく、軌道の途中で発生する。
HarnessAuditは、境界コンプライアンス、実行の忠実さ、システムの安定性など、完全な実行軌跡を監査するフレームワークである。
論文 参考訳（メタデータ） (2026-05-14T02:14:28Z) - LanG -- A Governance-Aware Agentic AI Platform for Unified Security Operations [2.1142550386295853]
本稿では,LLM支援ネットワークガバナンス(LanG)について述べる。
プラットフォームはマルチテナントアイソレーション、ロールベースのアクセス、完全にローカルなデプロイメントをサポートする。
精密な異常検出と脅威検出は、侵入検出ベンチマークでそれぞれ99.0%と91.0%の重み付きF1スコアを達成する。
論文 参考訳（メタデータ） (2026-04-07T05:22:25Z) - Security Challenges in AI Agent Deployment: Insights from a Large Scale Public Competition [101.86739402748995]
44の現実的なデプロイメントシナリオを対象とした,22のフロンティアAIエージェントを対象にしています。
Agent Red Teamingベンチマークを構築し、19の最先端モデルで評価します。
私たちの発見は、今日のAIエージェントの重要かつ永続的な脆弱性を浮き彫りにしたものです。
論文 参考訳（メタデータ） (2025-07-28T05:13:04Z) - OpenAgentSafety: A Comprehensive Framework for Evaluating Real-World AI Agent Safety [58.201189860217724]
OpenAgentSafetyは,8つの危機リスクカテゴリにまたがるエージェントの動作を評価する包括的なフレームワークである。
従来の作業とは異なり、我々のフレームワークは、Webブラウザ、コード実行環境、ファイルシステム、bashシェル、メッセージングプラットフォームなど、実際のツールと対話するエージェントを評価します。
ルールベースの分析とLSM-as-judgeアセスメントを組み合わせることで、過度な行動と微妙な不安全行動の両方を検出する。
論文 参考訳（メタデータ） (2025-07-08T16:18:54Z) - SafeAgentBench: A Benchmark for Safe Task Planning of Embodied LLM Agents [58.65256663334316]
我々は,対話型シミュレーション環境におけるLLMエージェントの安全性を考慮したタスク計画のための最初のベンチマークであるSafeAgentBenchを紹介する。
SafeAgentBenchは、(1)10の潜在的な危険と3つのタスクタイプをカバーするために厳格にキュレートされた750のタスクの実行可能な多種多様な高品質データセット、(2)低レベルコントローラを備えた普遍的な実施環境、9つの最先端ベースラインに対して17のハイレベルアクションでマルチエージェント実行をサポートするSafeAgentEnv、(3)実行とセマンティックの両方の観点から信頼性の高い評価方法を含む。
論文 参考訳（メタデータ） (2024-12-17T18:55:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。