論文の概要: How Agents Ask for Permission: User Permissions for AI Agents, from Interfaces to Enforcement
- arxiv url: http://arxiv.org/abs/2607.13718v2
- Date: Mon, 20 Jul 2026 11:32:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-21 14:24:57.50495
- Title: How Agents Ask for Permission: User Permissions for AI Agents, from Interfaces to Enforcement
- Title（参考訳）: エージェントが許可を求める方法:AIエージェントのユーザ許可、インターフェースから施行まで
- Authors: Alexandra E. Michael, Franziska Roesner,
- Abstract要約: AIエージェントが普及するにつれて、ユーザーはそのようなシステムが抱えるリスクにますますさらされている。
プロンプト・インジェクション・アタックや幻覚は、エージェントに個人情報を第三者にリークさせる可能性がある。
自律システムとして、エージェントは、ユーザの意図や承認なしに、銀行取引のような機密性の高いタスクを実行することの、より積極的な危険性を示す。
- 参考スコア（独自算出の注目度）: 55.966820779528376
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As AI agents gain prevalence, users are increasingly exposed to the risks such systems entail. Prompt injection attacks, as well as hallucination, can cause agents to leak private information to third parties. As autonomous systems, agents also present the more active danger of performing sensitive tasks, such as bank transactions, without the user's intent or authorization. Recognizing this challenge, the agentic security community has developed numerous proposals for secure agentic systems. Much of this work has focused on product-level approaches, where agentic system developers determine and apply the same security policies and permissions to all users. Yet different users have different needs and preferences, necessitating support for user-level permissions policies in agentic AI systems. To understand how user-level permissions are handled in AI agent systems, we survey 21 proposals for agent permissions systems. From this review, we construct a taxonomy of how different systems specify user-level permissions policies, both at the user interface and internally; derive internal policies from user input; and enforce those policies at run-time. We then analyze five prominent commercial agents and compare their permissions handling to agentic permissions systems in the literature. We identify several high-level themes across the literature and commercial agents, as well as multiple gaps where future work is needed.
- Abstract（参考訳）: AIエージェントが普及するにつれて、ユーザーはそのようなシステムが抱えるリスクにますますさらされている。
プロンプト・インジェクション・アタックや幻覚は、エージェントに個人情報を第三者にリークさせる可能性がある。
自律システムとして、エージェントは、ユーザの意図や承認なしに、銀行取引のような機密性の高いタスクを実行するという、より積極的な危険性も示します。
この課題を認識して、エージェントセキュリティコミュニティは、セキュアなエージェントシステムの提案を多数開発した。
この作業の多くは、エージェントシステム開発者が同じセキュリティポリシと権限をすべてのユーザに対して決定し、適用する、製品レベルのアプローチに重点を置いています。
しかし、異なるユーザーは異なるニーズと好みを持ち、エージェントAIシステムでユーザーレベルのパーミッションポリシーをサポートする必要がある。
AIエージェントシステムにおいて,ユーザレベルのパーミッションがどのように扱われるかを理解するため,エージェントパーミッションシステムに対する21の提案を調査した。
本稿では,ユーザインターフェースと内部の両方において,異なるシステムがユーザレベルのパーミッションポリシーをどのように規定するかの分類を構築し,ユーザ入力から内部ポリシーを導出し,それらのポリシーを実行時に強制する。
次に5つの著名な商業エージェントを分析し、それらのパーミッション処理を文学におけるエージェントパーミッションシステムと比較する。
文献や商業エージェントにまたがるいくつかのハイレベルなテーマと、将来の作業が必要な複数のギャップを特定します。
関連論文リスト
- Capable but Careless: Do Computer-Use Agents Follow Contextual Integrity? [54.701199583505144]
アプリケーション間アクセスは、ほとんど見落とされたプライバシーリスクを生み出す。
我々はAgentCIBenchを紹介します。これは、このリスクを決定論的に評価されたシナリオに変換する評価ハーネスです。
我々は15のフロンティアエージェントを評価し、驚くほど高い失敗率を見出す。
論文 参考訳（メタデータ） (2026-06-22T11:36:58Z) - DecodingTrust-Agent Platform (DTap): A Controllable and Interactive Red-Teaming Platform for AI Agents [121.77550256034]
DecodingTrust-Agent Platform (DTap)は、AIエージェントのためのコントロール可能でインタラクティブなレッドチームプラットフォームである。
DTap-Redは、多様なインジェクションベクターを探索し、効果的な攻撃戦略を自律的に発見する、最初の自律的赤チームエージェントである。
DTapを通じて、さまざまなバックボーンモデル上に構築された一般的なAIエージェントの大規模評価を行う。
論文 参考訳（メタデータ） (2026-05-06T11:59:48Z) - Taming Various Privilege Escalation in LLM-Based Agent Systems: A Mandatory Access Control Framework [16.14469140816631]
LLM(Large Language Model)ベースのエージェントシステムは、複雑な現実世界のタスクに対してますます多くデプロイされている。
本稿では,特権エスカレーションのレンズによる攻撃の理解と軽減を目的としている。
属性ベースアクセス制御(ABAC)に基づく必須アクセス制御フレームワークSEAgentを提案する。
評価の結果,SEAgentは低偽陽性率と無視可能なシステムオーバーヘッドを維持しつつ,様々な特権のエスカレーションを効果的に抑制していることがわかった。
論文 参考訳（メタデータ） (2026-01-17T03:22:56Z) - On the Regulatory Potential of User Interfaces for AI Agent Governance [27.951021158233587]
本稿では,透明性と行動要求を強制する手段として,AIエージェントのユーザインタフェースの規制を提案する。
エージェントとエージェントの相互作用とコミュニケーションにおいて重要な役割を果たすUI要素を識別するために,22のエージェントシステムを分析した。
私たちの研究は、実践的なAIエージェントガバナンスに関する以前の提案を補完する規制行動の新たな表面を明らかにします。
論文 参考訳（メタデータ） (2025-11-30T05:32:13Z) - SAGA: A Security Architecture for Governing AI Agentic Systems [13.758038956671834]
大規模言語モデル(LLM)ベースのエージェントは、最小限の人間インタラクションでタスクを自律的に相互に対話し、協力し、委譲する傾向にある。
エージェントシステムガバナンスの業界ガイドラインは、ユーザがエージェントの包括的な制御を維持する必要性を強調している。
本稿では,エージェントのライフサイクルをユーザから監視する,エージェントシステムを管理するためのスケーラブルなセキュリティアーキテクチャであるSAGAを提案する。
論文 参考訳（メタデータ） (2025-04-27T23:10:00Z) - AgentDAM: Privacy Leakage Evaluation for Autonomous Web Agents [66.29263282311258]
我々は、AIウェブナビゲーションエージェントがデータ最小化のプライバシー原則に従うかどうかを測定する新しいベンチマークAgentDAMを紹介する。
我々のベンチマークは、現実的なWebインタラクションシナリオをエンドツーエンドでシミュレートし、既存のWebナビゲーションエージェントに適応する。
論文 参考訳（メタデータ） (2025-03-12T19:30:31Z) - The AI Agent Index [8.48525754659057]
エージェントAIシステムは、人間の関与が限定された複雑なタスクを計画し実行することができる。
現在、エージェントシステムの技術コンポーネント、目的の用途、安全性の特徴を文書化するための構造化されたフレームワークは存在しない。
AI Agent Indexは、現在デプロイされているエージェントAIシステムに関する情報をドキュメント化する最初の公開データベースである。
論文 参考訳（メタデータ） (2025-02-03T18:59:13Z) - Agent-as-a-Judge: Evaluate Agents with Agents [61.33974108405561]
本稿ではエージェント・アズ・ア・ジャッジ(Agent-as-a-Judge)フレームワークを紹介し,エージェント・システムを用いてエージェント・システムの評価を行う。
これはLLM-as-a-Judgeフレームワークの有機的拡張であり、タスク解決プロセス全体の中間フィードバックを可能にするエージェント的特徴を取り入れている。
55のリアルな自動化AI開発タスクのベンチマークであるDevAIを紹介します。
論文 参考訳（メタデータ） (2024-10-14T17:57:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。