論文の概要: Rethinking Access Control for AI Agents: Recent Advances and Open Challenges
- arxiv url: http://arxiv.org/abs/2611.06764v1
- Date: Wed, 04 Nov 2026 16:42:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 03:25:58.206899
- Title: Rethinking Access Control for AI Agents: Recent Advances and Open Challenges
- Title(参考訳): AIエージェントのアクセス制御の再考:最近の進歩と課題
- Abstract要約: 本稿では,政策仕様と導出,アイデンティティと委譲,行動と資源の執行,情報フロー制御の4分野にわたるエージェントアクセス制御の進歩について調査する。
我々は、承認の4つの側面を再考する: 計画選択は許可要件を形作る コンテキスト情報は権限を付与せずに決定を知らせる 制限はシステムインターフェース全体で意味を保たなければならない 承認は進化的に再評価されなければならない 。
- 参考スコア(独自算出の注目度): 14.349212951062073
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language model agents access data, invoke tools, and act on users' behalf. Keeping these actions within authorized bounds is challenging because agents choose their own execution paths while permissions and operating conditions may change. This paper surveys recent advances in agent access control across four areas: policy specification and derivation, identity and delegation, action and resource enforcement, and information flow control. We compare their control objects, enforcement boundaries, and assumptions to examine what individual mechanisms achieve and how they can work together. Building on this analysis, we rethink four aspects of authorization: plan selection shapes permission requirements; contextual information can inform decisions without itself granting authority; restrictions must retain their meaning across system interfaces; and authorization must be reassessed as workflows evolve. These insights motivate open challenges and future directions, together with concrete research questions and evaluation criteria. In particular, evaluation should examine both observed agent behavior and the unauthorized effects that remain enabled. Our analysis connects existing mechanisms to the requirements for preserving authorization throughout an agent workflow.
- Abstract(参考訳): 大規模言語モデルエージェントは、データにアクセスし、ツールを実行し、ユーザの代理として振る舞う。
エージェントが自身の実行パスを選択し、許可と運用条件が変更される可能性があるため、これらのアクションを権限付きバウンダリ内に保持することは難しい。
本稿では、政策仕様と導出、アイデンティティと委譲、行動と資源の執行、情報フロー制御の4分野にわたるエージェントアクセス制御の最近の進歩について調査する。
制御オブジェクト、強制境界、仮定を比較して、個々のメカニズムが何を達成し、どのように連携できるかを調べます。
この分析に基づいて、我々は認可の4つの側面を再考する: 計画選択は許可要件を形作る; コンテキスト情報は権限を付与せずに決定を知らせる; 制限はシステムインターフェース全体にわたって意味を保たなければならない; 認可はワークフローが進化するにつれて再評価されなければならない。
これらの知見は、具体的な研究課題や評価基準とともに、オープンな課題と今後の方向性を動機付けている。
特に、観察されたエージェントの挙動と、まだ有効である未承認効果の両方を評価すべきである。
我々の分析は、エージェントワークフロー全体を通して認証を保存するための要件に、既存のメカニズムを関連付けている。
関連論文リスト
- Let the Agent Do It? How Software Practitioners Understand and Make Permission Decisions in Agentic AI Assistants [43.6631255471383]
エージェントAIアシスタントは、ファイルの変更、コマンドの実行、外部リソースへのアクセスによって、開発者の代理として機能するようになっている。
これらのアクションは、しばしばパーミッションを必要とするが、エージェントの自律性から恩恵を受けながら、実践者がパーミッションの決定を行う方法については、ほとんど知られていない。
実践者は直接観察したり、レビューしたりすることでエージェントの振る舞いをよく理解するが、意思決定やデータの使用、その他の活動は明らかになっていない。
以上の結果から,パーミッションシステムは,逐次的行動のレビューを容易にし,エージェントが意図したこととを区別し,可逆性を明確化し,単一行動の拒否を拒否することの区別を行なわなければならないことが示唆された。
論文 参考訳(メタデータ) (2026-10-05T09:43:54Z) - How Agents Ask for Permission: User Permissions for AI Agents, from Interfaces to Enforcement [55.966820779528376]
AIエージェントが普及するにつれて、ユーザーはそのようなシステムが抱えるリスクにますますさらされている。
プロンプト・インジェクション・アタックや幻覚は、エージェントに個人情報を第三者にリークさせる可能性がある。
自律システムとして、エージェントは、ユーザの意図や承認なしに、銀行取引のような機密性の高いタスクを実行することの、より積極的な危険性を示す。
論文 参考訳(メタデータ) (2026-07-15T11:36:22Z) - Behavioral Governance for Autonomous AI Agents: The AgentBound Framework [2.4469484645516832]
我々は、自律型AIエージェントに対して検証可能な行動監視を提供するランタイムガバナンスフレームワークであるAgentBoundを紹介する。
AgentBoundは、提案された各アクションを、委任された認可、所有者が署名した行動構成、サイトアクション契約の3つの独立した当局を使用して評価する。
AgentBoundは暗号的に検証可能なガバナンスレシートを生成し、すべてのアクションを決定を管理する正確なデリゲート、ポリシー、セマンティックアーティファクトにバインドする。
論文 参考訳(メタデータ) (2026-06-29T23:12:06Z) - A Five-Plane Reference Architecture for Runtime Governance of Production AI Agents [0.0]
本稿では,生産AIエージェントのガバナンスのための参照アーキテクチャを提案する。
我々は、許容と否定を一般化する6つの割り込みプリミティブの分類を定義し、4つの正当性不変量について主張する。
5つの具体的判断にまたがる7つの生産エージェントの脅威の隠蔽を実証する。
論文 参考訳(メタデータ) (2026-06-10T16:54:47Z) - Agents of Chaos [50.53354213047402]
実験室環境に展開する自律言語モデルを用いたエージェントの探索的再チームの研究を報告する。
20人のAI研究者が、良心的および敵対的な条件下でエージェントと対話した。
我々の発見は、現実的なデプロイメント設定におけるセキュリティ、プライバシ、ガバナンスに関連する脆弱性の存在を確立します。
論文 参考訳(メタデータ) (2026-02-23T16:28:48Z) - On the Regulatory Potential of User Interfaces for AI Agent Governance [27.951021158233587]
本稿では,透明性と行動要求を強制する手段として,AIエージェントのユーザインタフェースの規制を提案する。
エージェントとエージェントの相互作用とコミュニケーションにおいて重要な役割を果たすUI要素を識別するために,22のエージェントシステムを分析した。
私たちの研究は、実践的なAIエージェントガバナンスに関する以前の提案を補完する規制行動の新たな表面を明らかにします。
論文 参考訳(メタデータ) (2025-11-30T05:32:13Z) - A Desideratum for Conversational Agents: Capabilities, Challenges, and Future Directions [51.96890647837277]
大規模言語モデル(LLM)は、従来の対話システムから、自律的な行動、文脈認識、ユーザとのマルチターンインタラクションが可能な高度なエージェントへと、会話AIを推進してきた。
本調査では,人間レベルの知性にアプローチするよりスケーラブルなシステムにおいて,何が達成されたのか,どのような課題が持続するのか,何を行う必要があるのか,といった,次世代の会話エージェントのデシラトゥムを提示する。
論文 参考訳(メタデータ) (2025-04-07T21:01:25Z) - SOPBench: Evaluating Language Agents at Following Standard Operating Procedures and Constraints [59.645885492637845]
SOPBenchは、各サービス固有のSOPコードプログラムを実行可能な関数の有向グラフに変換する評価パイプラインである。
提案手法では,各サービス固有のSOPコードプログラムを実行可能関数の有向グラフに変換し,自然言語SOP記述に基づいてこれらの関数を呼び出しなければならない。
我々は18の先行モデルを評価し、上位モデルでさえタスクが困難であることを示す。
論文 参考訳(メタデータ) (2025-03-11T17:53:02Z) - Inverse Online Learning: Understanding Non-Stationary and Reactionary
Policies [79.60322329952453]
エージェントが意思決定を行う方法の解釈可能な表現を開発する方法を示す。
一連の軌跡に基づく意思決定プロセスを理解することにより,このオンライン学習問題に対して,政策推論問題を逆問題とみなした。
本稿では、エージェントがそれらを更新するプロセスと並行して、その影響を遡及的に推定する実用的なアルゴリズムを提案する。
UNOSの臓器提供受諾決定の分析に応用することで、我々のアプローチは意思決定プロセスを管理する要因や時間とともにどのように変化するかに、貴重な洞察をもたらすことができることを実証する。
論文 参考訳(メタデータ) (2022-03-14T17:40:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。