論文の概要: Secure and Efficient Access Control for Computer-Use Agents via Context Space

• arxiv url: http://arxiv.org/abs/2509.22256v1
• Date: Fri, 26 Sep 2025 12:19:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-29 20:57:54.412493
• Title: Secure and Efficient Access Control for Computer-Use Agents via Context Space
• Title（参考訳）: コンテキスト空間によるコンピュータ利用エージェントの安全かつ効率的なアクセス制御
• Authors: Haochen Gong, Chenxiao Li, Rui Chang, Wenbo Shen,
• Abstract要約: CSAgentは、コンピュータ利用エージェントのためのシステムレベルの静的ポリシーベースのアクセス制御フレームワークである。 我々はCSAgentの実装と評価を行い、99.36%以上の攻撃に対して防御に成功し、パフォーマンスオーバーヘッドは6.83%に過ぎなかった。
• 参考スコア（独自算出の注目度）: 11.077973600902853
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language model (LLM)-based computer-use agents represent a convergence of AI and OS capabilities, enabling natural language to control system- and application-level functions. However, due to LLMs' inherent uncertainty issues, granting agents control over computers poses significant security risks. When agent actions deviate from user intentions, they can cause irreversible consequences. Existing mitigation approaches, such as user confirmation and LLM-based dynamic action validation, still suffer from limitations in usability, security, and performance. To address these challenges, we propose CSAgent, a system-level, static policy-based access control framework for computer-use agents. To bridge the gap between static policy and dynamic context and user intent, CSAgent introduces intent- and context-aware policies, and provides an automated toolchain to assist developers in constructing and refining them. CSAgent enforces these policies through an optimized OS service, ensuring that agent actions can only be executed under specific user intents and contexts. CSAgent supports protecting agents that control computers through diverse interfaces, including API, CLI, and GUI. We implement and evaluate CSAgent, which successfully defends against more than 99.36% of attacks while introducing only 6.83% performance overhead.
• Abstract（参考訳）: 大規模言語モデル(LLM)ベースのコンピュータ利用エージェントは、AIとOSの機能の収束を表し、自然言語がシステムレベルの機能やアプリケーションレベルの機能を制御することができる。 しかし、LSMs固有の不確実性の問題のため、エージェントによるコンピュータの制御を許可することは、重大なセキュリティ上のリスクを生じさせる。 エージェントアクションがユーザの意図から逸脱した場合、それらは不可逆的な結果を引き起こす可能性がある。 ユーザ確認やLLMベースの動的アクション検証といった既存の緩和アプローチは、ユーザビリティ、セキュリティ、パフォーマンスの制限に悩まされている。 これらの課題に対処するために、コンピュータ利用エージェントのためのシステムレベルの静的ポリシーベースのアクセス制御フレームワークであるCSAgentを提案する。 静的ポリシと動的コンテキスト,ユーザ意図のギャップを埋めるため,CSAgentでは,インテントとコンテキスト認識ポリシを導入し,ビルドと修正を支援する自動ツールチェーンを提供する。 CSAgentは、これらのポリシーを最適化されたOSサービスを通じて実行し、エージェントアクションが特定のユーザ意図とコンテキストの下でのみ実行されることを保証する。 CSAgentは,APIやCLI,GUIなど,さまざまなインターフェースを通じてコンピュータを制御するエージェントの保護をサポートする。 我々はCSAgentの実装と評価を行い、99.36%以上の攻撃に対して防御に成功し、パフォーマンスオーバーヘッドは6.83%に過ぎなかった。

関連論文リスト

• AgentSentinel: An End-to-End and Real-Time Security Defense Framework for Computer-Use Agents [7.99316950952212]
  LLM(Large Language Models)は、コンピュータ利用エージェントにますます統合されている。 LLMは意図しないツールコマンドや誤った入力を発行し、潜在的に有害な操作を引き起こす可能性がある。 我々は,セキュリティの脅威を軽減するために,エンド・ツー・エンドのリアルタイム防衛フレームワークであるAgentSentinelを提案する。
  論文  参考訳（メタデータ） (2025-09-09T13:59:00Z)
• OpenAgentSafety: A Comprehensive Framework for Evaluating Real-World AI Agent Safety [58.201189860217724]
  OpenAgentSafetyは,8つの危機リスクカテゴリにまたがるエージェントの動作を評価する包括的なフレームワークである。 従来の作業とは異なり、我々のフレームワークは、Webブラウザ、コード実行環境、ファイルシステム、bashシェル、メッセージングプラットフォームなど、実際のツールと対話するエージェントを評価します。 ルールベースの分析とLSM-as-judgeアセスメントを組み合わせることで、過度な行動と微妙な不安全行動の両方を検出する。
  論文  参考訳（メタデータ） (2025-07-08T16:18:54Z)
• AgentVigil: Generic Black-Box Red-teaming for Indirect Prompt Injection against LLM Agents [54.29555239363013]
  本稿では,間接的なインジェクション脆弱性を自動的に検出し,悪用するための汎用的なブラックボックスファジリングフレームワークであるAgentVigilを提案する。 我々はAgentVigilをAgentDojoとVWA-advの2つの公開ベンチマークで評価し、o3-miniとGPT-4oに基づくエージェントに対して71%と70%の成功率を達成した。 攻撃を現実世界の環境に適用し、悪質なサイトを含む任意のURLに誘導するエージェントをうまく誘導する。
  論文  参考訳（メタデータ） (2025-05-09T07:40:17Z)
• SAGA: A Security Architecture for Governing AI Agentic Systems [13.758038956671834]
  大規模言語モデル(LLM)ベースのエージェントは、最小限の人間インタラクションでタスクを自律的に相互に対話し、協力し、委譲する傾向にある。 エージェントシステムガバナンスの業界ガイドラインは、ユーザがエージェントの包括的な制御を維持する必要性を強調している。 本稿では,エージェントのライフサイクルをユーザから監視する,エージェントシステムを管理するためのスケーラブルなセキュリティアーキテクチャであるSAGAを提案する。
  論文  参考訳（メタデータ） (2025-04-27T23:10:00Z)
• Progent: Programmable Privilege Control for LLM Agents [46.31581986508561]
  本稿では,大規模言語モデルエージェントをセキュアにするための最初の特権制御フレームワークであるProgentを紹介する。 Progentは、潜在的に悪意のあるものをブロックしながら、ユーザタスクに必要なツールコールの実行をエージェントに制限することで、ツールレベルでのセキュリティを強化する。 モジュール設計のおかげで、Progentの統合はエージェント内部を変更せず、既存のエージェントの実装に最小限の変更しか必要としません。
  論文  参考訳（メタデータ） (2025-04-16T01:58:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。