論文の概要: RATION: Towards Quantitative Risk-Based Access Control for AI Agents

• arxiv url: http://arxiv.org/abs/2610.24311v1
• Date: Fri, 16 Oct 2026 23:15:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-26 02:25:23.264261
• Title: RATION: Towards Quantitative Risk-Based Access Control for AI Agents
• Title（参考訳）: RATION:AIエージェントの量的リスクベースのアクセス制御を目指して
• Abstract要約: 現在のエージェントセキュリティシステムは、エージェントの行動を制限することでエージェントを保護する。 本稿では,AIエージェントのアクセス制御に対する定量的リスクに基づくアプローチを提案する。 SLAはエージェントアクションに関連する測定可能なリスクを追跡し、実行を通じて量的制約を実施する。
• 参考スコア（独自算出の注目度）: 7.917916660915343
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI agents increasingly interact with external environments to complete complex user tasks. These interactions can lead to unexpected behavior and expose agents to security threats such as indirect prompt injection. Current agent security systems largely protect agents by restricting their actions, which can result in a substantial security-utility trade-off for complex, open-ended tasks. To address this, we propose a quantitative risk-based approach to access control for AI agents that regulates measurable risks accumulated during task execution. As a concrete realization of this approach, we introduce RATION, a security framework that tracks measurable risks associated with agent actions and enforces quantitative constraints throughout execution. RATION first constructs a task-specific policy by combining explicit constraints derived from the user request with implicit risks calibrated from historical executions of similar tasks. During task execution, RATION continuously tracks the accumulated risks and applies different enforcement strategies depending on the type of risk. Extensive experiments on four security benchmarks show that RATION provides strong security while maintaining high task utility across diverse models and environments.
• Abstract（参考訳）: AIエージェントは、複雑なユーザタスクを完了するために、ますます外部環境と対話する。 これらの相互作用は予期せぬ振る舞いを引き起こし、間接的なプロンプトインジェクションのようなセキュリティ脅威にエージェントを露出させる。 現在のエージェントセキュリティシステムは、エージェントの動作を制限することでエージェントを保護している。 そこで本研究では,タスク実行中に蓄積した計測可能なリスクを規制する,AIエージェントのアクセス制御のための定量的リスクベースのアプローチを提案する。 このアプローチの具体的実現として,エージェントアクションに関連する測定可能なリスクを追跡し,実行を通じて量的制約を強制するセキュリティフレームワークであるRATIONを導入する。 まず、ユーザ要求から引き出された明示的な制約と、類似タスクの過去の実行から校正された暗黙的なリスクを組み合わせることで、タスク固有のポリシーを構築する。 タスク実行中は、蓄積したリスクを継続的に追跡し、リスクの種類に応じて異なる実施戦略を適用する。 4つのセキュリティベンチマークに関する大規模な実験は、さまざまなモデルや環境にまたがって高いタスクユーティリティを維持しながら、強力なセキュリティを提供することを示している。

関連論文リスト

• SeClaw: Spec-Driven Security Task Synthesis for Evaluating Autonomous Agents [87.26967184869198]
  SeClawは、仕様駆動のセキュリティタスク合成と、自律エージェントの実行ベースのセキュリティ評価を組み合わせたフレームワークである。 ベンチマークは、リソース、ユーザタスク、環境、本質的なエージェントの振る舞いから生じるリスクをカバーしている。
  論文  参考訳（メタデータ） (2026-06-01T14:23:42Z)
• Risky-Bench: Probing Agentic Safety Risks under Real-World Deployment [64.36422334429228]
  大規模言語モデル(LLM)は、現実の環境で運用されるエージェントとして、ますます多くデプロイされている。 既存のエージェントの安全性評価は、特定のエージェント設定に合わせて、リスク指向のタスクに依存する。 本稿では,現実の展開に根ざした組織的エージェント安全評価を実現するフレームワークであるR Risky-Benchを提案する。
  論文  参考訳（メタデータ） (2026-02-03T04:44:11Z)
• A Safety and Security Framework for Real-World Agentic Systems [2.05255620498371]
  本稿では,企業展開におけるエージェントAIシステムの確保のための動的かつ実用的なフレームワークを提案する。 本稿では,ユーザ安全のレンズによる新たなエージェントリスクの同定手法を提案する。 NVIDIAのフラッグシップエージェント研究アシスタントであるAI-Q Research Assistantの詳細なケーススタディを通じて、フレームワークの有効性を実証する。
  論文  参考訳（メタデータ） (2025-11-27T00:19:24Z)
• Uncertainty-Aware, Risk-Adaptive Access Control for Agentic Systems using an LLM-Judged TBAC Model [11.50995963023462]
  本稿では,大規模言語モデル(LLM)を自律的かつリスクを意識した判断として利用することにより,タスクベースアクセス制御(TBAC)モデルを拡張した高度なセキュリティフレームワークを提案する。 このモデルは、エージェントの意図に基づいてアクセス制御決定を行うだけでなく、ターゲットリソースに関連する固有のテキストbfriskを明示的に考慮することによって、アクセス制御を決定する。
  論文  参考訳（メタデータ） (2025-10-13T13:52:33Z)
• SafeMobile: Chain-level Jailbreak Detection and Automated Evaluation for Multimodal Mobile Agents [58.21223208538351]
  本研究は,モバイルマルチモーダルエージェントを取り巻くセキュリティ問題について考察する。 行動シーケンス情報を組み込んだリスク識別機構の構築を試みる。 また、大規模言語モデルに基づく自動アセスメントスキームも設計している。
  論文  参考訳（メタデータ） (2025-07-01T15:10:00Z)
• AGENTSAFE: Benchmarking the Safety of Embodied Agents on Hazardous Instructions [64.85086226439954]
  本稿では,有害な指示に対するVLMエージェントの安全性を評価するためのベンチマークであるSAFEを提案する。 SAFEは、SAFE−THOR、SAFE−VERSE、SAFE−DIAGNOSEの3つの成分からなる。 我々は、ハザード認識を安全な計画と実行に翻訳する体系的な失敗を明らかにする。
  論文  参考訳（メタデータ） (2025-06-17T16:37:35Z)
• AGrail: A Lifelong Agent Guardrail with Effective and Adaptive Safety Detection [47.83354878065321]
  我々は,エージェントの安全性を高めるため,生涯のガードレールであるAGrailを提案する。 AGrailは適応型安全チェック生成、効果的な安全チェック最適化、ツールの互換性と柔軟性を備えている。
  論文  参考訳（メタデータ） (2025-02-17T05:12:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。