論文の概要: ClawLess: A Security Model of AI Agents

• arxiv url: http://arxiv.org/abs/2604.06284v1
• Date: Tue, 07 Apr 2026 12:19:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-09 17:30:51.149879
• Title: ClawLess: A Security Model of AI Agents
• Title（参考訳）: ClawLess: AIエージェントのセキュリティモデル
• Authors: Hongyi Lu, Nian Liu, Shuai Wang, Fengwei Zhang,
• Abstract要約: 我々は、AIエージェントに対して正式に認証されたポリシーを実行するセキュリティフレームワークであるClawLessを紹介する。 ClawLessは、システムエンティティ、信頼範囲、パーミッションに関するきめ細かいセキュリティモデルを形式化する。 このアプローチは、エージェントの内部設計に関係なくセキュリティを確保するために、正式なセキュリティモデルを実践的にブリッジする。
• 参考スコア（独自算出の注目度）: 34.70695138834452
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Autonomous AI agents powered by Large Language Models can reason, plan, and execute complex tasks, but their ability to autonomously retrieve information and run code introduces significant security risks. Existing approaches attempt to regulate agent behavior through training or prompting, which does not offer fundamental security guarantees. We present ClawLess, a security framework that enforces formally verified policies on AI agents under a worst-case threat model where the agent itself may be adversarial. ClawLess formalizes a fine-grained security model over system entities, trust scopes, and permissions to express dynamic policies that adapt to agents' runtime behavior. These policies are translated into concrete security rules and enforced through a user-space kernel augmented with BPF-based syscall interception. This approach bridges the formal security model with practical enforcement, ensuring security regardless of the agent's internal design.
• Abstract（参考訳）: 大規模言語モデルを利用した自律AIエージェントは、複雑なタスクを推論、計画、実行することができるが、情報を自律的に取得し、コードを実行する能力は、重大なセキュリティリスクをもたらす。 既存のアプローチでは、基本的なセキュリティ保証を提供していないトレーニングやプロンプトを通じてエージェントの動作を規制しようとする。 ClawLessは、エージェント自体が敵的である可能性のある最悪の脅威モデルの下で、AIエージェントに対して正式に認証されたポリシーを強制するセキュリティフレームワークである。 ClawLessは、システムのエンティティ、信頼範囲、エージェントのランタイム動作に適応する動的なポリシーを表現する許可に関するきめ細かいセキュリティモデルを形式化する。 これらのポリシーは具体的なセキュリティルールに変換され、BPFベースのsyscallインターセプションで拡張されたユーザ空間カーネルを通じて強制される。 このアプローチは、エージェントの内部設計に関係なくセキュリティを確保するために、正式なセキュリティモデルを実践的にブリッジする。

関連論文リスト

• Architecting Secure AI Agents: Perspectives on System-Level Defenses Against Indirect Prompt Injection Attacks [46.32011684548212]
  AIエージェントは間接的なプロンプトインジェクションに対して脆弱であり、信頼できないデータに埋め込まれた悪意のある命令は危険なエージェントアクションを引き起こす可能性がある。 本稿では,間接的インジェクション攻撃に対するシステムレベルの防御の展望について論じる。
  論文  参考訳（メタデータ） (2026-03-31T17:15:46Z)
• OMNI-LEAK: Orchestrator Multi-Agent Network Induced Data Leakage [59.3826294523924]
  オーケストレータ設定として知られる,一般的なマルチエージェントパターンのセキュリティ脆弱性について検討する。 本報告では,フロンティアモデルの攻撃カテゴリに対する感受性を報告し,推論モデルと非推論モデルの両方が脆弱であることが確認された。
  論文  参考訳（メタデータ） (2026-02-13T21:32:32Z)
• Towards Verifiably Safe Tool Use for LLM Agents [53.55621104327779]
  大規模言語モデル(LLM)ベースのAIエージェントは、データソース、API、検索エンジン、コードサンドボックス、さらにはその他のエージェントなどのツールへのアクセスを可能にすることで、機能を拡張する。 LLMは意図しないツールインタラクションを起動し、機密データを漏洩したり、クリティカルレコードを上書きしたりするリスクを発生させる。 モデルベースセーフガードのようなリスクを軽減するための現在のアプローチは、エージェントの信頼性を高めるが、システムの安全性を保証することはできない。
  論文  参考訳（メタデータ） (2026-01-12T21:31:38Z)
• Uncertainty-Aware, Risk-Adaptive Access Control for Agentic Systems using an LLM-Judged TBAC Model [11.50995963023462]
  本稿では,大規模言語モデル(LLM)を自律的かつリスクを意識した判断として利用することにより,タスクベースアクセス制御(TBAC)モデルを拡張した高度なセキュリティフレームワークを提案する。 このモデルは、エージェントの意図に基づいてアクセス制御決定を行うだけでなく、ターゲットリソースに関連する固有のテキストbfriskを明示的に考慮することによって、アクセス制御を決定する。
  論文  参考訳（メタデータ） (2025-10-13T13:52:33Z)
• Agent Safety Alignment via Reinforcement Learning [29.759393704688986]
  ツール・ユース・エージェントのための一貫した安全アライメント・フレームワークを提案する。 我々は、良識、悪意があり、ユーザープロンプトとツール応答の両方に敏感な三段階分類を導入する。 その結果,安全性と有効性は共同で最適化できることが示唆された。
  論文  参考訳（メタデータ） (2025-07-11T02:34:16Z)
• LLM Agents Should Employ Security Principles [60.03651084139836]
  本稿では,大規模言語モデル(LLM)エージェントを大規模に展開する際には,情報セキュリティの確立した設計原則を採用するべきであることを論じる。 AgentSandboxは、エージェントのライフサイクル全体を通して保護を提供するために、これらのセキュリティ原則を組み込んだ概念的なフレームワークである。
  論文  参考訳（メタデータ） (2025-05-29T21:39:08Z)
• SafeAgent: Safeguarding LLM Agents via an Automated Risk Simulator [77.86600052899156]
  LLM(Large Language Model)ベースのエージェントは、現実のアプリケーションにますますデプロイされる。 完全自動合成データ生成によるエージェント安全性を体系的に向上する最初のフレームワークであるAutoSafeを提案する。 AutoSafeは安全性のスコアを平均で45%向上させ、現実世界のタスクでは28.91%の改善を実現している。
  論文  参考訳（メタデータ） (2025-05-23T10:56:06Z)
• LlamaFirewall: An open source guardrail system for building secure AI agents [0.5603362829699733]
  大規模言語モデル(LLM)は、単純なチャットボットから複雑なタスクを実行できる自律エージェントへと進化してきた。 リスクを軽減するための決定論的解決策が欠如していることを考えると、リアルタイムガードレールモニターが不可欠である。 私たちはオープンソースのセキュリティにフォーカスしたガードレールフレームワークであるLlamaFirewallを紹介します。
  論文  参考訳（メタデータ） (2025-05-06T14:34:21Z)
• Progent: Programmable Privilege Control for LLM Agents [46.31581986508561]
  本稿では,大規模言語モデルエージェントをセキュアにするための最初の特権制御フレームワークであるProgentを紹介する。 Progentは、潜在的に悪意のあるものをブロックしながら、ユーザタスクに必要なツールコールの実行をエージェントに制限することで、ツールレベルでのセキュリティを強化する。 モジュール設計のおかげで、Progentの統合はエージェント内部を変更せず、既存のエージェントの実装に最小限の変更しか必要としません。
  論文  参考訳（メタデータ） (2025-04-16T01:58:40Z)
• A Formal Model of Security Controls' Capabilities and Its Applications to Policy Refinement and Incident Management [0.2621730497733947]
  本稿では,セキュリティ管理がセキュリティポリシーを強制する上で提供する機能を抽象化する形式モデルであるSecurity Capability Model(SCM)を提案する。 実世界のシナリオで有効性を検証することで、SCMは異なる複雑なセキュリティタスクの自動化を可能にすることを示す。
  論文  参考訳（メタデータ） (2024-05-06T15:06:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。