論文の概要: Pincer: Resource Authorization for Agents using a Digital Twin

• arxiv url: http://arxiv.org/abs/2610.02569v1
• Date: Thu, 01 Oct 2026 23:03:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.119114
• Title: Pincer: Resource Authorization for Agents using a Digital Twin
• Title（参考訳）: Pincer: ディジタルツインを使用したエージェントのリソースオーソライゼーション
• Abstract要約: Pincerは新しいディフェンスで、リソース層で動作し、オートモードのようなツールコール層で既存のディフェンスと連携する。 Pincerのコアにはデジタルツインがある。分離されたコンテキストモデルで、動的にユーザ固有の最小限のポリシーを自動的に学習し、強制する。 評価の結果,Pincerはいくつかのベースラインと比較して,セキュリティとユーティリティの両方に強く依存していることがわかった。
• 参考スコア（独自算出の注目度）: 67.15317774522758
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Coding agents have become increasingly long-horizon, autonomous, reliant on general-purpose shell and maintain their own persistent memory for self-improvement. While these capabilities have made the agents powerful, they have also made them harder to defend against external adversaries. Defenses that restrict this architecture --- typed tools, information-flow control, or policy prediction engines --- give up too much functionality to be adopted. Agents deployed today (e.g. Claude, Codex) rely on a combination of user-mediated and automode sandboxing as their primary defense. In user-mediated sandboxing, user-maintained policies decay over time and repeated permission requests cause user fatigue, while auto mode's tool-call classifiers learn no user-specific policy and are not meant to defend against adversarial setups. Pincer is a new defense that operates at the resource layer and works alongside existing defenses at the tool-call layer like the auto mode. At the core of Pincer lies a digital twin, an isolated-context model that automatically learns and enforces dynamic user-specific least-privilege policies. The digital twin keeps continually learning the user's preferences allowing it to act as the user's proxy for the agent's permission requests. To emulate the learning phase, we propose a new usercentric dataset with examples following a multi-day transcript of user-agent interaction. Our evaluation shows that Pincer performs strongly on both security and utility in comparison to several baselines which includes variants of LLM judges and adaptations of Conseca (HotOS '25). We highlight attack types where Pincer's design leads to a significant security improvement compared to all other baselines, while outperforming the baselines even for other types of attacks.
• Abstract（参考訳）: コーディングエージェントは、ますます長期的かつ自律的で、汎用シェルに依存し、自己改善のために自身の永続記憶を維持している。 これらの能力によってエージェントは強力になったが、外部の敵に対する防御も難しくなった。 このアーキテクチャを制限する防御 -- 型付けツール、情報フロー制御、ポリシー予測エンジン -- は、採用すべき機能が多すぎます。 今日デプロイされたエージェント(例えばClaude, Codex)は、ユーザ仲介と自動サンドボックスの組み合わせを主要な防御手段としています。 ユーザ介在型サンドボックスでは、ユーザ管理されたポリシーが時間の経過とともに崩壊し、繰り返し許可要求がユーザ疲労を引き起こし、オートモードのツールコール分類器はユーザ固有のポリシーを学習せず、敵のセットアップを防御するものではない。 Pincerは新しいディフェンスで、リソース層で動作し、オートモードのようなツールコール層で既存のディフェンスと連携する。 Pincerのコアにはデジタルツインがある。分離されたコンテキストモデルで、動的にユーザ固有の最小限のポリシーを自動的に学習し、強制する。 デジタルツインは、エージェントの許可要求に対するユーザのプロキシとして機能できるように、ユーザの好みを継続的に学習する。 学習フェーズをエミュレートするために,複数日のユーザ・エージェント間のインタラクションの書き起こしを例に,新たなユーザ中心型データセットを提案する。 評価の結果,Pincer は LLM 審査の変種や Conseca (HotOS '25) の適応を含むいくつかのベースラインと比較して,セキュリティとユーティリティの両方に強く依存していることがわかった。 我々は、Pincerの設計が他のすべてのベースラインと比較して大きなセキュリティ改善をもたらすような攻撃タイプを強調し、他のタイプの攻撃でもベースラインよりも優れています。

関連論文リスト

• ROPE: Routed Origin Policy Enforcement against Indirect Prompt Injection [61.4148196085256]
  本稿では,信頼という構造概念に根ざしたROPE(Routed Origin Policy Enforcement)について述べる。 提案手法では,(1)軌道の各段階において,攻撃可能コンテンツのみを起点とする値が,原点保護パラメータに到達しない,(2)注入のリワードがない,という2つの保証が認められている。
  論文  参考訳（メタデータ） (2026-08-27T01:22:14Z)
• ANCHOR: Automated Alignment Auditing for CLI Agents on Real-World Harm [10.68988263379927]
  本稿では,米国公判における不正行為に対して,CLIエージェントをストレステストする自動監査フレームワークANCHORを紹介する。 ANCHORは、教師付きおよび強化された微調整を用いて、暗黒人格データに基づいて微調整された監査エージェントをデプロイする。 CLIエージェントは直接的に指示された時に不正なタスクを拒否することが多いが、コンプライアンスは永続的な悪意のあるインタラクションの下で100%に達する。
  論文  参考訳（メタデータ） (2026-07-11T19:39:47Z)
• DRIFT: Dynamic Rule-Based Defense with Injection Isolation for Securing LLM Agents [52.92354372596197]
  大規模言語モデル(LLM)は、強力な推論と計画能力のため、エージェントシステムの中心となってきています。 この相互作用は、外部ソースからの悪意のある入力がエージェントの振る舞いを誤解させる可能性がある、インジェクション攻撃のリスクも引き起こす。 本稿では,信頼に値するエージェントシステムのための動的ルールベースの分離フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-13T05:01:09Z)
• DoomArena: A framework for Testing AI Agents Against Evolving Security Threats [81.73540246946015]
  本稿では,AIエージェントのセキュリティ評価フレームワークであるDoomArenaを紹介する。 プラグインフレームワークであり、現実的なエージェントフレームワークと簡単に統合できる。 モジュールであり、エージェントがデプロイされる環境の詳細から攻撃の開発を分離する。
  論文  参考訳（メタデータ） (2025-04-18T20:36:10Z)
• Gandalf the Red: Adaptive Security for LLMs [2.9422902813085665]
  大規模言語モデル(LLM)アプリケーションにおける即時攻撃に対する防衛の現在の評価は、敵の行動の動的性質と、制限された防御によって正統なユーザに対して課されるユーザビリティの罰の2つの重要な要素を見落としている。 攻撃者を正当なユーザから明確に分離し、マルチステップインタラクションをモデル化し、最適化可能な形式でセキュリティユーティリティを表現するD-SECを提案する。
  論文  参考訳（メタデータ） (2025-01-14T08:30:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。