論文の概要: OverAct: Measuring and Mitigating Proactive Over-Authorization in LLM Tool-Calling Agents

• arxiv url: http://arxiv.org/abs/2610.01508v1
• Date: Thu, 01 Oct 2026 11:44:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 01:19:24.095037
• Title: OverAct: Measuring and Mitigating Proactive Over-Authorization in LLM Tool-Calling Agents
• Title（参考訳）: OverAct: LLMツールカートリングエージェントのプロアクティブオーバーオーソライゼーションの測定と緩和
• Abstract要約: ツールコール機能を持つLLMエージェントは、外部サービスやプライベートユーザデータにアクセスすることができるが、ユーザの要求よりも多くの情報を取得することができる。 構造化ツールコールエージェントにおけるこの挙動について検討し、これを積極的に過剰な認可(over-authorization)と呼ぶ。 プライバシに敏感な8つのドメインにまたがるベンチマークであるOverActを紹介します。
• 参考スコア（独自算出の注目度）: 9.37262464887881
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: LLM agents with tool-calling capabilities can access external services and private user data, but they may retrieve more information than a user's request explicitly requires. We study this behavior in structured tool-calling agents and term it proactive over-authorization. This setting differs from filesystem-level coding agents because the main risk is unnecessary access to private data. We introduce OverAct, a controlled benchmark spanning eight privacy-sensitive domains with deterministic, judge-free scoring, together with an interpretive decision-theoretic framework that yields three testable predictions. Across seven models from four families, all models significantly exceed authorized scope. Request specificity is the strongest predictor of severity, over-authorization grows sublinearly with tool-pool size, and decoding temperature has little effect. These patterns are consistent with a cost-asymmetry account, suggesting that over-authorization arises more from structural decision tendencies than from decoding randomness. We also propose SelfAudit, a zero-shot inference-time method that generates request-grounded justifications and filters unjustified calls before execution. Ablation shows that explicit filtering is the main driver of scope reduction. SelfAudit reduces privacy-oriented excess by 43% without oracle knowledge.
• Abstract（参考訳）: ツールコール機能を持つLLMエージェントは、外部サービスやプライベートユーザデータにアクセスすることができるが、ユーザの要求よりも多くの情報を取得することができる。 構造化ツールコールエージェントにおけるこの挙動について検討し、これを積極的に過剰な認可(over-authorization)と呼ぶ。 この設定は、ファイルシステムレベルのコーディングエージェントとは異なる。 プライバシーに敏感な8つのドメインにまたがる制御ベンチマークであるOverActと、3つの検証可能な予測をもたらす解釈的決定理論フレームワークを紹介する。 4つのファミリーの7つのモデルにまたがって、全てのモデルが認可された範囲をはるかに超えている。 要求特異性は重大性の最も強い予測因子であり、過剰な認可はツールプールサイズとサブリニアに成長し、復号温度はほとんど影響しない。 これらのパターンはコスト非対称性のアカウントと一致しており、過剰な認可はランダム性を復号することよりも構造的決定の傾向から生じることを示唆している。 また、リクエストグラウンドの正当性を生成し、実行前に不正な呼び出しをフィルタリングするゼロショット推論時間法であるSelfAuditを提案する。 アブレーションは、明示的なフィルタリングがスコープ縮小の主要因であることを示している。 SelfAuditは、オラクルの知識なしでプライバシー指向の過剰を43%削減する。

関連論文リスト

• PrivEscalate: Measuring and Augmenting the Threat of LLM-Automated Linux Privilege Escalation [6.17282657130573]
  大規模言語モデル(LLM)エージェントはサイバーキラーチェーン全体での攻撃的操作をますます自動化している。 PrivEscalateは、Linux特権エスカレーションのための大規模なベンチマークであり、14のサブカテゴリにまたがる531のDocker化されたシナリオで構成されている。 PivEscAgentは、決定論的列挙、カテゴリマッチング、ステップ計画を含む汎用ReActエージェントを増強するラッパーである。
  論文  参考訳（メタデータ） (2026-09-08T17:34:02Z)
• ROPE: Routed Origin Policy Enforcement against Indirect Prompt Injection [61.4148196085256]
  本稿では,信頼という構造概念に根ざしたROPE(Routed Origin Policy Enforcement)について述べる。 提案手法では,(1)軌道の各段階において,攻撃可能コンテンツのみを起点とする値が,原点保護パラメータに到達しない,(2)注入のリワードがない,という2つの保証が認められている。
  論文  参考訳（メタデータ） (2026-08-27T01:22:14Z)
• Agentic Permissions Policy Algebra for Taint Confinement in LLM Agents [0.0]
  従来のテナント追跡は、未確認データを読み取る際にエージェントのコンテキストを永久に汚染する。 本稿では,エンジン管理型コンテキスト分岐によるユーザビリティボトルネックを解決するためのIFCフレームワークであるAPPAを提案する。 我々は4つのモデルにまたがるマルチターンツールチェインベンチマークでAPPAを評価した。
  論文  参考訳（メタデータ） (2026-07-27T16:19:45Z)
• OCELOT: Inference-Leakage Budgets for Privacy-Preserving LLM Agents [32.5466552510287]
  漏れは累積的であり、個々に無害な放出は、正直だが、真正に曲がりくねった流しに蓄積される。 我々は、秘密に対する敵の信念がどれほど改善するかを予算化するランタイム仲介者であるOCELOTを提示する。 OCELOTは高いタスクユーティリティでのリークを著しく低減し、適応注入、ジェイルブレイク、累積推論、シンク共謀に抵抗する。
  論文  参考訳（メタデータ） (2026-06-10T17:13:35Z)
• Do Coding Agents Understand Least-Privilege Authorization? [14.240332406666779]
  我々は、現在のモデルが認証境界自体を推測できるかどうか検討する。 We show that frontier model often off permissions by the execution chain while giving unuseed or sensitive accesss。 そこで我々は,まずカバレッジ指向のポリシを生成し,各エントリをグラウンドと感度で監査する,十分性-高度分解法を提案する。
  論文  参考訳（メタデータ） (2026-05-14T14:05:58Z)
• PAAC: Privacy-Aware Agentic Device-Cloud Collaboration [27.486312939995145]
  我々は,プライバシを意識したエージェントフレームワークPAACを開発し,プランナ-実行者分解をデバイス-クラウド境界に整合させる。 数学、科学、ファイナンスを含む10の領域にまたがる17のベンチマークに対して、一貫した改善が見られます。
  論文  参考訳（メタデータ） (2026-05-09T03:29:20Z)
• Stop Tracking Me! Proactive Defense Against Attribute Inference Attack in LLMs [61.15237978606501]
  大規模言語モデルは、ユーザ生成テキストからプライベートなユーザー属性を推測することができる。 既存の匿名化ベースの防御は粗く、プライバシーを優先する要素を匿名化する際に単語レベルの精度が欠如している。 細粒度匿名化(TRACE)と推論防止最適化(RPS)を組み合わせた統合防衛フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-12T03:37:50Z)
• Sponge Tool Attack: Stealthy Denial-of-Efficiency against Tool-Augmented Agentic Reasoning [58.432996881401415]
  最近の作業では、エージェント推論を可能にするために、外部ツールで大きな言語モデル(LLM)を拡張している。 本稿では,入力プロンプトを書き換えることのみでエージェント推論を妨害するスポンジツールアタック(STA)を提案する。 STAは、意味的忠実度の高い原文からの良心的な即興的な書き直しを生成する。
  論文  参考訳（メタデータ） (2026-01-24T19:36:51Z)
• Inference-Time Scaling of Verification: Self-Evolving Deep Research Agents via Test-Time Rubric-Guided Verification [71.98473277917962]
  近年のDeep Research Agents (DRA) の進歩は、自動知識発見と問題解決に変化をもたらしている。 本稿では,政策モデルのアウトプットを反復的に検証することで,エージェントの能力を自己進化させる手法を提案する。 検証の非対称性を生かしたルーブリックスに基づく結果報酬検証器であるDeepVerifierを提案する。
  論文  参考訳（メタデータ） (2026-01-22T09:47:31Z)
• NeuroFilter: Privacy Guardrails for Conversational LLM Agents [50.75206727081996]
  本研究は,エージェント型大規模言語モデル(LLM)のプライバシを強制する際の計算上の課題に対処する。 NeuroFilterは、標準違反をモデルのアクティベーション空間における単純な方向にマッピングすることで、コンテキスト整合性を運用するガードレールフレームワークである。 7Bから70Bパラメータのモデルをカバーする15万以上のインタラクションに対する包括的な評価は、NeuroFilterの強力なパフォーマンスを示している。
  論文  参考訳（メタデータ） (2026-01-21T05:16:50Z)
• SWAP: Towards Copyright Auditing of Soft Prompts via Sequential Watermarking [58.475471437150674]
  ソフトプロンプト(SWAP)のための逐次透かしを提案する。 SWAPは、特定のディフェンダー指定のアウト・オブ・ディストリビューション・クラスを通じて、透かしを符号化する。 11のデータセットの実験では、SWAPの有効性、無害性、および潜在的適応攻撃に対する堅牢性を示す。
  論文  参考訳（メタデータ） (2025-11-05T13:48:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。