論文の概要: Agentic Permissions Policy Algebra for Taint Confinement in LLM Agents

• arxiv url: http://arxiv.org/abs/2607.24625v1
• Date: Mon, 27 Jul 2026 16:19:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-28 22:34:15.511036
• Title: Agentic Permissions Policy Algebra for Taint Confinement in LLM Agents
• Title（参考訳）: LLM剤のテイント留置のためのエージェントパーミッションポリシー代数
• Abstract要約: 従来のテナント追跡は、未確認データを読み取る際にエージェントのコンテキストを永久に汚染する。 本稿では,エンジン管理型コンテキスト分岐によるユーザビリティボトルネックを解決するためのIFCフレームワークであるAPPAを提案する。 我々は4つのモデルにまたがるマルチターンツールチェインベンチマークでAPPAを評価した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Autonomous LLM agents processing mixed-confidentiality data face severe security risks from prompt injection attacks and reasoning errors. While dynamic Information Flow Control (IFC) provides structural security guarantees, traditional taint tracking permanently taints an agent's context upon reading unvetted data, severely restricting downstream utility. We present APPA (Agentic Permissions Policy Algebra), an IFC framework that resolves this usability bottleneck through engine-managed context branching and prospective acquisition enforcement. Before data acquisition occurs, APPA prospectively evaluates label descents and missing prerequisites, generating actionable remedy plans (Authorize, Accept). To inspect unvetted data without polluting the primary context, a label-seeded child trajectory is spawned, absorbing label descent locally and allowing a trusted sanitizer to return a bounded derivative to the unchanged parent. Governed by a two-monoid model over security labels and shared event logs, we formally prove parent label preservation and merge confinement. Finally, we evaluate APPA on a multi-turn tool-chaining benchmark across four models: it suppresses exfiltration (31%-50% down to 0%-7% attack success), and on three of the four, branching recovers a substantial share of the utility that taint tracking alone forfeits.
• Abstract（参考訳）: 混合機密データを処理する自律LLMエージェントは、インジェクション攻撃や推論エラーによる深刻なセキュリティリスクに直面します。 動的インフォメーションフロー制御(IFC)は構造的セキュリティを保証するが、従来のテナントトラッキングは、未確認データを読み取る際にエージェントのコンテキストを永久に汚染し、下流のユーティリティを著しく制限する。 我々は,エンジン管理型コンテキストブランチと将来的な買収実施を通じて,このユーザビリティボトルネックを解決するためのIFCフレームワークであるAPPA(Agentic Permissions Policy Algebra)を提案する。 データ取得が起こる前に、APPAは、ラベルの降下と不足する前提条件を前向きに評価し、実行可能な救済計画(認証、承認)を生成する。 一次コンテキストを汚染することなく未調査データを検査し、ラベル付き育児軌道を発生させ、ラベル降下を局所的に吸収し、信頼された衛生師が境界デリバティブを変化しない親に返却できるようにする。 セキュリティラベルと共有イベントログの2つのモノイドモデルに乗じて、親ラベルの保存とマージを正式に証明する。 最後に,APPAをマルチターンツールチェインベンチマークで評価した。3つのモデルのうち3つのモデルのうち3つのモデルにおいて,枝分かれが単独で不正行為をトラッキングするユーティリティのかなりのシェアを回復する。

関連論文リスト

• AGENTQ: Quantization-Conditioned Backdoor Attacks on LLM Agents [3.994114606137195]
  AgentQは、レイヤバンドのLoRAインジェクションと、マルチコードブックの量子化等価クラスに対する部分PGD修復を組み合わせたアタックフレームワークである。 AgentQは、良質なユーティリティの損失を最小限に抑えて、100%ポスト量子化攻撃の成功率に達する。
  論文  参考訳（メタデータ） (2026-09-12T17:17:59Z)
• Auditing Data Provenance in LLM Fine-tuning via Intrinsic Distributional Fingerprints [12.090394120714402]
  大規模言語モデル(LLM)におけるデータIP侵害を監査するためのポストホックフレームワークであるtextitDistribution Provenance Audit (DPA) を提案する。 DPAは、証明を避けるための微調整の戦術によらず、実用性を維持するための実践的な必要性は、意味的物質と語彙的形態の基本的な共通点を維持するためのモデルである。
  論文  参考訳（メタデータ） (2026-08-03T12:35:51Z)
• FAVA: Formal Authorization for Verified Agents with Evidence-Backed Permission Graphs [11.447078130049512]
  FAVAは、エージェントの実行を許可する認可フレームワークである。 OpenAgentSafety、OctoBench、ActPlaneのシナリオでFAVAを評価する。
  論文  参考訳（メタデータ） (2026-07-29T09:41:07Z)
• FlowGuard: Flow Matching for Identity-Independent Detection of Data-Free Model Stealing Attacks on Energy System Intrusion Detection Systems [0.0]
  FlowGuardは、入ってくるクエリをアウト・オブ・ディストリビューション(OOD)として分類するフローマッチングに基づく、IDに依存しない防御である。 このアプローチは、データフリーモデル盗難攻撃のために合成的に生成されたクエリが、実際のネットワークトラフィックよりも低次元の多様体を占有しているという事実を生かしている。 我々は,MAZE と DisGUIDE 攻撃を用いたPRADA と FDINet に対して,単サイクルで分散した (100-client Sybil) 設定で評価した。
  論文  参考訳（メタデータ） (2026-06-02T10:18:45Z)
• MCPHunt: An Evaluation Framework for Cross-Boundary Data Propagation in Multi-Server MCP Agents [10.895733091955547]
  マルチサーバ MCP 信頼境界を越えた冗長なクレデンシャル伝搬を分離する最初のベンチマークを提案する。 メインベンチマークは5つのモデルから3,615点を超え、すべてのモデルで政策違反の伝播速度は11.5-41.3%に達した。 3モデル間での即時緩和調査は、80.5%の実用性を維持しながら、ポリシー違反の伝播を最大97%削減する。
  論文  参考訳（メタデータ） (2026-04-30T13:01:03Z)
• Beyond the Attention Stability Boundary: Agentic Self-Synthesizing Reasoning Protocols [6.357772907811544]
  SSRP(Self- Synthesizing Reasoning Protocols)は、アーキテクチャ計画と手続き実行の分離を実装するメタ認知フレームワークである。 提案する実験層は,浅電流に基づく検索パイロット,高エントロピーSOP,セマンティックハイジャック3ホップ多要素合成タスクの3種類である。 以上の結果から,GPT 5.4の非定常バニラ基準線が0.1%に崩壊し,SSRPは715X耐力限界を達成した。
  論文  参考訳（メタデータ） (2026-04-27T14:13:30Z)
• Anonymous-by-Construction: An LLM-Driven Framework for Privacy-Preserving Text [0.42821598129654453]
  テキストを匿名化するLLM駆動置換パイプラインをオンプレミスで開発する。 プライバシー、セマンティックユーティリティ、およびプライバシー下でのトレーサビリティを測定します。 提案手法は,最先端のプライバシ,トピックドリフトの最小化,実効性の向上,トレーニング可能性の低下を実現する。
  論文  参考訳（メタデータ） (2026-03-17T23:46:15Z)
• Where Do Flow Semantics Reside? A Protocol-Native Tabular Pretraining Paradigm for Encrypted Traffic Classification [5.044786941116112]
  自己監督型マスクドモデリングは、生のバイトをマスキングして再構築することで、暗号化されたトラフィック分類を約束する。 最近の研究によると、これらの手法はコストのかかる事前訓練にもかかわらずラベル付きデータへの依存を減らすことができない。 トラフィックをシーケンスバイトにフラットにすることで、プロトコル定義のセマンティクスを破壊します。
  論文  参考訳（メタデータ） (2026-03-09T15:15:23Z)
• Towards Verifiably Safe Tool Use for LLM Agents [53.55621104327779]
  大規模言語モデル(LLM)ベースのAIエージェントは、データソース、API、検索エンジン、コードサンドボックス、さらにはその他のエージェントなどのツールへのアクセスを可能にすることで、機能を拡張する。 LLMは意図しないツールインタラクションを起動し、機密データを漏洩したり、クリティカルレコードを上書きしたりするリスクを発生させる。 モデルベースセーフガードのようなリスクを軽減するための現在のアプローチは、エージェントの信頼性を高めるが、システムの安全性を保証することはできない。
  論文  参考訳（メタデータ） (2026-01-12T21:31:38Z)
• DRIFT: Dynamic Rule-Based Defense with Injection Isolation for Securing LLM Agents [52.92354372596197]
  大規模言語モデル(LLM)は、強力な推論と計画能力のため、エージェントシステムの中心となってきています。 この相互作用は、外部ソースからの悪意のある入力がエージェントの振る舞いを誤解させる可能性がある、インジェクション攻撃のリスクも引き起こす。 本稿では,信頼に値するエージェントシステムのための動的ルールベースの分離フレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-13T05:01:09Z)
• Towards Safety Reasoning in LLMs: AI-agentic Deliberation for Policy-embedded CoT Data Creation [70.62656296780074]
  本稿では,新しいデータ生成法であるAIDSAFE(Agenic Iterative Deliberation for Safety Reasoning)を提案する。 AIDSAFEにおけるデータリファインダーの段階は、反復的、冗長的、詐欺的思考を排除し、高品質なアウトプットを保証する。 本評価は, AIDSAFEによるCoTsが, より優れた政策順守と推論品質を実現することを示すものである。
  論文  参考訳（メタデータ） (2025-05-27T21:34:40Z)
• Towards Copyright Protection for Knowledge Bases of Retrieval-augmented Language Models via Reasoning [58.57194301645823]
  大規模言語モデル(LLM)は、現実のパーソナライズされたアプリケーションにますます統合されている。 RAGで使用される知識基盤の貴重かつしばしばプロプライエタリな性質は、敵による不正使用のリスクをもたらす。 これらの知識基盤を保護するための透かし技術として一般化できる既存の方法は、一般的に毒やバックドア攻撃を含む。 我々は、無害な」知識基盤の著作権保護の名称を提案する。
  論文  参考訳（メタデータ） (2025-02-10T09:15:56Z)
• Improved Certified Defenses against Data Poisoning with (Deterministic) Finite Aggregation [122.83280749890078]
  本報告では, 一般中毒に対する予防的対策として, フィニット・アグリゲーション(Finite Aggregation)を提案する。 トレーニングセットを直接非結合部分集合に分割するDPAとは対照的に、我々の方法はまず、トレーニングセットをより小さな非結合部分集合に分割する。 我々は、決定論的および集約的認証された防御設計をブリッジして、我々の方法の代替的な見解を提供する。
  論文  参考訳（メタデータ） (2022-02-05T20:08:58Z)
• Delving into Probabilistic Uncertainty for Unsupervised Domain Adaptive Person Re-Identification [54.174146346387204]
  ドメイン適応型人物再識別のための確率的不確実性誘導プログレッシブラベル精錬(P$2$LR)という手法を提案する。 擬似ラベルの不確実性を測定し、ネットワークトレーニングを容易にする定量的基準を確立する。 本手法はDuke2Marketタスクではベースラインが6.5%,Market2MSMTタスクでは2.5%,最先端手法では2.5%を上回った。
  論文  参考訳（メタデータ） (2021-12-28T07:40:12Z)
• Temporal Action Detection with Multi-level Supervision [116.55596693897388]
  本稿では,ラベル付きデータとラベルなしデータを組み合わせたSemi-supervised Action Detection (SSAD)タスクを紹介する。 半教師付き分類タスクから直接適応したSSADベースラインの異なるタイプのエラーを解析する。 我々は,弱いラベル付きデータをSSADに組み込んで,3段階の監視レベルを持つOmni-supervised Action Detection (OSAD)を提案する。
  論文  参考訳（メタデータ） (2020-11-24T04:45:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。