論文の概要: PrivScope: Task-scoped Disclosure Control for Hybrid Agentic Systems
- arxiv url: http://arxiv.org/abs/2605.16630v2
- Date: Tue, 19 May 2026 13:37:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-20 15:03:08.46351
- Title: PrivScope: Task-scoped Disclosure Control for Hybrid Agentic Systems
- Title（参考訳）: PrivScope:ハイブリッドエージェントシステムのためのタスクスコープによる開示制御
- Authors: Shafizur Rahman Seeam, Zhengxiong Li, Zhiyuan Yu, Yimin, Chen, Yidan Hu,
- Abstract要約: textscPrivScopeは、クラウド側の変更を必要とせずに、ローカル--CLM境界でのEmphtaskスコープによる開示を強制する。
textscPrivScopeは、組み立てられたペイロードから開示ユニットを抽出し、デバイス上で直接およびアカウント値を保持する。
- 参考スコア（独自算出の注目度）: 19.38303835764628
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Hybrid local--cloud agents enrich user requests with context from persistent working state before delegating capability-intensive subtasks to a cloud language model (CLM). While this enrichment can improve task success, it also exposes unnecessary information in the cloud-bound payload, including task-irrelevant context, carryover from prior workflows, and overly specific sensitive details, resulting in \emph{over-disclosure}. Existing solutions either isolate workflows to limit cross-workflow leakage or apply general-purpose sanitization that does not reason over LC-assembled payload scope. We present \textsc{PrivScope}, a trusted on-device payload governor that enforces \emph{task-scoped disclosure} at the local--CLM boundary, without requiring cloud-side changes. Its key idea: sensitive information should reach the cloud only when required for the delegated subtask, and then only in the least revealing form preserving utility. \textsc{PrivScope} extracts disclosure units from the assembled payload and keeps direct identifiers and account-linked values on device. The remaining units pass through cloud-necessity control, which determines what is actually needed; units that must reach the cloud are abstracted to the least-specific representation sufficient for the task. On 100 medical-booking workflows across three commercial CLMs, \textsc{PrivScope} eliminates profile leakage (0.0\% vs.\ 17.7\%), more than halves attacker re-identification (23.1\% vs.\ 64.3\%), and achieves the highest candidate recall on every CLM tested while preserving task success close to the unprotected baseline on GPT-4o-mini and Gemini 2.5 Flash. Gains hold across five local backbones and add only seconds of on-device latency on commodity hardware.
- Abstract（参考訳）: ハイブリッドなローカル-クラウドエージェントは、機能集約サブタスクをクラウド言語モデル(CLM)に委譲する前に、永続的な作業状態からのコンテキストでユーザリクエストを豊かにする。
この強化はタスクの成功を改善することができるが、タスク非関連コンテキスト、以前のワークフローからの転送、過度に具体的な機密情報を含む、クラウドバウンドペイロードの不要な情報を公開し、結果として \emph{over-disclosure} となる。
既存のソリューションでは、ワークフローを分離してクロスワークフローのリークを制限するか、LCアセンブルされたペイロードスコープを考慮しない汎用的なサニタイズを適用している。
クラウド側の変更を必要とせず,ローカル-CLM境界で \emph{task-scoped disclosure} を強制する,信頼されたオンデバイスペイロードの管理者である \textsc{PrivScope} を提示する。
重要なアイデアは、機密情報は委譲されたサブタスクに必要な場合にのみクラウドに到達し、次に最も明らかでないフォーム保存ユーティリティに限られる、ということだ。
\textsc{PrivScope}は、組み立てられたペイロードから開示ユニットを抽出し、デバイスに直接識別子とアカウントリンクされた値を保持する。
残りのユニットは、実際に何が必要なのかを決定するクラウド必要制御を通し、クラウドに到達しなければならないユニットは、タスクに十分な最小限の表現に抽象化される。
3つの商用CLMにわたる100の医療予約ワークフローにおいて、 \textsc{PrivScope}はプロファイルのリークを除去する(0.0\%対0.0\%)。
17.7\%)、半減期以上のアタッカーの再識別(23.1\%対)。
GPT-4o-mini と Gemini 2.5 Flash の未保護ベースラインに近いタスク成功を保ちながら、テストされたすべての CLM 上で最も高い候補リコールを達成する。
ゲインは5つのローカルバックボーンにまたがって保持され、コモディティハードウェア上でわずか数秒のデバイス上のレイテンシを追加する。
関連論文リスト
- MEME: Multi-entity & Evolving Memory Evaluation [76.57263966646404]
MEMEは、マルチエンタリティと進化する軸によって定義される全空間にまたがる6つのタスクを定義している。
3つの記憶パラダイムにまたがる6つの記憶システムの評価。
デフォルト設定の下では、すべてのシステムが依存性の推論で崩壊しているのが分かります。
論文 参考訳（メタデータ） (2026-05-12T17:55:10Z) - Autonomous LLM Agent Worms: Cross-Platform Propagation, Automated Discovery and Temporal Re-Entry Defense [10.105892979517622]
ファイル支援型マルチエージェントLPMエコシステムにおける永続的ワーム伝播の自動解析のための最初の体系的フレームワークを提案する。
プラットフォーム固有の適応、エージェント間特権、データ抽出を伴わない、ゼロクリックの自律伝搬、3ホップのクロスプラットフォームトランスミッションを実証する。
論文 参考訳（メタデータ） (2026-05-04T16:49:29Z) - Local-Splitter: A Measurement Study of Seven Tactics for Reducing Cloud LLM Token Usage on Coding-Agent Workloads [0.0]
本研究では,クラウドLLMトークンの使用量を削減するための7つの手法について,系統的な評価を行った。
1)ローカルルーティング、(2)プロンプト圧縮、(3)セマンティックキャッシュ、(4)クラウドレビューによるローカルドラフト、(5)ミニマルディフ、(6)構造化インテント抽出、(7)ベンダープロンプトキャッシュ。
私たちはオープンソースシムで7つすべてを実装し、Ollama経由でのローカルモデルとOpenAI互換エンドポイント経由でのクラウドモデルをサポートします。
論文 参考訳（メタデータ） (2026-04-14T05:19:33Z) - Privacy Guard & Token Parsimony by Prompt and Context Handling and LLM Routing [0.0]
プロンプトを集中サブタスクに分解し、Zero-TrustまたはNDAがカバーするモデルにハイリスククエリを再ルーティングする。
この二重メカニズムは、機密推論ベクトル(Zero Leakage)を同時に排除し、クラウドトークンペイロード(OpEx Reduction)を削減する。
論文 参考訳（メタデータ） (2026-03-30T20:16:42Z) - Internal Safety Collapse in Frontier Large Language Models [65.00730294617382]
この研究は、フロンティア大言語モデル(LLM)における重要な障害モードを特定する。
特定のタスク条件下では、モデルは有害なコンテンツを連続的に生成し、そうでなければ良質なタスクを実行する状態に入る。
有害なコンテンツを生成することが唯一有効な完了であるドメインタスクを通じてISCをトリガーするフレームワークであるTVDを紹介する。
論文 参考訳（メタデータ） (2026-03-04T12:55:34Z) - AgentSys: Secure and Dynamic LLM Agents Through Explicit Hierarchical Memory Management [47.49917373646469]
既存の防御は肥大した記憶を与えられたまま扱い、回復力を維持することに集中する。
我々は、明示的なメモリ管理を通じて間接的なインジェクションを防御するフレームワークであるAgentSysを紹介する。
論文 参考訳（メタデータ） (2026-02-07T06:28:51Z) - CORE: Reducing UI Exposure in Mobile Agents via Collaboration Between Cloud and Local LLMs [29.04298076917338]
モバイルエージェントは、スマートフォンユーザインタフェース(UI)上でタスクを計画し実行するために、LLM(Large Language Models)に依存している。
我々は,クラウドとローカルLLMの強みを組み合わせた$textbfCO$llaborativeフレームワークである$textbfCOREを提案する。
COREはUI露出を最大55.6%削減し、タスク成功率はクラウドのみのエージェントよりわずかに低い。
論文 参考訳（メタデータ） (2025-10-17T09:11:05Z) - Defeating Prompt Injections by Design [79.00910871948787]
CaMeLは、Large Language Modelsを中心とした保護システムレイヤを作成する堅牢なディフェンスである。
CaMeLは、(信頼された)クエリから制御とデータフローを明示的に抽出する。
セキュリティをさらに改善するため、CaMeLは、権限のないデータフロー上のプライベートデータの流出を防止する機能の概念を使用している。
論文 参考訳（メタデータ） (2025-03-24T15:54:10Z) - Parameter-Efficient Fine-Tuning in Spectral Domain for Point Cloud Learning [49.91297276176978]
我々は,ポイントクラウドのための新しい固有textbfPointGST (textbfGraph textbfSpectral textbfTuning) 法を提案する。
ポイントGSTは事前訓練されたモデルを凍結し、スペクトル領域の微調整パラメータのための軽量で訓練可能なポイントクラウドスペクトルアダプタ(PCSA)を導入する。
さまざまなタスクにわたる挑戦的なポイントクラウドデータセットの実験では、ポイントGSTが完全に微調整されたデータセットを上回るだけでなく、トレーニング可能なパラメータも大幅に削減されていることが示されている。
論文 参考訳（メタデータ） (2024-10-10T17:00:04Z) - HasTEE+ : Confidential Cloud Computing and Analytics with Haskell [50.994023665559496]
信頼性コンピューティングは、Trusted Execution Environments(TEEs)と呼ばれる特別なハードウェア隔離ユニットを使用して、コテナントクラウドデプロイメントにおける機密コードとデータの保護を可能にする。
低レベルのC/C++ベースのツールチェーンを提供するTEEは、固有のメモリ安全性の脆弱性の影響を受けやすく、明示的で暗黙的な情報フローのリークを監視するための言語構造が欠如している。
私たちは、Haskellに埋め込まれたドメイン固有言語(cla)であるHasTEE+を使って、上記の問題に対処します。
論文 参考訳（メタデータ） (2024-01-17T00:56:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。