論文の概要: Decision Uncertainty-Oriented Watermarking (DUOW): Securing Multi-Agent Routing Against Policy Cloning
- arxiv url: http://arxiv.org/abs/2610.14606v1
- Date: Sat, 10 Oct 2026 05:51:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 12:38:51.133284
- Title: Decision Uncertainty-Oriented Watermarking (DUOW): Securing Multi-Agent Routing Against Policy Cloning
- Title（参考訳）: 意思決定不確実性指向型透かし(DUOW) : 政策クローンに対するマルチエージェントルーティングの確保
- Abstract要約: Decision Uncertainty-Oriented Watermarking (DUOW)は、モデルパラメータや生成された出力を変更することなく、外部決定層で動作する軽量フレームワークである。
DUOWは高いタスクユーティリティを保ち、最大90%のログ消去の下で信頼性の高いオーナシップ検証を実現し、計算オーバーヘッドを無視できることを示した。
- 参考スコア（独自算出の注目度）: 52.112503352265556
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Routing policies in Multi-Agent Systems (MAS) represent valuable intellectual property, yet their exposure through execution logs creates significant risks of unauthorized policy cloning. Existing agent watermarking methods protect intellectual property by modifying internal generation processes, such as perturbing token sampling distributions or injecting structural mutations into action trajectories, which may compromise task fidelity or suffer from limited transferability across heterogeneous platforms. To address these limitations, we propose Decision Uncertainty-Oriented Watermarking (DUOW), a lightweight framework that operates at the external decision layer without modifying model parameters or generated outputs. DUOW introduces a plug-and-play scoring mechanism that evaluates candidate agents from semantic and operational perspectives, identifies functionally redundant routing decisions, and selectively redirects choices among equivalent alternatives to embed ownership signals. By coupling watermark behaviors with utility-preserving routing decisions, DUOW enables cloned policies to retain ownership signals during policy imitation while increasing the difficulty of watermark removal. A confidence-driven adaptive threshold dynamically determines embedding opportunities, balancing watermark capacity and task fidelity under diverse routing contexts. Extensive evaluations on four multi-agent routing benchmarks demonstrate that DUOW preserves high task utility, achieves reliable ownership verification under up to 90% log erasure, and introduces negligible computational overhead, with an average per-step latency of 0.043 ms and total embedding overhead below 0.54 ms.
- Abstract（参考訳）: マルチエージェントシステム(MAS)におけるルーティングポリシは,貴重な知的財産権を示すものだが,実行ログによる公開は,不正なポリシークローンの重大なリスクを生じさせる。
既存のエージェント透かし法は、トークンサンプリング分布の摂動や構造突然変異を行動軌跡に注入するなどの内部生成プロセスを変更して知的財産を保護する。
これらの制約に対処するため、モデルパラメータや生成された出力を変更することなく、外部決定層で動作する軽量なフレームワークであるDecision Uncertainty-Oriented Watermarking (DUOW)を提案する。
DUOWは、セマンティックおよび運用の観点から候補エージェントを評価し、機能的に冗長なルーティング決定を特定し、オーナシップシグナルを埋め込むために同等の選択肢の中から選択を選択的にリダイレクトする、プラグアンドプレイスコアリングメカニズムを導入している。
ユーティリティ保存されたルーティング決定と透かしの動作を結合することにより、DUOWは、重複ポリシーがポリシーの模倣中にオーナシップ信号を保持することができると同時に、透かし除去の難しさを増大させる。
信頼駆動適応しきい値は、様々なルーティングコンテキスト下で、埋め込み機会を動的に決定し、透かし容量とタスク忠実度をバランスさせる。
4つのマルチエージェントルーティングベンチマークの大規模な評価では、DUOWは高いタスクユーティリティを保持し、最大90%のログ消去の下で信頼性の高いオーナシップ検証を実現し、平均0.043ms、総埋め込みオーバーヘッド0.54msの計算オーバーヘッドを導入している。
関連論文リスト
- AuthGateBench: Benchmarking LLMs as Authorization Gate [5.504238772822917]
AuthGateBenchは、良心的な要求の下で認証ゲーティングを行うための最初のポリシーガイダンスベンチマークである。
モデルがより良い判断を下すのに補助的な環境信号が役立つかどうかを検討する。
評価では、モデルが内部の安全アライメントに過度に依存しているため、障害モード間で精度が不均一に低下する。
論文 参考訳（メタデータ） (2026-10-12T08:55:01Z) - DelegateGuard: Purpose-Bound Capabilities for Delegated LLM Agent Workflows [0.0]
既存のリークベンチマークはこれらの障害を露呈するが、委任されたエージェントが行使する権限を制限しない。
本稿では,ユーザ認証の開始を目的,ラベル,操作,シンク,デリゲートの深度を超えて,阻止可能な機能に変換するリファレンスモニタシステムを提案する。
論文 参考訳（メタデータ） (2026-10-12T00:12:11Z) - What Guides the Agent? Adjudicating Unauthorized Behavior via Localizing Behavior-Guiding Instructions [16.444770499696457]
Attnlocateは、ツール呼び出しの決定に真に影響を及ぼすコンテキストのきめ細かいローカライズのためのランタイムフレームワークである。
Attnlocateは、このローカライゼーション問題をオブジェクト検出タスクとして、振る舞い誘導命令によって引き起こされるユニークなアクティベーショントレースを検出することを目的としている。
5つのLSMファミリーから10のエージェント構成にまたがるAttnlocateを評価し,間接的プロンプト注入とツール中毒のシナリオについて検討した。
論文 参考訳（メタデータ） (2026-08-25T03:24:53Z) - From Sequence to Structure: Relational Uncertainty Propagation for LLM Agents [75.69180947909148]
大規模言語モデル(LLM)エージェントのためのトラジェクトリレベルのUQフレームワークを提案する。
RuPAは、推論状態、ツールインタラクション、環境フィードバックが時間的およびセマンティックな依存関係エッジで接続されたノードである、指向的なトラジェクトリグラフとして実行履歴を表現している。
我々は,複数のモデルファミリにまたがる6つのオープンソースLCMを用いて,代用エージェントベンチマーク($2, Terminal-Bench-2, GAIA)でRUPAを評価した。
論文 参考訳（メタデータ） (2026-08-17T01:40:14Z) - Sequential Behavioral Watermarking for LLM Agents [6.193603972930103]
LLMベースのエージェントは実行可能決定のシーケンスを通じて作用するが、その軌道はどのエージェントやポリシーが生成したかの証拠はほとんど得られない。
これにより、生成されたテキストにのみ埋め込まれるのではなく、エージェントの振る舞いに直接埋め込まれた透かし信号が動機付けられる。
本稿では、履歴条件の遷移パターンに信号を埋め込むシーケンシャルな行動透かしフレームワークSeqWMを提案する。
論文 参考訳（メタデータ） (2026-05-11T02:28:34Z) - Towards Verifiably Safe Tool Use for LLM Agents [53.55621104327779]
大規模言語モデル(LLM)ベースのAIエージェントは、データソース、API、検索エンジン、コードサンドボックス、さらにはその他のエージェントなどのツールへのアクセスを可能にすることで、機能を拡張する。
LLMは意図しないツールインタラクションを起動し、機密データを漏洩したり、クリティカルレコードを上書きしたりするリスクを発生させる。
モデルベースセーフガードのようなリスクを軽減するための現在のアプローチは、エージェントの信頼性を高めるが、システムの安全性を保証することはできない。
論文 参考訳（メタデータ） (2026-01-12T21:31:38Z) - AgentMark: Utility-Preserving Behavioral Watermarking for Agents [20.30614808186259]
AgentMarkは、ユーティリティを保持しながら、計画決定にマルチビット識別子を組み込むフレームワークである。
エージェントから明示的な挙動分布を抽出し、分布保存条件サンプリングを適用する。
具体化、ツール利用、社会環境における実験は、実用的なマルチビット容量、部分ログからの堅牢な回復、ユーティリティ保存を実証している。
論文 参考訳（メタデータ） (2026-01-05T15:42:18Z) - DRIFT: Dynamic Rule-Based Defense with Injection Isolation for Securing LLM Agents [52.92354372596197]
大規模言語モデル(LLM)は、強力な推論と計画能力のため、エージェントシステムの中心となってきています。
この相互作用は、外部ソースからの悪意のある入力がエージェントの振る舞いを誤解させる可能性がある、インジェクション攻撃のリスクも引き起こす。
本稿では,信頼に値するエージェントシステムのための動的ルールベースの分離フレームワークを提案する。
論文 参考訳（メタデータ） (2025-06-13T05:01:09Z) - Delving into Probabilistic Uncertainty for Unsupervised Domain Adaptive
Person Re-Identification [54.174146346387204]
ドメイン適応型人物再識別のための確率的不確実性誘導プログレッシブラベル精錬(P$2$LR)という手法を提案する。
擬似ラベルの不確実性を測定し、ネットワークトレーニングを容易にする定量的基準を確立する。
本手法はDuke2Marketタスクではベースラインが6.5%,Market2MSMTタスクでは2.5%,最先端手法では2.5%を上回った。
論文 参考訳（メタデータ） (2021-12-28T07:40:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。