論文の概要: DynaTrust: Defending Multi-Agent Systems Against Sleeper Agents via Dynamic Trust Graphs

• arxiv url: http://arxiv.org/abs/2603.15661v1
• Date: Mon, 09 Mar 2026 05:53:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-18 17:42:06.854515
• Title: DynaTrust: Defending Multi-Agent Systems Against Sleeper Agents via Dynamic Trust Graphs
• Title（参考訳）: DynaTrust:ダイナミックトラストグラフによるスリーパーエージェントに対するマルチエージェントシステム保護
• Authors: Yu Li, Qiang Hu, Yao Zhang, Lili Quan, Jiongchi Yu, Junjie Wang,
• Abstract要約: 睡眠薬に対する新しい防御法であるDynaTrustを提案する。 DynaTrustは信頼を静的属性ではなく継続的、進化的なプロセスとして扱う。 各エージェントの履歴行動と選択した専門家エージェントの信頼度に基づいて、各エージェントの信頼度を動的に更新する。
• 参考スコア（独自算出の注目度）: 17.988939054544243
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Language Model-based Multi-Agent Systems (MAS) have demonstrated remarkable collaborative reasoning capabilities but introduce new attack surfaces, such as the sleeper agent, which behave benignly during routine operation and gradually accumulate trust, only revealing malicious behaviors when specific conditions or triggers are met. Existing defense works primarily focus on static graph optimization or hierarchical data management, often failing to adapt to evolving adversarial strategies or suffering from high false-positive rates (FPR) due to rigid blocking policies. To address this, we propose DynaTrust, a novel defense method against sleeper agents. DynaTrust models MAS as a dynamic trust graph~(DTG), and treats trust as a continuous, evolving process rather than a static attribute. It dynamically updates the trust of each agent based on its historical behaviors and the confidence of selected expert agents. Instead of simply blocking, DynaTrust autonomously restructures the graph to isolate compromised agents and restore task connectivity to ensure the usability of MAS. To assess the effectiveness of DynaTrust, we evaluate it on mixed benchmarks derived from AdvBench and HumanEval. The results demonstrate that DynaTrust outperforms the state-of-the-art method AgentShield by increasing the defense success rate by 41.7%, achieving rates exceeding 86% under adversarial conditions. Furthermore, it effectively balances security with utility by significantly reducing FPR, ensuring uninterrupted system operations through graph adaptation.
• Abstract（参考訳）: 大規模言語モデルに基づくマルチエージェントシステム(MAS)は、目覚ましい協調推論機能を示したが、定期的な操作中に快適に動作し、徐々に信頼を蓄積するスリーパーエージェントのような新しい攻撃面を導入し、特定の条件やトリガーが満たされた場合にのみ悪意のある行動を明らかにする。 既存の防衛作業は主に静的グラフの最適化や階層的なデータ管理に重点を置いており、しばしば敵の戦略の進化に適応しなかったり、厳格なブロッキングポリシーのために高い偽陽性率(FPR)に苦しんだりしている。 そこで我々は,睡眠薬に対する新しい防御法であるDynaTrustを提案する。 DynaTrustは、MASを動的信頼グラフ~(DTG)としてモデル化し、信頼を静的属性ではなく継続的、進化的なプロセスとして扱う。 各エージェントの履歴行動と選択した専門家エージェントの信頼度に基づいて、各エージェントの信頼度を動的に更新する。 単にブロックする代わりに、DynaTrustはグラフを自動で再構築して、侵入されたエージェントを分離し、タスク接続を復元し、MASのユーザビリティを保証する。 DynaTrustの有効性を評価するため,AdvBenchとHumanEvalの混合ベンチマークを用いて評価を行った。 その結果、DynaTrustは防衛成功率を41.7%増加させ、敵の条件下で86%以上向上させることで、最先端のAgentShieldよりも優れていることが示された。 さらに、FPRを大幅に削減し、グラフ適応による不断のシステム操作を確実にすることで、セキュリティとユーティリティのバランスを効果的に保ちます。

関連論文リスト

• DGTEN: A Robust Deep Gaussian based Graph Neural Network for Dynamic Trust Evaluation with Uncertainty-Quantification Support [2.4897847232811716]
  DGTEN (Deep Gaussian based Trust Evaluation Network) は統合グラフフレームワークを導入している。 不確実性を認識したメッセージパッシング、表現力のある時間的モデリング、信頼を目標とする攻撃に対するビルトインディフェンスを組み合わせる。 署名された2つのBitcoinトラストネットワークでは、DGTENが大幅に改善されている。
  論文  参考訳（メタデータ） (2025-10-08T23:38:55Z)
• Dissecting Adversarial Robustness of Multimodal LM Agents [70.2077308846307]
  我々は、VisualWebArena上に現実的な脅威モデルを用いて、200の敵タスクと評価スクリプトを手動で作成する。 我々は,クロボックスフロンティアLMを用いた最新のエージェントを,リフレクションやツリーサーチを行うエージェントを含む,壊すことに成功している。 AREを使用して、新しいコンポーネントの追加に伴うロバスト性の変化を厳格に評価しています。
  論文  参考訳（メタデータ） (2024-06-18T17:32:48Z)
• Perturbation-Invariant Adversarial Training for Neural Ranking Models: Improving the Effectiveness-Robustness Trade-Off [107.35833747750446]
  正統な文書に不可避な摂動を加えることで 敵の例を作れます この脆弱性は信頼性に関する重大な懸念を生じさせ、NRMの展開を妨げている。 本研究では,NRMにおける有効・損耗トレードオフに関する理論的保証を確立する。
  論文  参考訳（メタデータ） (2023-12-16T05:38:39Z)
• TrustGuard: GNN-based Robust and Explainable Trust Evaluation with Dynamicity Support [59.41529066449414]
  本稿では,信頼度を考慮した信頼度評価モデルであるTrustGuardを提案する。 TrustGuardは、スナップショット入力層、空間集約層、時間集約層、予測層を含む階層アーキテクチャで設計されている。 実験により、TrustGuardは、シングルタイムスロットとマルチタイムスロットの信頼予測に関して、最先端のGNNベースの信頼評価モデルより優れていることが示された。
  論文  参考訳（メタデータ） (2023-06-23T07:39:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。