論文の概要: Privacy-Preserving Topology-Guided Safety for LLM-Based Multi-Agent Systems via Federated Graph Learning

• arxiv url: http://arxiv.org/abs/2609.02967v1
• Date: Wed, 02 Sep 2026 07:57:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-04 18:28:38.808167
• Title: Privacy-Preserving Topology-Guided Safety for LLM-Based Multi-Agent Systems via Federated Graph Learning
• Title（参考訳）: フェデレーショングラフ学習によるLLMに基づくマルチエージェントシステムのプライバシ保護型トポロジ誘導安全
• Abstract要約: FGLGuardは、AgentDojoのグランドサクセスレートを、ほぼ無防備なユーティリティ、APIコストゼロ、無視可能な機能損失で43%削減する。 フェデレーションはオプションではなく、オフ・ザ・シェルフ・トランスファーは流通シフトによって崩壊する。 Live FGLGuardは、AgentDojoのグランドサクセスレートを、ほぼ無防備なユーティリティ、APIコストゼロ、無視可能な機能損失で43%削減する。
• 参考スコア（独自算出の注目度）: 67.04448659688579
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Topology-guided safeguards for LLM-based multi-agent systems (MAS) train a GNN over the inter-agent communication graph to localize risky agents and intervene on the topology---but they assume one operator can pool all labeled traces. Across organizations that assumption breaks: episodes contain private prompts, tool outputs, and proprietary workflows, and no silo alone sees the full attack distribution. We cast privacy-preserving MAS safeguarding as graph federated learning and instantiate FGLGuard: each operator fits an edge-featured graph attention detector on its own judge-labeled episode graphs and shares only model updates. The method couples a proximal local objective for non-IID clients, domain-balanced aggregation, over-refusal-constrained threshold calibration, corroborated upstream scoring, and a guarded rewrite for blocked answers. Federation is not optional: off-the-shelf transfer collapses under distribution shift (AUROC 0.51 to 0.70 only after in-domain retraining), so a deployable guard must adapt on each site's private traces. On Agent-SafetyBench, R-Judge, and AgentDojo, federated FGLGuard exceeds the in-domain centralized ceiling on all three benchmarks without pooling any data---where unsupervised anomaly guards and local-only training fail. One guard federated across four different-domain operators comes within 0.03 AUROC of multi-domain centralization, while any single-domain guard collapses on the others. Live FGLGuard cuts AgentDojo's ground-truth attack-success rate by 43% at near-unguarded utility, zero API cost, and negligible capability loss.
• Abstract（参考訳）: LLMベースのマルチエージェントシステム(MAS)のトポロジ誘導型セーフガードは、エージェント間の通信グラフ上でGNNを訓練し、リスクのあるエージェントをローカライズし、トポロジに介入する。 エピソードにはプライベートプロンプト、ツールアウトプット、プロプライエタリなワークフローが含まれており、サイロだけで完全なアタックディストリビューションを見ることはできません。 我々は、グラフフェデレーション学習としてプライバシ保護MAS保護をキャストし、FGLGuardをインスタンス化する: 各オペレータは、独自の判断ラベル付きエピソードグラフ上にエッジ機能付きグラフアテンション検出器に適合し、モデル更新のみを共有する。 この方法は、非IIDクライアントの近位局所目的、ドメインバランスの集約、過剰に制限されたしきい値のキャリブレーション、コローボレートアップストリームスコアリング、およびブロックされた回答に対するガード付きリライトを結合する。 オフ・ザ・シェルフ転送は配布シフト(ドメイン内再トレーニング後にのみAUROC 0.51から0.70まで)で崩壊するので、デプロイ可能なガードは各サイトのプライベートトレースに適応する必要がある。 Agent-SafetyBench、R-Judge、AgentDojoでは、フェデレーションされたFGLGuardは、データプールなしで3つのベンチマークすべてにおいて、ドメイン内の集中的な天井を超えている。 4つの異なるドメインにまたがる1つのガードは、複数のドメイン集中化の0.03 AUROC内にあり、一方のガードは他のドメインに崩壊する。 Live FGLGuardは、AgentDojoのゼロトルース攻撃-成功率を、ほぼ無防備なユーティリティで43%削減し、APIコストをゼロにし、無視できる能力を失う。

関連論文リスト

• Reachability-Based Capability Confinement for LLM Agents under Indirect Prompt Injection [8.339789704552706]
  SkillGuardは、汚染を汚染として扱い、結果として生じる状態をデプロイが定義した禁止状態から切り離す機能を制限するハーネスレベルの執行層である。 我々は、Gmini 2.5 FlashとLlama3.3-70Bの4つのAgentDojoスイート上で、LLMのみのNo Defenseベースラインと異なるシステム層での3つのディフェンスに対してSkillGuardを評価した。
  論文  参考訳（メタデータ） (2026-08-30T20:57:47Z)
• LMSM: LLM Security Framework Inspired by Linux Security Modules [56.93644694627783]
  大規模言語モデル(LLM)は階層化されたディフェンスでデプロイされることが多いが、悪意のあるプロンプトはそれらをバイパスすることができる。 我々は,Language Model Security Modules (LMSM) という,Linux Security Modules (LSM) の背後にある分離を LLM サービスに適応させるセキュリティフレームワークを提案する。
  論文  参考訳（メタデータ） (2026-08-26T12:13:05Z)
• FedGSA: Geometry-Consistent Subspace Aggregation for Differentially Private Federated LoRA [15.652808783124835]
  微分プライベートなLoRAのための幾何整合アグリゲーションフレームワークを提案する。 FedGSAは、各プライベート化されたクライアント更新を、グラスマン多様体上の基底不変部分空間として表現している。 我々は、FedGSAがクライアント側のDPトレーニング以上のプライバシーを損なうことなく、標準的前提の下でその収束を確立することを証明した。
  論文  参考訳（メタデータ） (2026-08-04T07:39:40Z)
• ChannelGuard: Safe Models Do Not Compose into Safe Multi-Agent Systems [0.0]
  本稿では,すべてのエージェント間チャネルに情報コンテナゲートを配置するフレームワークであるChannelGuardを紹介する。 ChannelGuardは、Azure GPT-5, Anthropic Sonnet 4.5, Anthropic Haiku 4.5をまたいで、アプリケーション層で30の30のツールポゾンをブロックする。 また、プロンプト・インジェクションの攻撃成功率を半分(0.333から0.167)下げ、GSM8Kの精度(0.867)を正確に保持する。
  論文  参考訳（メタデータ） (2026-07-20T19:11:17Z)
• FedAttr: Towards Privacy-preserving Client-Level Attribution in Federated LLM Fine-tuning [58.80511162314259]
  我々はフェデレート学習のための新しいクライアントレベルの属性プロトコルであるFedAttrを提案する。 FedAttrは、ペア化されたサブセット差分メカニズムを通じて、ウォーターマークされたデータでトレーニングされたクライアントを特定する。 100%のTPRと0%のFPRを達成し、TPRでは少なくとも44.4%、FPRでは19.1%を上回り、FLトレーニング時間に比べて6.3%のオーバーヘッドしか残っていない。
  論文  参考訳（メタデータ） (2026-05-07T17:21:02Z)
• Beyond Single-Agent Alignment: Preventing Context-Fragmented Violations in Multi-Agent Systems [10.660248467840821]
  新たなセキュリティリスクの特定と形式化:CFV(Context-Fragmented Violations) CFVは、個々のエージェントの行動が局所的に安全かつ合理的に見えるが、全体として組織的方針に反する政策違反の類である。 分散ゼロトラスト適用アーキテクチャである分散センチネルを提案する。
  論文  参考訳（メタデータ） (2026-04-24T03:08:52Z)
• BackdoorAgent: A Unified Framework for Backdoor Attacks on LLM-based Agents [58.83028403414688]
  大規模言語モデル(LLM)エージェントは、計画、メモリ、ツールの使用を組み合わせた多段階ワークフローを通じてタスクを実行する。 エージェントワークフローの特定のステージに注入されたバックドアトリガーは、複数の中間状態を通して持続し、下流出力に悪影響を及ぼす可能性がある。 LLMエージェントにおけるバックドア脅威を統一したエージェント中心のビューを提供するモジュールおよびステージアウェアフレームワークである textbfBackdoorAgent を提案する。
  論文  参考訳（メタデータ） (2026-01-08T03:49:39Z)
• PSG-Agent: Personality-Aware Safety Guardrail for LLM-based Agents [60.23552141928126]
  PSG-AgentはLLMベースのエージェントのためのパーソナライズされた動的システムである。 まずPSG-Agentは、安定した特性のために相互作用履歴をマイニングすることでパーソナライズされたガードレールを作成する。 第二に、PSG-Agentは特別なガードでエージェントパイプラインを横断する継続的監視を実装している。
  論文  参考訳（メタデータ） (2025-09-28T03:31:59Z)
• BlindGuard: Safeguarding LLM-based Multi-Agent Systems under Unknown Attacks [58.959622170433725]
  BlindGuardは、攻撃固有のラベルや悪意のある振る舞いに関する事前の知識を必要とせずに学習する、教師なしの防御方法である。 BlindGuardはマルチエージェントシステムにまたがる多様な攻撃タイプ(即時注入、メモリ中毒、ツール攻撃)を効果的に検出する。
  論文  参考訳（メタデータ） (2025-08-11T16:04:47Z)
• CrowdGuard: Federated Backdoor Detection in Federated Learning [39.58317527488534]
  本稿では,フェデレートラーニングにおけるバックドア攻撃を効果的に軽減する新しい防御機構であるCrowdGuardを提案する。 CrowdGuardでは、サーバロケーションのスタック化されたクラスタリングスキームを使用して、クライアントからのフィードバックに対するレジリエンスを高めている。 評価結果は、CrowdGuardがさまざまなシナリオで100%正の正の正の正の負の負の負の値を達成することを示す。
  論文  参考訳（メタデータ） (2022-10-14T11:27:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。