論文の概要: GUARDIAN: Safeguarding LLM Multi-Agent Collaborations with Temporal Graph Modeling

• arxiv url: http://arxiv.org/abs/2505.19234v1
• Date: Sun, 25 May 2025 17:15:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-27 16:58:42.992937
• Title: GUARDIAN: Safeguarding LLM Multi-Agent Collaborations with Temporal Graph Modeling
• Title（参考訳）: GUARDIAN: 時間グラフモデリングによるLLMマルチエージェントコラボレーションの保護
• Authors: Jialong Zhou, Lichao Wang, Xiao Yang,
• Abstract要約: 大規模言語モデル (LLM) は、複雑な対話や多ターン対話を行えるインテリジェントエージェントの開発を可能にする。 GUARDIANは、GUARDing Intelligent Agent ColllaboratioNsにおいて、複数の安全上の懸念を検出し緩和するための統一的な方法である。
• 参考スコア（独自算出の注目度）: 2.7211182721830123
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The emergence of large language models (LLMs) enables the development of intelligent agents capable of engaging in complex and multi-turn dialogues. However, multi-agent collaboration face critical safety challenges, such as hallucination amplification and error injection and propagation. This paper presents GUARDIAN, a unified method for detecting and mitigating multiple safety concerns in GUARDing Intelligent Agent collaboratioNs. By modeling the multi-agent collaboration process as a discrete-time temporal attributed graph, GUARDIAN explicitly captures the propagation dynamics of hallucinations and errors. The unsupervised encoder-decoder architecture incorporating an incremental training paradigm, learns to reconstruct node attributes and graph structures from latent embeddings, enabling the identification of anomalous nodes and edges with unparalleled precision. Moreover, we introduce a graph abstraction mechanism based on the Information Bottleneck Theory, which compresses temporal interaction graphs while preserving essential patterns. Extensive experiments demonstrate GUARDIAN's effectiveness in safeguarding LLM multi-agent collaborations against diverse safety vulnerabilities, achieving state-of-the-art accuracy with efficient resource utilization.
• Abstract（参考訳）: 大規模言語モデル(LLM)の出現により、複雑な対話や多ターン対話を行えるインテリジェントエージェントの開発が可能になる。 しかし、マルチエージェントのコラボレーションは、幻覚の増幅やエラー注入、伝播といった重要な安全上の課題に直面している。 本稿では,GUARDIANについて述べる。GUARDing Intelligent Agent ColllaboratioNsにおいて,複数の安全問題を検出し緩和するための統一手法である。 GUARDIANは、マルチエージェントコラボレーションプロセスを離散時間時属性グラフとしてモデル化することにより、幻覚やエラーの伝播ダイナミクスを明示的に捉える。 インクリメンタルトレーニングパラダイムを取り入れた教師なしエンコーダ・デコーダアーキテクチャでは,ノード属性とグラフ構造を遅延埋め込みから再構築し,異常ノードとエッジを非並列的精度で識別する。 さらに,本質的なパターンを保ちながら時間的相互作用グラフを圧縮するInformation Bottleneck Theoryに基づくグラフ抽象化機構を導入する。 広範囲にわたる実験により、GUARDIANは多様な安全性の脆弱性に対してLLMのマルチエージェントコラボレーションを保護し、効率的な資源利用によって最先端の精度を達成した。

関連論文リスト

• Scaling Large Language Model-based Multi-Agent Collaboration [72.8998796426346]
  近年の大規模言語モデル駆動型自律エージェントのブレークスルーにより、複数エージェントのコラボレーションが集団的推論を通じて各個人を上回ることが判明している。 本研究は、協調剤の連続的な添加が同様の利益をもたらすかどうかを考察する。
  論文  参考訳（メタデータ） (2024-06-11T11:02:04Z)
• Secret Collusion among Generative AI Agents: Multi-Agent Deception via Steganography [43.468790060808914]
  近年の大規模言語モデル(LLM)では,コミュニケーション生成AIエージェントのグループによる共同作業の解決が試みられている。 これは、未承認の情報共有に関するプライバシーとセキュリティ上の問題を引き起こす。 現代のステガノグラフィー技術は、そのようなダイナミクスを検出しにくくする。
  論文  参考訳（メタデータ） (2024-02-12T09:31:21Z)
• Self-Supervised Neuron Segmentation with Multi-Agent Reinforcement Learning [53.00683059396803]
  マスク画像モデル(MIM)は,マスク画像から元の情報を復元する簡便さと有効性から広く利用されている。 本稿では、強化学習(RL)を利用して最適な画像マスキング比とマスキング戦略を自動検索する決定に基づくMIMを提案する。 本手法は,ニューロン分節の課題において,代替自己監督法に対して有意な優位性を有する。
  論文  参考訳（メタデータ） (2023-10-06T10:40:46Z)
• MADiff: Offline Multi-agent Learning with Diffusion Models [79.18130544233794]
  MADiffは拡散型マルチエージェント学習フレームワークである。 分散ポリシと集中型コントローラの両方として機能する。 実験の結果,MADiffは様々なマルチエージェント学習タスクにおいて,ベースラインアルゴリズムよりも優れていた。
  論文  参考訳（メタデータ） (2023-05-27T02:14:09Z)
• Decentralized Adversarial Training over Graphs [44.03711922549992]
  近年、敵攻撃に対する機械学習モデルの脆弱性が注目されている。 マルチエージェントシステムのための分散逆数フレームワークを開発する。
  論文  参考訳（メタデータ） (2023-03-23T15:05:16Z)
• Soft Hierarchical Graph Recurrent Networks for Many-Agent Partially Observable Environments [9.067091068256747]
  本稿では,階層型グラフ再帰ネットワーク(HGRN)と呼ばれる新しいネットワーク構造を提案する。 以上の技術に基づいて,Soft-HGRNと呼ばれる値に基づくMADRLアルゴリズムと,SAC-HRGNというアクタクリティカルな変種を提案する。
  論文  参考訳（メタデータ） (2021-09-05T09:51:25Z)
• Multi-Agent Imitation Learning with Copulas [102.27052968901894]
  マルチエージェント模倣学習は、観察と行動のマッピングを学習することで、デモからタスクを実行するために複数のエージェントを訓練することを目的としている。 本稿では,確率変数間の依存を捉える強力な統計ツールである copula を用いて,マルチエージェントシステムにおける相関関係と協調関係を明示的にモデル化する。 提案モデルでは,各エージェントの局所的行動パターンと,エージェント間の依存構造のみをフルにキャプチャするコプラ関数を別々に学習することができる。
  論文  参考訳（メタデータ） (2021-07-10T03:49:41Z)
• Graph Backdoor [53.70971502299977]
  GTAはグラフニューラルネットワーク(GNN)に対する最初のバックドア攻撃である。 GTAは、トポロジカル構造と記述的特徴の両方を含む特定の部分グラフとしてトリガーを定義する。 トランスダクティブ(ノード分類など)とインダクティブ(グラフ分類など)の両方のタスクに対してインスタンス化することができる。
  論文  参考訳（メタデータ） (2020-06-21T19:45:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。