論文の概要: Evaluating and Improving Graph-based Explanation Methods for Multi-Agent Coordination

• arxiv url: http://arxiv.org/abs/2502.09889v1
• Date: Fri, 14 Feb 2025 03:25:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-17 14:46:57.873334
• Title: Evaluating and Improving Graph-based Explanation Methods for Multi-Agent Coordination
• Title（参考訳）: マルチエージェントコーディネーションのためのグラフベース説明手法の評価と改善
• Authors: Siva Kailas, Shalin Jain, Harish Ravichandar,
• Abstract要約: グラフニューラルネットワーク(GNN)が採用され、マルチロボットとマルチエージェント学習に極めて有効であることが示されている。 複数エージェントの協調関係を説明するための既存のGNN説明手法の適合性について検討し,その特徴付けを行う。 本稿では,GATベースのポリシーを既存のグラフベースの説明書に適応できるような注意エントロピー正規化項を提案する。
• 参考スコア（独自算出の注目度）: 1.1137087573421256
• License:
• Abstract: Graph Neural Networks (GNNs), developed by the graph learning community, have been adopted and shown to be highly effective in multi-robot and multi-agent learning. Inspired by this successful cross-pollination, we investigate and characterize the suitability of existing GNN explanation methods for explaining multi-agent coordination. We find that these methods have the potential to identify the most-influential communication channels that impact the team's behavior. Informed by our initial analyses, we propose an attention entropy regularization term that renders GAT-based policies more amenable to existing graph-based explainers. Intuitively, minimizing attention entropy incentivizes agents to limit their attention to the most influential or impactful agents, thereby easing the challenge faced by the explainer. We theoretically ground this intuition by showing that minimizing attention entropy increases the disparity between the explainer-generated subgraph and its complement. Evaluations across three tasks and three team sizes i) provides insights into the effectiveness of existing explainers, and ii) demonstrates that our proposed regularization consistently improves explanation quality without sacrificing task performance.
• Abstract（参考訳）: グラフ学習コミュニティが開発したグラフニューラルネットワーク(GNN)は,マルチロボットとマルチエージェント学習に極めて有効であることが示されている。 このクロスポリン化の成功にインスパイアされ、我々は既存のGNN説明法がマルチエージェントコーディネートを説明するための適性について検討し、特徴づける。 これらの手法は、チームの振る舞いに影響を与える最も影響力のあるコミュニケーションチャネルを識別する可能性があることが分かりました。 初期分析により,GATに基づくポリシーを既存のグラフベースの説明書に適合させる注意エントロピー正規化項を提案する。 直感的には、注意のエントロピーを最小化することで、エージェントは最も影響力のある、あるいは影響力のあるエージェントに注意を限定するインセンティブを与える。 理論的には、注意エントロピーの最小化が説明文生成部分グラフと補グラフとの相違を増大させることを示すことによって、この直観を裏付ける。 3つのタスクと3つのチームサイズにまたがる評価 一 既存の説明書の有効性についての洞察を与え、 二 タスク性能を犠牲にすることなく、提案した正規化が説明品質を一貫して改善することを示す。

関連論文リスト

• Contrastive Token-level Explanations for Graph-based Rumour Detection [4.626073646852022]
  ソーシャルメディアは、経済を混乱させ、政治的成果に影響を与え、公衆衛生の危機を悪化させる有害な噂の拡散を促進してきた。 グラフニューラルネットワーク(GNN)ベースのアプローチは、自動噂検出において大きな可能性を秘めている。 既存のグラフ説明可能性技術は、高次元テキスト埋め込みにおける特徴次元間の依存関係によって生じる固有の課題に対処するには不十分である。
  論文  参考訳（メタデータ） (2025-02-05T07:14:11Z)
• Resilient Graph Neural Networks: A Coupled Dynamical Systems Approach [12.856220339384269]
  グラフニューラルネットワーク(GNN)は、さまざまなグラフベースのタスクに対処するための重要なコンポーネントとして、自らを確立している。 彼らの顕著な成功にもかかわらず、GNNは相変わらず敵の攻撃の形で摂動を入力できる。 本稿では, 連成力学系のレンズを用いて, 対向摂動に対するGNNの強化手法を提案する。
  論文  参考訳（メタデータ） (2023-11-12T20:06:48Z)
• Collaborative Information Dissemination with Graph-based Multi-Agent Reinforcement Learning [2.9904113489777826]
  本稿では,効率的な情報伝達のためのマルチエージェント強化学習(MARL)手法を提案する。 本稿では,各エージェントが個別にメッセージ転送を決定するための情報発信のための部分観測可能なゲーム(POSG)を提案する。 実験の結果,既存の手法よりも訓練済みの方針が優れていることがわかった。
  論文  参考訳（メタデータ） (2023-08-25T21:30:16Z)
• Semantic Interpretation and Validation of Graph Attention-based Explanations for GNN Models [9.260186030255081]
  本稿では,グラフニューラルネットワーク(GNN)に基づくモデルの説明可能性を高めるために,意味的注意力を用いた手法を提案する。 本研究は,注意分布のばらつきを意味的にソートした特徴集合と関連づけることで,既存の注意グラフ説明可能性手法を拡張した。 提案手法をライダーポイントクラウド推定モデルに適用し,性能向上に寄与する主要なセマンティッククラスを同定する。
  論文  参考訳（メタデータ） (2023-08-08T12:34:32Z)
• DEGREE: Decomposition Based Explanation For Graph Neural Networks [55.38873296761104]
  我々は,GNN予測に対する忠実な説明を提供するためにDGREEを提案する。 GNNの情報生成と集約機構を分解することにより、DECREEは入力グラフの特定のコンポーネントのコントリビューションを最終的な予測に追跡することができる。 また,従来の手法で見過ごされるグラフノード間の複雑な相互作用を明らかにするために,サブグラフレベルの解釈アルゴリズムを設計する。
  論文  参考訳（メタデータ） (2023-05-22T10:29:52Z)
• GIF: A General Graph Unlearning Strategy via Influence Function [63.52038638220563]
  Graph Influence Function (GIF)は、削除されたデータにおける$epsilon$-massの摂動に応答してパラメータの変化を効率的に正確に推定できる、モデルに依存しない未学習の手法である。 我々は,4つの代表的GNNモデルと3つのベンチマークデータセットについて広範な実験を行い,未学習の有効性,モデルの有用性,未学習効率の観点からGIFの優位性を正当化する。
  論文  参考訳（メタデータ） (2023-04-06T03:02:54Z)
• Causally-guided Regularization of Graph Attention Improves Generalizability [69.09877209676266]
  本稿では,グラフアテンションネットワークのための汎用正規化フレームワークであるCARを紹介する。 メソッド名は、グラフ接続に対するアクティブ介入の因果効果とアテンションメカニズムを一致させる。 ソーシャル・メディア・ネットワーク規模のグラフでは、CAR誘導グラフ再構成アプローチにより、グラフの畳み込み手法のスケーラビリティとグラフの注意力の向上を両立させることができる。
  論文  参考訳（メタデータ） (2022-10-20T01:29:10Z)
• Soft Hierarchical Graph Recurrent Networks for Many-Agent Partially Observable Environments [9.067091068256747]
  本稿では,階層型グラフ再帰ネットワーク(HGRN)と呼ばれる新しいネットワーク構造を提案する。 以上の技術に基づいて,Soft-HGRNと呼ばれる値に基づくMADRLアルゴリズムと,SAC-HRGNというアクタクリティカルな変種を提案する。
  論文  参考訳（メタデータ） (2021-09-05T09:51:25Z)
• Towards Deeper Graph Neural Networks [63.46470695525957]
  グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。 いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。 本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
  論文  参考訳（メタデータ） (2020-07-18T01:11:14Z)
• Graph Backdoor [53.70971502299977]
  GTAはグラフニューラルネットワーク(GNN)に対する最初のバックドア攻撃である。 GTAは、トポロジカル構造と記述的特徴の両方を含む特定の部分グラフとしてトリガーを定義する。 トランスダクティブ(ノード分類など)とインダクティブ(グラフ分類など)の両方のタスクに対してインスタンス化することができる。
  論文  参考訳（メタデータ） (2020-06-21T19:45:30Z)
• Graph Representation Learning via Graphical Mutual Information Maximization [86.32278001019854]
  本稿では,入力グラフとハイレベルな隠蔽表現との相関を測る新しい概念であるGMIを提案する。 我々は,グラフニューラルエンコーダの入力と出力の間でGMIを最大化することで訓練された教師なし学習モデルを開発する。
  論文  参考訳（メタデータ） (2020-02-04T08:33:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。