論文の概要: Escaping Local Views: Discovering Latent Concepts for Interpretable Multi-Agent Reinforcement Learning

• arxiv url: http://arxiv.org/abs/2609.34459v1
• Date: Mon, 28 Sep 2026 07:17:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 13:25:01.802025
• Title: Escaping Local Views: Discovering Latent Concepts for Interpretable Multi-Agent Reinforcement Learning
• Title（参考訳）: ローカルビューのエスケープ:解釈可能なマルチエージェント強化学習のための潜在概念の発見
• Abstract要約: ローカルビュー(ELV)のエスケープは、ポリシー決定を透過的に行うために、意味的に構造化された潜在概念を導入します。 各エージェントの決定を明示的にモデル化するために、デュアルパスアテンション機構を用いる。 ELVは競争力のあるパフォーマンスを実現し、エージェントが意思決定をどう考えるかを明確に提供します。
• 参考スコア（独自算出の注目度）: 20.688539273207677
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Efficient cooperation is challenging due to the usual partial observability of each agent in multi-agent reinforcement learning. Recurrent networks encode local interaction histories, but their hidden representations provide limited insight into the information underlying individual decisions. To address these challenges, we propose a novel interpretable framework, called escaping local views (ELV), which introduces semantically structured latent concepts to render policy decisions transparent. Specifically, each agent extracts low-dimensional semantic concepts from its local observation and action-observation trajectory. These concepts are jointly encoded into a contextual latent variable via a variational autoencoder (VAE), which builds a bridge between local views and global semantics. To explicitly model the decision of each agent, we employ a dual-path attention mechanism in which one module estimates the salience of individual concepts relative to the global context, while the other captures higher-order cooperative patterns with pairwise concept interactions. Furthermore, we incorporate a concept prediction module that derives an intrinsic reward from next-concept prediction errors, which incentivizes agents to explore regions of semantic novelty. Experiments in multiple environments verify that ELV not only achieves competitive performance but also explicitly provides how agents reason about their decisions.
• Abstract（参考訳）: 多エージェント強化学習における各エージェントの通常の部分観察可能性のため、効率的な協調は困難である。 リカレントネットワークは、局所的な相互作用履歴を符号化するが、その隠された表現は、個々の決定の根底にある情報について限られた洞察を与える。 これらの課題に対処するために、我々は、ポリシー決定を透過的に行うために意味論的に構造化された潜在概念を導入する、ELV(Escaping Local view)と呼ばれる新しい解釈可能なフレームワークを提案する。 具体的には、各エージェントは局所的な観察と行動観察の軌跡から低次元の意味概念を抽出する。 これらの概念は、ローカルビューとグローバルセマンティクスの間のブリッジを構築する可変オートエンコーダ(VAE)を介して、コンテキスト潜在変数に共同でエンコードされる。 各エージェントの判断を明示的にモデル化するために、一方のモジュールがグローバルなコンテキストに対する個々の概念のサリエンスを推定し、他方のモジュールはペアのコンセプト相互作用による高次協調パターンをキャプチャするデュアルパスアテンション機構を用いる。 さらに,次の概念予測誤差から本質的な報酬を導出する概念予測モジュールを導入し,エージェントに意味的ノベルティの領域を探索する動機付けを行う。 複数の環境での実験では、ELVが競争性能を達成するだけでなく、エージェントが意思決定をどう判断するかを明確に示している。

関連論文リスト

• Unleashing Multimodal Large Language Models for Training-free HOI Detection in the Wild [49.77540427384148]
  本稿では,基礎モデルの汎用的マルチモーダル推論能力を野生でのHOI検出に伝達する,訓練不要なエージェント型フレームワークであるAgenHoIを提案する。 不完全な相互作用発見と複雑な場面におけるあいまいな局所化の課題に対処するために,2つの重要なメカニズムを導入する。 AgentHOIは、リアルタイム設定において、最先端の教師付きおよび弱教師付きメソッドよりも優れたパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2026-07-15T14:30:20Z)
• FaCT: Faithful Concept Traces for Explaining Neural Network Decisions [56.796533084868884]
  ディープネットワークは、幅広いタスクで顕著なパフォーマンスを示しているが、それらの機能に関するグローバルな概念レベルの理解は、依然として重要な課題である。 本稿では,概念に基づく説明の忠実さを強調し,モデル独立な機械的概念説明を用いた新しいモデルを提案する。 私たちの概念はクラス間で共有され、あらゆるレイヤから、ロジットへの貢献と入力-視覚化を忠実にトレースすることができます。
  論文  参考訳（メタデータ） (2025-10-29T13:35:46Z)
• Concept Layers: Enhancing Interpretability and Intervenability via LLM Conceptualization [2.163881720692685]
  本稿では,概念層をアーキテクチャに組み込むことにより,解釈可能性とインターベンタビリティを既存モデルに組み込む新しい手法を提案する。 我々のアプローチは、モデルの内部ベクトル表現を、再構成してモデルにフィードバックする前に、概念的で説明可能なベクトル空間に投影する。 複数のタスクにまたがるCLを評価し、本来のモデルの性能と合意を維持しつつ、意味のある介入を可能にしていることを示す。
  論文  参考訳（メタデータ） (2025-02-19T11:10:19Z)
• Locally Testing Model Detections for Semantic Global Concepts [3.112979958793927]
  本稿では,グローバルな概念エンコーディングを単一ネットワーク入力の局所処理にリンクするフレームワークを提案する。 提案手法は,セマンティック概念のモデル内符号化を完全に網羅する利点がある。 その結果, 個々のグローバルな概念エンコーディングの局所的認識と使用法に大きな違いが認められた。
  論文  参考訳（メタデータ） (2024-05-27T12:52:45Z)
• Sparsity-Guided Holistic Explanation for LLMs with Interpretable Inference-Time Intervention [53.896974148579346]
  大規模言語モデル(LLM)は、様々な自然言語処理領域において前例のないブレークスルーを達成した。 LLMの謎的なブラックボックスの性質は、透過的で説明可能なアプリケーションを妨げる、解釈可能性にとって重要な課題である。 本稿では,LLMの全体的解釈を提供することを目的として,スポーシティ誘導技術に係わる新しい方法論を提案する。
  論文  参考訳（メタデータ） (2023-12-22T19:55:58Z)
• Interactive Autonomous Navigation with Internal State Inference and Interactivity Estimation [58.21683603243387]
  本稿では,関係時間的推論を伴う3つの補助的タスクを提案し,それらを標準のディープラーニングフレームワークに統合する。 これらの補助的なタスクは、他の対話的エージェントの行動パターンを推測するための追加の監視信号を提供する。 提案手法は,標準評価指標の観点から,頑健かつ最先端のパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2023-11-27T18:57:42Z)
• Concept-Centric Transformers: Enhancing Model Interpretability through Object-Centric Concept Learning within a Shared Global Workspace [1.6574413179773757]
  概念中心変換器は、解釈可能性のための共有グローバルワークスペースの単純かつ効果的な構成である。 本モデルでは,すべての問題に対して,すべてのベースラインの分類精度が向上することを示す。
  論文  参考訳（メタデータ） (2023-05-25T06:37:39Z)
• Unsupervised Learning of Compositional Energy Concepts [70.11673173291426]
  本稿では,概念を別個のエネルギー関数として発見し,表現するCOMETを提案する。 Cometは、統一されたフレームワークの下でのオブジェクトだけでなく、グローバルな概念も表現します。
  論文  参考訳（メタデータ） (2021-11-04T17:46:12Z)
• Visual Concept Reasoning Networks [93.99840807973546]
  分割変換マージ戦略は、視覚認識タスクのための畳み込みニューラルネットワークのアーキテクチャ制約として広く使用されている。 我々は、この戦略を利用して、高レベルの視覚概念間の推論を可能にするために、Visual Concept Reasoning Networks (VCRNet) と組み合わせることを提案する。 提案するモデルであるVCRNetは、パラメータ数を1%以下にすることで、一貫して性能を向上する。
  論文  参考訳（メタデータ） (2020-08-26T20:02:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。