論文の概要: Interpreting Emergent Extreme Events in Multi-Agent Systems

• arxiv url: http://arxiv.org/abs/2601.20538v1
• Date: Wed, 28 Jan 2026 12:32:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-29 15:46:06.923948
• Title: Interpreting Emergent Extreme Events in Multi-Agent Systems
• Title（参考訳）: マルチエージェントシステムにおける創発的極端事象の解釈
• Authors: Ling Tang, Jilin Mei, Dongrui Liu, Chen Qian, Dawei Cheng, Jing Shao, Xia Hu,
• Abstract要約: 本稿では,マルチエージェントシステムにおける創発的極端な事象を説明するための最初のフレームワークを提案する。 具体的には、Shapley値を適用して、エージェントによって取られた各アクションに対して極端なイベントの発生を忠実に評価する。 次に、時間、エージェント、行動の次元に沿って属性スコアを集約し、各次元のリスクコントリビューションを定量化する。
• 参考スコア（独自算出の注目度）: 68.6629534508585
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language model-powered multi-agent systems have emerged as powerful tools for simulating complex human-like systems. The interactions within these systems often lead to extreme events whose origins remain obscured by the black box of emergence. Interpreting these events is critical for system safety. This paper proposes the first framework for explaining emergent extreme events in multi-agent systems, aiming to answer three fundamental questions: When does the event originate? Who drives it? And what behaviors contribute to it? Specifically, we adapt the Shapley value to faithfully attribute the occurrence of extreme events to each action taken by agents at different time steps, i.e., assigning an attribution score to the action to measure its influence on the event. We then aggregate the attribution scores along the dimensions of time, agent, and behavior to quantify the risk contribution of each dimension. Finally, we design a set of metrics based on these contribution scores to characterize the features of extreme events. Experiments across diverse multi-agent system scenarios (economic, financial, and social) demonstrate the effectiveness of our framework and provide general insights into the emergence of extreme phenomena.
• Abstract（参考訳）: 大規模言語モデルを用いたマルチエージェントシステムは、複雑な人間のようなシステムをシミュレートするための強力なツールとして登場した。 これらの系内の相互作用はしばしば、発生のブラックボックスによって起源が隠蔽されている極端な事象を引き起こす。 これらのイベントを解釈することは、システムの安全性にとって重要なことです。 本稿では,マルチエージェントシステムにおける創発的極端事象を説明するための最初のフレームワークを提案する。 誰が運転するの? そして、どのような行動がそれに寄与するのか? 具体的には、Shapley値を適用して、エージェントが異なる時間ステップで行う各アクション、すなわち、そのイベントへの影響を測定するために、属性スコアをアクションに割り当てる、極端なイベントの発生を忠実に評価する。 次に、時間、エージェント、行動の次元に沿って属性スコアを集約し、各次元のリスクコントリビューションを定量化する。 最後に、これらのコントリビューションスコアに基づいて一連のメトリクスを設計し、極端なイベントの特徴を特徴づける。 多様なマルチエージェントシステムシナリオ(経済、金融、社会)にわたる実験は、我々の枠組みの有効性を実証し、極端な現象の出現に関する一般的な洞察を提供する。

関連論文リスト

• The Why Behind the Action: Unveiling Internal Drivers via Agentic Attribution [63.61358761489141]
  LLM(Large Language Model)ベースのエージェントは、カスタマーサービス、Webナビゲーション、ソフトウェアエンジニアリングといった現実世界のアプリケーションで広く使われている。 本稿では,タスク結果に関係なく,エージェントの動作を駆動する内部要因を識別する,テキスト汎用エージェント属性のための新しいフレームワークを提案する。 標準ツールの使用やメモリ誘起バイアスのような微妙な信頼性リスクなど、さまざまなエージェントシナリオでフレームワークを検証する。
  論文  参考訳（メタデータ） (2026-01-21T15:22:21Z)
• DeceptionBench: A Comprehensive Benchmark for AI Deception Behaviors in Real-world Scenarios [57.327907850766785]
  現実的な現実のシナリオにまたがる騙しのキャラクタリゼーションは未解明のままである。 DeceptionBenchは、さまざまなドメインにまたがる認知傾向を体系的に評価する最初のベンチマークです。 本研究は,本質的な側面から,ユーザ満足度を優先する自己関心のエゴスティックな傾向を示すモデルや,サイコファンティックな行動を示すモデルについて検討する。 実世界のフィードバックダイナミクスのより現実的なシミュレーションを構築するために,持続的マルチターン相互作用ループを組み込んだ。
  論文  参考訳（メタデータ） (2025-10-17T10:14:26Z)
• Timescale-agnostic characterisation for collective attention events [0.0]
  Twitter上のハッシュタグの使用には,トピックに対する注意パターンの異なる4つの特徴がある。 本研究では,これらの現象の発生に影響を及ぼす要因を調べるため,エージェントベースモデルを構築した。
  論文  参考訳（メタデータ） (2024-11-18T12:01:59Z)
• Episodic Future Thinking Mechanism for Multi-agent Reinforcement Learning [2.992602379681373]
  本稿では、強化学習(RL)エージェントのためのエピソード・フューチャー・シンキング(EFT)機構を導入する。 まず、異種ポリシーのアンサンブルで多様な文字をキャプチャするマルチ文字ポリシーを開発する。 キャラクタが推論されると、エージェントはターゲットエージェントの今後のアクションを予測し、将来のシナリオをシミュレートする。
  論文  参考訳（メタデータ） (2024-10-22T19:12:42Z)
• BattleAgent: Multi-modal Dynamic Emulation on Historical Battles to Complement Historical Analysis [62.60458710368311]
  本稿では,大規模視覚言語モデルとマルチエージェントシステムを組み合わせたエミュレーションシステムであるBattleAgentを提案する。 複数のエージェント間の複雑な動的相互作用をシミュレートし、エージェントとその環境をシミュレートすることを目的としている。 指導者の意思決定プロセスと、兵士のような一般参加者の視点の両方をエミュレートする。
  論文  参考訳（メタデータ） (2024-04-23T21:37:22Z)
• Clustering-based Identification of Precursors of Extreme Events in Chaotic Systems [0.0]
  力学系の状態における急激かつ急激な高振幅変化は、極端事象と呼ばれる。 カオスシステムにおける希少かつ極端な事象の前駆体を特定するために,データ駆動のモジュラリティに基づくクラスタリング手法の適用性を検討した。
  論文  参考訳（メタデータ） (2023-06-20T12:38:38Z)
• Modeling Complex Event Scenarios via Simple Entity-focused Questions [58.16787028844743]
  複雑なシナリオにおけるイベントを参加者に関する質問に対する回答としてモデル化する質問誘導生成フレームワークを提案する。 生成プロセスの任意のステップでは、フレームワークは以前に生成されたイベントをコンテキストとして使用するが、3つの質問の1つに対する回答として次のイベントを生成する。 私たちの経験的評価は、この質問誘導世代が、参加者のより優れたカバレッジ、ドメイン内の多様なイベント、イベントシーケンスのモデリングにおける同等の難易度を提供することを示している。
  論文  参考訳（メタデータ） (2023-02-14T15:48:56Z)
• Beyond Grounding: Extracting Fine-Grained Event Hierarchies Across Modalities [43.048896440009784]
  マルチモーダル(ビデオとテキスト)データからイベント階層を抽出するタスクを提案する。 これはイベントの構造を明らかにし、それらを理解するのに不可欠である。 我々は,この課題に対して,最先端のユニモーダルベースラインとマルチモーダルベースラインの限界を示す。
  論文  参考訳（メタデータ） (2022-06-14T23:24:15Z)
• CausalCity: Complex Simulations with Agency for Causal Discovery and Reasoning [68.74447489372037]
  本稿では,因果探索と反事実推論のためのアルゴリズムの開発を目的とした,高忠実度シミュレーション環境を提案する。 私たちの作業の中核となるコンポーネントは、複雑なシナリオを定義して作成することが簡単になるような、テキストの緊急性を導入することです。 我々は3つの最先端の手法による実験を行い、ベースラインを作成し、この環境の可利用性を強調する。
  論文  参考訳（メタデータ） (2021-06-25T00:21:41Z)
• Modelling Cooperation in Network Games with Spatio-Temporal Complexity [11.665246332943058]
  複雑なグリッドワールドドメインにおける自己組織化協調の出現について検討する。 マルチエージェント深層強化学習を用いて,エージェント・ソサエティの多種多様なメカニズムをシミュレートした。 本手法は,人間および人工エージェントシステムにおける機構設計に影響を及ぼす。
  論文  参考訳（メタデータ） (2021-02-13T12:04:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。