論文の概要: Emergent Bias and Fairness in Multi-Agent Decision Systems

• arxiv url: http://arxiv.org/abs/2512.16433v1
• Date: Thu, 18 Dec 2025 11:37:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-12-19 18:10:32.03359
• Title: Emergent Bias and Fairness in Multi-Agent Decision Systems
• Title（参考訳）: マルチエージェント決定システムにおける創発バイアスと公正性
• Authors: Maeve Madigan, Parameswaran Kamalaruban, Glenn Moynihan, Tom Kempton, David Sutton, Stuart Burrell,
• Abstract要約: 我々は,マルチエージェント予測システムの公平性評価手法を開発した。 個別のエージェントコンポーネントに追従できない金融意思決定における創発的バイアスのパターンについて検討する。 本研究は,金融マルチエージェントシステムにおける公正リスクがモデルリスクの重要な構成要素であることを示す。
• 参考スコア（独自算出の注目度）: 4.241996950291878
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multi-agent systems have demonstrated the ability to improve performance on a variety of predictive tasks by leveraging collaborative decision making. However, the lack of effective evaluation methodologies has made it difficult to estimate the risk of bias, making deployment of such systems unsafe in high stakes domains such as consumer finance, where biased decisions can translate directly into regulatory breaches and financial loss. To address this challenge, we need to develop fairness evaluation methodologies for multi-agent predictive systems and measure the fairness characteristics of these systems in the financial tabular domain. Examining fairness metrics using large-scale simulations across diverse multi-agent configurations, with varying communication and collaboration mechanisms, we reveal patterns of emergent bias in financial decision-making that cannot be traced to individual agent components, indicating that multi-agent systems may exhibit genuinely collective behaviors. Our findings highlight that fairness risks in financial multi-agent systems represent a significant component of model risk, with tangible impacts on tasks such as credit scoring and income estimation. We advocate that multi-agent decision systems must be evaluated as holistic entities rather than through reductionist analyses of their constituent components.
• Abstract（参考訳）: マルチエージェントシステムは、協調的な意思決定を活用することで、様々な予測タスクのパフォーマンスを向上させる能力を示した。 しかし, 効果的な評価手法の欠如により, 消費者金融などの高利害関係領域において, バイアスのリスクを見積もることが難しくなっている。 この課題に対処するために、我々は、マルチエージェント予測システムの公正性評価手法を開発し、金融表領域におけるこれらのシステムの公正性特性を測定する必要がある。 多様なマルチエージェント構成にまたがる大規模シミュレーションを用いた公正度測定を行い, 個別のエージェントに追跡できない金融意思決定における創発的バイアスのパターンを明らかにし, マルチエージェントシステムは真に集団的行動を示す可能性があることを示す。 本研究は,金融マルチエージェントシステムにおける公正リスクがモデルリスクの重要な構成要素であり,信用スコアや所得推定といったタスクに有意な影響を及ぼすことを示す。 我々は,多エージェント決定システムは,構成成分の還元論的な分析よりも,全体論的実体として評価されなければならないことを主張する。

関連論文リスト

• QuantAgents: Towards Multi-agent Financial System via Simulated Trading [40.636918662488505]
  QuantAgentsは、シミュレーショントレーディングを統合するマルチエージェントシステムである。 QuantAgentsは、シミュレートされたトレーディングアナリスト、リスクコントロールアナリスト、マーケットニュースアナリスト、マネージャの4つのエージェントで構成されている。 本システムは,実世界の市場におけるパフォーマンスと,模擬取引における予測精度の2つの側面からフィードバックを受けるためのエージェントを動機付けている。
  論文  参考訳（メタデータ） (2025-10-06T09:45:57Z)
• Can an Individual Manipulate the Collective Decisions of Multi-Agents? [53.01767232004823]
  M-Spoilerは、マルチエージェントシステム内のエージェントインタラクションをシミュレートして、対向サンプルを生成するフレームワークである。 M-スポイラーは、敵対的サンプルの最適化を積極的に支援するスタブボーン剤を導入した。 本研究は,マルチエージェントシステムにおける個々のエージェントの知識によって引き起こされるリスクを検証した。
  論文  参考訳（メタデータ） (2025-09-20T01:54:20Z)
• ContestTrade: A Multi-Agent Trading System Based on Internal Contest Mechanism [8.46483000946212]
  大規模言語モデル(LLM)に基づくエージェントは、金融取引において大きな可能性を示す。 マーケットノイズに対する高い感度は、LLMベースのトレーディングシステムの性能を損なう。 本稿では,現代企業経営構造にインスパイアされた内部競争機構を特徴とする新しいマルチエージェントシステムを提案する。
  論文  参考訳（メタデータ） (2025-08-01T11:48:13Z)
• SafeMobile: Chain-level Jailbreak Detection and Automated Evaluation for Multimodal Mobile Agents [58.21223208538351]
  本研究は,モバイルマルチモーダルエージェントを取り巻くセキュリティ問題について考察する。 行動シーケンス情報を組み込んだリスク識別機構の構築を試みる。 また、大規模言語モデルに基づく自動アセスメントスキームも設計している。
  論文  参考訳（メタデータ） (2025-07-01T15:10:00Z)
• MAFE: Multi-Agent Fair Environments for Decision-Making Systems [30.91792275900066]
  我々は、マルチエージェントフェア環境(MAFE)の概念を導入し、異なる社会システムをモデル化する3つのMAFEを提示、分析する。 実験の結果,MAFEをマルチエージェントフェアアルゴリズム開発のためのテストベッドとしての有用性が示された。
  論文  参考訳（メタデータ） (2025-02-25T04:03:50Z)
• Multi-Agent Risks from Advanced AI [90.74347101431474]
  先進的なAIのマルチエージェントシステムは、新規で未発見のリスクを生じさせる。 エージェントのインセンティブに基づく3つの重要な障害モードと7つの重要なリスク要因を同定する。 各リスクのいくつかの重要な事例と、それらを緩和するための有望な方向性を強調します。
  論文  参考訳（メタデータ） (2025-02-19T23:03:21Z)
• Fairness in Agentic AI: A Unified Framework for Ethical and Equitable Multi-Agent System [0.0]
  本稿では,公正性をエージェント相互作用の動的,創発的特性として扱う新しい枠組みを提案する。 この枠組みは、公正な制約、バイアス軽減戦略、および自律的なエージェント行動と社会的価値を整合させるインセンティブメカニズムを統合する。
  論文  参考訳（メタデータ） (2025-02-11T04:42:00Z)
• On the Complexity of Multi-Agent Decision Making: From Learning in Games to Partial Monitoring [105.13668993076801]
  マルチエージェント強化学習(MARL)理論における中心的な問題は、構造条件やアルゴリズムの原理がサンプル効率の学習保証につながるかを理解することである。 本稿では,複数のエージェントを用いた対話型意思決定のための一般的な枠組みとして,この問題について考察する。 マルチエージェント意思決定における統計的複雑性を特徴付けることは、単一エージェント決定の統計的複雑性を特徴付けることと等価であることを示す。
  論文  参考訳（メタデータ） (2023-05-01T06:46:22Z)
• Randomized Entity-wise Factorization for Multi-Agent Reinforcement Learning [59.62721526353915]
  実世界のマルチエージェント設定は、エージェントや非エージェントエンティティのタイプや量が異なるタスクを伴うことが多い。 我々の方法は、これらの共通点を活用することを目的としており、「観察対象のランダムに選択されたサブグループのみを考えるとき、各エージェントが期待する効用は何か?」という問いを投げかける。
  論文  参考訳（メタデータ） (2020-06-07T18:28:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。