論文の概要: FairTest: Search-Based Fairness Testing for Multi-Agent Reinforcement Learning Systems

• arxiv url: http://arxiv.org/abs/2609.27309v1
• Date: Wed, 23 Sep 2026 03:41:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 00:05:17.863634
• Title: FairTest: Search-Based Fairness Testing for Multi-Agent Reinforcement Learning Systems
• Title（参考訳）: FairTest:マルチエージェント強化学習システムのための検索ベースフェアネステスト
• Abstract要約: マルチエージェント強化学習(MARL)は、ひとつの環境を共有し、一緒にポリシーを学ぶエージェントのチームを訓練する。 テストは、深層強化学習の失敗を発見するための確立された方法であるが、MARLの公平性に対処する手法はほとんどない。 本稿では,MARLポリシーの不公平な実行を求める検索ベースのテスト手法であるFairTestを提案する。
• 参考スコア（独自算出の注目度）: 5.6900369690933195
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multi-agent Reinforcement Learning (MARL) trains a team of agents that share one environment and learn their policies together. Training maximizes the team return, and a high return does not imply that the rewards are shared fairly among the agents in every episode. Testing is an established way to discover the failures of deep reinforcement learning, yet few methods address the fairness of MARL. In this work, we propose FairTest, a search-based testing approach that seeks the unfair executions of a MARL policy. The design combines search guidance with test prioritization. The guidance scores each candidate with three fitness functions. One measures the fairness of the runs already performed, another predicts the fairness from abstract states and fairness features, and the third reads the decision uncertainty from the policy. Crossover and mutation derive further candidates from the observed executions. The prioritization ranks the candidates by the predicted fairness and the decision uncertainty, so that the runs reach the candidates where failures are expected. FairTest is evaluated on three environments and two MARL algorithms, and four baselines are given the same budget. It detects the most fairness failures compared to three baselines with statistical significance and large effect sizes. The failure count exceeds that of the strongest baseline by 221% on average and coverage improves by an average of 23%.
• Abstract（参考訳）: マルチエージェント強化学習(MARL)は、ひとつの環境を共有し、一緒にポリシーを学ぶエージェントのチームを訓練する。 トレーニングはチームのリターンを最大化し、高いリターンは、各エピソードのエージェント間で報酬が公平に共有されることを暗示しない。 テストは、深層強化学習の失敗を発見するための確立された方法であるが、MARLの公平性に対処する手法はほとんどない。 本研究では,MARLポリシーの不公平な実行を求める検索ベースのテスト手法であるFairTestを提案する。 この設計は、探索誘導とテスト優先化を組み合わせたものである。 このガイダンスは、各候補者に3つのフィットネス機能を持たせる。 1つは、既に実行された実行の公平性を測定し、もう1つは抽象状態と公正性の特徴から公正性を予測し、もう1つはポリシーから決定の不確実性を読み取る。 交叉と突然変異は、観察された実行からさらに候補を導き出す。 優先順位付けは、予測された公正性と決定の不確実性によって候補者をランク付けし、失敗が予想される候補者にリーチする。 FairTestは3つの環境と2つのMARLアルゴリズムで評価され、4つのベースラインは同じ予算が与えられる。 統計的重要性と大きな効果サイズを持つ3つの基準線と比較して最も公平な故障を検出する。 障害数は平均221%で最強のベースラインを上回り、カバレッジは平均23%向上する。

関連論文リスト

• Beyond Mode Collapse: Distribution Matching for Diverse Reasoning [69.88237286885065]
  GRPOのようなオンライン強化学習手法はモード崩壊に悩まされる。 このことは、逆KL最小化のモード探索行動に由来することを示す。 KL最小化の原理的近似によりモード崩壊を防止するDMPOを提案する。
  論文  参考訳（メタデータ） (2026-05-19T07:13:00Z)
• Verified Critical Step Optimization for LLM Agents [67.05296684575445]
  クリティカルステップ最適化は、検証されたクリティカルステップに優先学習を集中する。 メソッドは、専門家のデモンストレーションではなく、失敗するポリシーの軌道から始まります。 GAIA-Text-103とXBench-DeepSearchの実験では、CSOはSFTベースラインよりも37%、相対的に26%改善している。
  論文  参考訳（メタデータ） (2026-02-03T11:41:02Z)
• Whence Is A Model Fair? Fixing Fairness Bugs via Propensity Score Matching [0.49157446832511503]
  サンプルデータのトレーニングやテストの方法がフェアネス指標の信頼性に影響を及ぼすかどうかを検討する。 トレーニングデータとテストセットは、しばしば同じ集団からランダムにサンプリングされるため、トレーニングデータに存在するバイアスは、テストデータにまだ存在する可能性がある。 偏見の評価と緩和に適合性スコアマッチングを適用した後処理法であるFairMatchを提案する。
  論文  参考訳（メタデータ） (2025-04-23T19:28:30Z)
• Equal Opportunity of Coverage in Fair Regression [50.76908018786335]
  我々は、予測の不確実性の下で公正な機械学習(ML)を研究し、信頼性と信頼性のある意思決定を可能にする。 本研究は,(1)類似した結果の異なる集団に対するカバー率が近いこと,(2)人口全体のカバー率が一定水準にあること,の2つの特性を達成することを目的としたカバーの平等機会(EOC)を提案する。
  論文  参考訳（メタデータ） (2023-11-03T21:19:59Z)
• Fairness-enhancing mixed effects deep learning improves fairness on in- and out-of-distribution clustered (non-iid) data [6.596656267996196]
  フェア・ミックスド・エフェクト・ディープ・ラーニング(Fair MEDL)フレームワークを提案する。 本フレームワークは,1)不変なFEを学習するためのクラスタ逆効果,2)REのためのベイズニューラルネットワーク,3)最終的な予測のためにFEとREを組み合わせた混合関数,を通じて,クラスタ不変な固定効果(FE)とクラスタ固有ランダムエフェクト(RE)を定量化する。 公正なMEDLフレームワークは、年齢で86.4%、人種で64.9%、性で57.8%、結婚で36.2%の公正性を向上し、堅牢な予測性能を維持している。
  論文  参考訳（メタデータ） (2023-10-04T20:18:45Z)
• Error Parity Fairness: Testing for Group Fairness in Regression Tasks [5.076419064097733]
  この研究は、回帰フェアネスの概念としてエラーパリティを示し、グループフェアネスを評価するためのテスト手法を導入する。 続いて、いくつかの統計上のグループを比較し、格差を探索し、影響されたグループを特定するのに適した置換テストが実施される。 全体として、提案された回帰公正性テスト手法は、公正な機械学習文献のギャップを埋め、より大きなアカウンタビリティ評価とアルゴリズム監査の一部として機能する可能性がある。
  論文  参考訳（メタデータ） (2022-08-16T17:47:20Z)
• How Robust is Your Fairness? Evaluating and Sustaining Fairness under Unseen Distribution Shifts [107.72786199113183]
  CUMA(CUrvature Matching)と呼ばれる新しいフェアネス学習手法を提案する。 CUMAは、未知の分布シフトを持つ未知の領域に一般化可能な頑健な公正性を達成する。 提案手法を3つの人気フェアネスデータセットで評価する。
  論文  参考訳（メタデータ） (2022-07-04T02:37:50Z)
• Towards Equal Opportunity Fairness through Adversarial Learning [64.45845091719002]
  逆行訓練は、自然言語処理におけるバイアス緩和の一般的なアプローチである。 本稿では、よりリッチな特徴を生み出すために、ターゲットクラスをインプットとして利用する、対位訓練のための拡張判別器を提案する。
  論文  参考訳（メタデータ） (2022-03-12T02:22:58Z)
• Multi-Stage Decentralized Matching Markets: Uncertain Preferences and Strategic Behaviors [91.3755431537592]
  本稿では、現実世界のマッチング市場で最適な戦略を学ぶためのフレームワークを開発する。 我々は,不確実性レベルが特徴の福祉対フェアネストレードオフが存在することを示す。 シングルステージマッチングと比較して、マルチステージマッチングで参加者がより良くなることを証明します。
  論文  参考訳（メタデータ） (2021-02-13T19:25:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。