論文の概要: Disparity Laundering: Consensus Without Fairness in Clinical Multi-Agent Systems

• arxiv url: http://arxiv.org/abs/2610.38215v1
• Date: Wed, 28 Oct 2026 03:10:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-01 01:32:09.943401
• Title: Disparity Laundering: Consensus Without Fairness in Clinical Multi-Agent Systems
• Title（参考訳）: 異種洗浄 : 臨床多エージェントシステムにおける公正性のない合意
• Abstract要約: 臨床大言語モデルは、個別のエラーを平均化するという前提で、多エージェントチームとして、ますます焦点が当てられている。 5つのモデルファミリーと4つのアグリゲーショントポロジーからなるフルファクターは、120のMIMIC-IV緊急ケースにおいて、構成が相違を和らげることはない。 どのモデルにも、そのベースラインギャップを増幅するトポロジーがあるが、どのモデルもモデルによって異なるため、設計が確実に安全で確実に増幅されることはない。 現在では、モデル毎、アウトプット毎、バージョン毎の監査は、部品の認証は可能ですが、コミットされた決定は行われません。
• 参考スコア（独自算出の注目度）: 12.737053086429894
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Clinical large language models are increasingly fielded as multi-agent teams, on the assumption that deliberation averages out individual error. It does not average out bias. Across a full factorial of five model families and four aggregation topologies on 120 real MIMIC-IV emergency cases under counterfactual demographic swaps, no configuration neutralizes the disparity: all 20 cells commit the direction of their agents' independent answers, giving Black patients more acute triage. Every model has a topology that amplifies its baseline gap, but which one varies by model, so no design is reliably safe or reliably amplifying: the disparity is relocated, never removed. Late-stage fixes fail: fairness instructions and demographic masking leave the gap untouched, and per-agent self-debiasing widens it, because the bias is already encoded in the agents' ordinary clinical numbers. We call this disparity laundering; the audits now applied to clinical AI, per model, per output, per version, can certify the parts but never the committed decision. Interventions close the gap exactly when they make counterfactual versions visible inside the system and pool them, through deliberation, into the committed decision. A diverse-perspective ensemble does both while keeping the team, with no retraining or architectural change: the disparity falls by 67 to 94% where all five perspectives pool at every round, and the one topology that never pools them is the one it cannot reliably repair. Medical multi-agent systems do not filter demographic bias; they launder it into plausible decisions no single-version audit can catch, and the only defense is to make the bias visible.
• Abstract（参考訳）: 臨床大言語モデルは、個別のエラーを平均化するという前提で、多エージェントチームとして、ますます焦点が当てられている。 偏見を平均化するものではない。 5つのモデルファミリーと、120の実際のMIMIC-IV緊急ケースに関する4つの集計トポロジの完全なファクターは、偽の人口動態スワップの下では、構成が相違を和らげることはない。 どのモデルにも、そのベースラインギャップを増幅するトポロジがあるが、どのモデルもモデルによって異なるため、設計が確実に安全または確実に増幅されることはない。 フェアネスの指示と人口動態のマスキングはギャップを無傷で残し、エージェントの通常の臨床番号にバイアスがエンコードされているため、エージェントごとの自己偏見が拡大する。 現在では、モデル毎、アウトプット毎、バージョン毎の監査は、部品の認証は可能ですが、コミットされた決定は行われません。 インターベンションは、システム内の反ファクトバージョンを見える化して、熟考を通じて、コミットされた決定にまとめるときに、そのギャップを埋めます。 さまざまなパースペクティブなアンサンブルは、チームを維持しながら、トレーニングやアーキテクチャの変更を伴わずに、両方を行う: 格差は、すべての5つの視点がラウンド毎にプールされている67から94%まで減少し、それらをプールしないトポロジは、確実に修復できないものなのです。 医療用マルチエージェントシステムは、人口統計バイアスをフィルタリングしない。それは、単一バージョン監査がキャッチできない、そして唯一の防御策は、偏見を目に見えるものにすることだ。

関連論文リスト

• Bias Control and Injection for Multi-Agent Aggregation [20.336299697023954]
  大規模言語モデル(LLM)を用いたマルチエージェント推論は、集合的意思決定において中心的な疑問を提起する。 私たちの分析は、バイアスを緩和し、悪用する方法を示しています。 検証データも,相対モデル強度の事前知識も必要としないテスト時集約フレームワークを導入する。
  論文  参考訳（メタデータ） (2026-10-15T05:37:49Z)
• CUSP: Decomposable Collective Uncertainty for Multi-Agent Multimodal Reasoning [6.428392127849263]
  本稿では,複数のVLM応答を共有意味応答空間にマッピングする訓練不要不確実性フレームワークCUSPを提案する。 本稿では,集合的不確実性,プール化意見の分散,ジェンセン・シャノン発散(JSD)の2つの相補的システムレベル信号について報告する。 静的なマルチVLMアンサンブルでは、集合的不確実性は小モデル状態において最強の信号である。
  論文  参考訳（メタデータ） (2026-09-04T20:27:47Z)
• Counterfactual Fairness Audits of Multi-Step Clinical LLM Agents Require a Measured Per-Action Instability Floor [3.0704370207786265]
  本研究は, アクションフロアを横に置かずに報告した反実的公正度推定値が, 相違の証拠として読めないことを示す。 FairMedAgentは, 臨床適応剤の作用の差異を評価するための評価ハーネスである。
  論文  参考訳（メタデータ） (2026-09-02T23:38:17Z)
• AgentFairBench: Do LLM Agents Discriminate When They Act? [2.3004655342211078]
  AgentFairBenchは、LLMエージェントの動作における人口格差に対する、安価で再現可能なマルチドメインベンチマークである。 これは、雇用、貸与、医療トリアージという、規制対象の3つの領域にまたがっている。 NumPyのみのハーネスは、反ファクト的なフリップ率、平均絶対スコア差(MASD)、アクションレートの相違、ツール起動の相違を計算する。
  論文  参考訳（メタデータ） (2026-06-15T13:50:26Z)
• Attributing Emergence in Million-Agent Systems [68.53670424791751]
  大規模言語モデル(LLM)は、個々のエージェントにおける人間のような推論と意思決定をシミュレートすることができる。 このような研究は、個々のエージェントにマクロな出現をもたらす必要がある。 Aumann--Shapley path-integral attribution to LLM-powered MAS at million-agent scale。
  論文  参考訳（メタデータ） (2026-05-12T01:49:41Z)
• Same Verdict, Different Reasons: LLM-as-a-Judge and Clinician Disagreement on Medical Chatbot Completeness [49.2667937337333]
  不完全な患者の医療反応を検出するために,この仮定をストレステストする。 我々は,2つの臨床診断データセットにわたる3つの粒度(General-Likert,Analytical-Rubric,Dynamic-Checklist)と3つのバックボーンモデルを評価する。
  論文  参考訳（メタデータ） (2026-03-26T19:01:55Z)
• Debiasing LLMs by Masking Unfairness-Driving Attention Heads [47.639403863507965]
  DiffHeadsは,大規模言語モデルのための軽量なデバイアス処理フレームワークである。 DiffHeadsは、モデルユーティリティを損なうことなく、それぞれDAとCoTで49.4%、40.3%の不正性を減少させることを示す。
  論文  参考訳（メタデータ） (2025-10-11T09:48:31Z)
• Collaborative Value Function Estimation Under Model Mismatch: A Federated Temporal Difference Analysis [55.13545823385091]
  フェデレーション強化学習(FedRL)は、エージェント間のデータ交換を防止し、データのプライバシを維持しながら協調学習を可能にする。 現実世界のアプリケーションでは、各エージェントは若干異なる遷移ダイナミクスを経験し、固有のモデルミスマッチを引き起こす。 情報共有の適度なレベルでさえ、環境固有のエラーを著しく軽減することを示す。
  論文  参考訳（メタデータ） (2025-03-21T18:06:28Z)
• SANSformers: Self-Supervised Forecasting in Electronic Health Records with Attention-Free Models [48.07469930813923]
  本研究は,医療施設への患者訪問数を予測することにより,医療サービスの需要を予測することを目的とする。 SNSformerは、特定の帰納バイアスを設計し、EHRデータの特異な特徴を考慮に入れた、注意のない逐次モデルである。 本研究は, 各種患者集団を対象とした医療利用予測の修正における, 注意力のないモデルと自己指導型事前訓練の有望な可能性について考察した。
  論文  参考訳（メタデータ） (2021-08-31T08:23:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。