論文の概要: Collective Bias Mitigation via Model Routing and Collaboration

• arxiv url: http://arxiv.org/abs/2610.03240v1
• Date: Fri, 02 Oct 2026 12:49:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 00:14:30.374837
• Title: Collective Bias Mitigation via Model Routing and Collaboration
• Title（参考訳）: モデルルーティングと協調による集団バイアス軽減
• Abstract要約: 大規模言語モデル(LLM)は、公衆衛生、金融、ガバナンスにおいてますます多くデプロイされている。 近年の進歩にもかかわらず、LLMはトレーニングデータに埋め込まれたバイアスを永続的または増幅することが多い。 CBM(Collective Bias Mitigation)は,モデル動作のきめ細かい学習によってバイアスを軽減するフレームワークである。
• 参考スコア（独自算出の注目度）: 65.7239646008759
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) are increasingly deployed in public health, finance, and governance, requiring both accuracy and societal value alignment. Despite recent advances, LLMs often perpetuate or amplify bias embedded in their training data, posing challenges to fairness. While self-debiasing encourages an LLM to identify and correct its own biases, relying on a single model's intrinsic knowledge may be insufficient to address deeply ingrained stereotypes. To address this limitation, we introduce Collective Bias Mitigation (CBM), a framework that alleviates bias by learning fine-grained model behavior and fostering knowledge sharing among diverse LLMs. This work is the first to systematically explore the effective selection and organization of distinct LLMs to cultivate fairer LLM responses. Experiments show CBM substantially outperforms standalone baselines (e.g., in the top-7 setting, Committee lowers the age bias score from 0.25 to 0.10). Our Debating and Committee topologies achieve substantial bias reduction, with the latter balancing mitigation effectiveness and inference cost, highlighting the potential of CBM for fairer LLMs.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、公衆衛生、金融、ガバナンスにおいて、精度と社会的価値の整合性の両方を必要としている。 近年の進歩にもかかわらず、LLMはトレーニングデータに埋め込まれたバイアスを永続的または増幅し、公正性に挑戦する。 自己偏見は、LLMが自身のバイアスを識別し修正することを奨励するが、単一のモデルの本質的な知識に頼ることは、深く詳細なステレオタイプに対処するには不十分である。 この制限に対処するために,我々は,モデル行動のきめ細かい学習と多様なLLM間の知識共有の促進によりバイアスを軽減するフレームワークである,集合バイアス緩和(CBM)を導入する。 この研究は、より公平なLSM応答を育むために、異なるLSMの効果的な選択と組織を体系的に探求した最初のものである。 実験の結果、CBMはスタンドアローンベースラインを大幅に上回っている(例えば、トップ7設定では、委員会は年齢バイアススコアを0.25から0.10に下げている)。 我々の議論および委員会トポロジは、より公平なLDMにおけるCBMの可能性を強調し、後者のバランス緩和効果と推論コストにより、実質的なバイアス低減を実現している。

関連論文リスト

• Preference Leakage: A Contamination Problem in LLM-as-a-judge [69.96778498636071]
  審査員としてのLLM(Large Language Models)とLLMに基づくデータ合成は、2つの基本的なLLM駆動型データアノテーション法として登場した。 本研究では, 合成データ生成器とLCMに基づく評価器の関連性に起因するLCM-as-a-judgeの汚染問題である選好リークを明らかにする。
  論文  参考訳（メタデータ） (2025-02-03T17:13:03Z)
• Justice or Prejudice? Quantifying Biases in LLM-as-a-Judge [84.34545223897578]
  多くの領域で優れているにもかかわらず、潜在的な問題は未解決のままであり、その信頼性と実用性の範囲を損なう。 提案手法は, LLM-as-a-Judgeにおける各種類のバイアスを定量化し, 解析する自動バイアス定量化フレームワークである。 当社の作業は、これらの問題に対処するステークホルダの必要性を強調し、LLM-as-a-Judgeアプリケーションで注意を喚起します。
  論文  参考訳（メタデータ） (2024-10-03T17:53:30Z)
• A Multi-LLM Debiasing Framework [85.17156744155915]
  大規模言語モデル(LLM)は、社会に多大な利益をもたらす可能性がある強力なツールであるが、社会的不平等を持続するバイアスを示す。 近年,マルチLLM手法への関心が高まっており,推論の質向上に有効であることが示されている。 LLMのバイアス低減を目的としたマルチLLMデバイアスフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-09-20T20:24:50Z)
• Unboxing Occupational Bias: Grounded Debiasing of LLMs with U.S. Labor Data [9.90951705988724]
  大規模言語モデル(LLM)は、社会的バイアスを継承し増幅する傾向がある。 LLMバイアスは、不公平な慣行をもたらし、社会的不平等を悪化させる。
  論文  参考訳（メタデータ） (2024-08-20T23:54:26Z)
• Reinforcement Learning from Multi-role Debates as Feedback for Bias Mitigation in LLMs [6.090496490133132]
  本稿では,従来のRLHFのフィードバックに取って代わるバイアス緩和手法であるReinforcement Learning from Multi-role Debates as Feedback (RLDF)を提案する。 強化学習における報酬モデルのトレーニングに,高バイアスと低バイアスの両方のインスタンスを含むデータセットを作成するために,LLMをマルチロール討論に活用する。
  論文  参考訳（メタデータ） (2024-04-15T22:18:50Z)
• A Survey on Fairness in Large Language Models [28.05516809190299]
  大規模言語モデル(LLM)は、強力なパフォーマンスと開発見通しを示している。 LLMは、未処理のトレーニングデータから社会的バイアスをキャプチャし、そのバイアスを下流のタスクに伝達する。 不公平なLLMシステムは、望ましくない社会的影響と潜在的な害がある。
  論文  参考訳（メタデータ） (2023-08-20T03:30:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。