論文の概要: DebiasRAG: A Tuning-Free Path to Fair Generation in Large Language Models through Retrieval-Augmented Generation

• arxiv url: http://arxiv.org/abs/2605.16113v1
• Date: Fri, 15 May 2026 15:58:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-18 21:22:26.356475
• Title: DebiasRAG: A Tuning-Free Path to Fair Generation in Large Language Models through Retrieval-Augmented Generation
• Title（参考訳）: DebiasRAG: 検索拡張生成による大規模言語モデルの公正生成のためのチューニング不要パス
• Abstract要約: 大きな言語モデル(LLM)は、例外的な生成能力のため、前例のない成功を収めた。 DebiasRAGは、検索強化生成(RAG)に基づくチューニング不要で動的クエリ特異的なデバイアス処理フレームワークである
• 参考スコア（独自算出の注目度）: 25.854582760304726
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) have achieved unprecedented success due to their exceptional generative capabilities. However, because they depend on knowledge encapsulated from training corpora, they may produce hallucinations, stereotypes, and socially biased content. In particular, LLMs are prone to prejudiced responses involving race, gender, and age, which are collectively referred to as social biases. Prior studies have used fine-tuning and prompt engineering to mitigate such biases in LLMs, but these methods require additional training resources or domain knowledge to design the framework. Moreover, they may degrade the original capabilities of LLMs and often overlook the need for dynamic debiasing contexts for fairer inference. In this paper, we propose DebiasRAG, a novel tuning-free and dynamic query-specific debiasing framework based on retrieval-augmented generation (RAG). DebiasRAG improves fairness while preserving the intrinsic properties of LLMs, such as representation ability. DebiasRAG consists of three stages: (1) query-specific debiasing candidate generation; (2) context candidate pool construction; and (3) gradient-updated debiasing-guided context piece reranking. First, DebiasRAG leverages self-diagnosed bias contexts relevant to the query through regular retrieval, where the bias contexts are prepared offline by the DebiasRAG provider. Given the query-specific bias contexts, DebiasRAG reversely produces debiasing contexts, which are provided as additional fairness constraints for LLM outputs. Second, a regular RAG retrieval process produces query-related contexts from the regular RAG document database, such as a chunked Wikipedia dataset.
• Abstract（参考訳）: 大きな言語モデル(LLM)は、例外的な生成能力のため、前例のない成功を収めた。 しかし、それらは学習コーパスからカプセル化された知識に依存しているため、幻覚、ステレオタイプ、社会的に偏った内容を生み出す可能性がある。 特に、LSMは人種、性別、年齢を含む偏見のある反応を起こしやすい。 以前の研究では、LLMにおけるそのようなバイアスを軽減するために微調整と迅速なエンジニアリングが用いられてきたが、これらの手法はフレームワークを設計するために追加のトレーニングリソースやドメイン知識を必要とする。 さらに、LLMの本来の能力を低下させ、より公平な推論のための動的デバイアスのコンテキストの必要性をしばしば見落としてしまう。 本稿では,検索拡張生成(RAG)に基づく,新しいチューニング不要で動的クエリ固有なデバイアス処理フレームワークであるDebiasRAGを提案する。 DebiasRAGは、表現能力などのLLMの本質的な性質を保ちながら、公正性を改善する。 DebiasRAGは、(1)クエリ特異的なデバイアス化候補生成、(2)コンテキスト候補プール構築、(3)勾配更新されたデバイアス化誘導コンテキスト片の再評価の3段階から構成される。 まず、DebiasRAGは、正規検索を通じてクエリに関連する自己診断バイアスコンテキストを利用し、バイアスコンテキストはDebiasRAGプロバイダによってオフラインで作成される。 クエリ固有のバイアスコンテキストを考えると、DebiasRAGは逆向きにデバイアスコンテキストを生成し、LCM出力に付加的な公平性制約を提供する。 第2に、正規RAG検索プロセスは、チャンクされたウィキペディアデータセットのような通常のRAGドキュメントデータベースからクエリ関連コンテキストを生成する。

関連論文リスト

• Align Documents to Questions: Question-Oriented Document Rewriting for Retrieval-Augmented Generation [51.55755193937205]
  提案するQREAMは,検索した文書を事実を保存しながら質問指向のスタイルで整列するスタイル制御リライタである。 本フレームワークは,(1) 反復的書き換え探索にスタイリスティックシードを用いたQREAM-ICL,(2) ICL出力から抽出した軽量学生モデルQREAM-FTの2段階からなる。
  論文  参考訳（メタデータ） (2026-04-19T08:39:21Z)
• CatRAG: Functor-Guided Structural Debiasing with Retrieval Augmentation for Fair LLMs [1.7697598440512727]
  構造的デバイアスを誘導する構造的デバイアス(RAG)を関手と統合する,二重進行型フレームワークであるCatRAG Debiasingを提案する。 オープンソースの3つのLCM(Meta Llama-3、OpenAI GPT-OSS、Google Gemma-3)を対象としたBias Benchmark for Question Answering (BBQ)では、CatRAGは対応するベースモデルに対して最大40%の精度で、事前のデバイアス法よりも10%以上の精度を実現している。
  論文  参考訳（メタデータ） (2026-03-23T03:33:13Z)
• Training-Induced Bias Toward LLM-Generated Content in Dense Retrieval [6.771568584669793]
  報告書は、大きな言語モデル(LLM)によって生成されるテキストを広く好んでいると主張している。 本研究では,トレーニング段階やデータソースにまたがって,そのような嗜好の出現をトレースする。 本研究は, ソースバイアスが高密度レトリバーの固有特性ではなく, トレーニングによって引き起こされる現象であることを示す。
  論文  参考訳（メタデータ） (2026-02-11T13:20:25Z)
• How Do LLM-Generated Texts Impact Term-Based Retrieval Models? [76.92519309816008]
  本稿では,大規模言語モデル(LLM)が項ベース検索モデルに与える影響について検討する。 言語学的解析により,LLM生成テキストはよりスムーズで低周波なZipf勾配を示すことが明らかとなった。 本研究は,項分布がクエリと密接に一致した文書を優先して,項ベース検索モデルがソースバイアスを示すかどうかを考察する。
  論文  参考訳（メタデータ） (2025-08-25T06:43:27Z)
• Rank-R1: Enhancing Reasoning in LLM-based Document Rerankers via Reinforcement Learning [76.50690734636477]
  ランキングタスクを実行する前にユーザクエリと候補文書の両方を推論する新しいLCMベースのリランカである Rank-R1 を導入する。 TREC DL と BRIGHT データセットを用いた実験により,Ranc-R1 が特に複雑なクエリに対して非常に有効であることが判明した。
  論文  参考訳（メタデータ） (2025-03-08T03:14:26Z)
• RAZOR: Sharpening Knowledge by Cutting Bias with Unsupervised Text Rewriting [16.633948320306832]
  手動で構築されたデータセットで一般的なバイアスは、トークンとラベルの間に急激な相関をもたらす可能性がある。 既存のデバイアス法は、しばしば特定のデータセットバイアスに関する事前の知識に依存している。 本稿では,ショートカット緩和のためのテキスト書き直しに基づく,新規で教師なし,データ重視のデバイアス処理手法であるRAZORを提案する。
  論文  参考訳（メタデータ） (2024-12-10T17:02:58Z)
• Evaluating and Mitigating Social Bias for Large Language Models in Open-ended Settings [18.318232025355524]
  既存のデータセットBBQをOpen-BBQに拡張し、オープンエンド環境でのLCMの社会的バイアスを評価する。 文や段落をラベル付けすることで,オープンなコンテンツからバイアスを検出する評価手法を開発した。 この問題を解決するために、構造化例と明示的な連鎖推論を組み合わせたICL法であるComposite Promptingを提案する。
  論文  参考訳（メタデータ） (2024-12-09T01:29:47Z)
• Invar-RAG: Invariant LLM-aligned Retrieval for Better Generation [43.630437906898635]
  Invar-RAGと呼ばれる2段階ファインチューニングアーキテクチャを提案する。 検索段階では、LORAに基づく表現学習を統合してLLMベースの検索器を構築する。 生成段階では、抽出した情報に基づいて回答を生成する際のLCM精度を向上させるための精細調整法が用いられる。
  論文  参考訳（メタデータ） (2024-11-11T14:25:37Z)
• SFR-RAG: Towards Contextually Faithful LLMs [57.666165819196486]
  Retrieval Augmented Generation (RAG) は、外部コンテキスト情報を大言語モデル(LLM)と統合し、事実の精度と妥当性を高めるパラダイムである。 SFR-RAG(SFR-RAG)について述べる。 また、複数の人気かつ多様なRAGベンチマークをコンパイルする新しい評価フレームワークであるConBenchについても紹介する。
  論文  参考訳（メタデータ） (2024-09-16T01:08:18Z)
• Identifying and Mitigating Social Bias Knowledge in Language Models [52.52955281662332]
  個々人の社会的偏見をきめ細かなキャリブレーションを可能にする新しいデバイアス・アプローチであるFairness Stamp(FAST)を提案する。 FASTは最先端のベースラインを超え、デバイアス性能が優れている。 これは、大きな言語モデルにおける公平性を達成するためのきめ細かいデバイアス戦略の可能性を強調している。
  論文  参考訳（メタデータ） (2024-08-07T17:14:58Z)
• RAGEval: Scenario Specific RAG Evaluation Dataset Generation Framework [66.93260816493553]
  本稿では,様々なシナリオにまたがってRAGシステムを評価するためのフレームワークであるRAGvalを紹介する。 事実の正確性に焦点をあてて,完全性,幻覚,不適切性の3つの新しい指標を提案する。 実験結果から, RAGEvalは, 生成した試料の明瞭度, 安全性, 適合性, 豊かさにおいて, ゼロショット法とワンショット法より優れていた。
  論文  参考訳（メタデータ） (2024-08-02T13:35:11Z)
• GPTBIAS: A Comprehensive Framework for Evaluating Bias in Large Language Models [83.30078426829627]
  大規模言語モデル(LLM)は人気を集め、大規模なユーザコミュニティで広く採用されている。 既存の評価手法には多くの制約があり、それらの結果は限定的な解釈可能性を示している。 本稿では,LPMの高性能性を活用し,モデル内のバイアスを評価するGPTBIASというバイアス評価フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-12-11T12:02:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。