論文の概要: DebiasRAG: A Tuning-Free Path to Fair Generation in Large Language Models through Retrieval-Augmented Generation

• arxiv url: http://arxiv.org/abs/2605.16113v1
• Date: Fri, 15 May 2026 15:58:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-18 21:22:26.356475
• Title: DebiasRAG: A Tuning-Free Path to Fair Generation in Large Language Models through Retrieval-Augmented Generation
• Title（参考訳）: DebiasRAG: 検索拡張生成による大規模言語モデルの公正生成のためのチューニング不要パス
• Authors: Rui Chu, Bingyin Zhao, Thanh Quoc Hung Le, Duy Cao Hoang, Huawei Lin, Ping Li, Weijie Zhao, Khoa D Doan, Yingjie Lao,
• Abstract要約: 大きな言語モデル(LLM)は、例外的な生成能力のため、前例のない成功を収めた。 DebiasRAGは、検索強化生成(RAG)に基づくチューニング不要で動的クエリ特異的なデバイアス処理フレームワークである
• 参考スコア（独自算出の注目度）: 25.854582760304726
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models (LLMs) have achieved unprecedented success due to their exceptional generative capabilities. However, because they depend on knowledge encapsulated from training corpora, they may produce hallucinations, stereotypes, and socially biased content. In particular, LLMs are prone to prejudiced responses involving race, gender, and age, which are collectively referred to as social biases. Prior studies have used fine-tuning and prompt engineering to mitigate such biases in LLMs, but these methods require additional training resources or domain knowledge to design the framework. Moreover, they may degrade the original capabilities of LLMs and often overlook the need for dynamic debiasing contexts for fairer inference. In this paper, we propose DebiasRAG, a novel tuning-free and dynamic query-specific debiasing framework based on retrieval-augmented generation (RAG). DebiasRAG improves fairness while preserving the intrinsic properties of LLMs, such as representation ability. DebiasRAG consists of three stages: (1) query-specific debiasing candidate generation; (2) context candidate pool construction; and (3) gradient-updated debiasing-guided context piece reranking. First, DebiasRAG leverages self-diagnosed bias contexts relevant to the query through regular retrieval, where the bias contexts are prepared offline by the DebiasRAG provider. Given the query-specific bias contexts, DebiasRAG reversely produces debiasing contexts, which are provided as additional fairness constraints for LLM outputs. Second, a regular RAG retrieval process produces query-related contexts from the regular RAG document database, such as a chunked Wikipedia dataset.
• Abstract（参考訳）: 大きな言語モデル(LLM)は、例外的な生成能力のため、前例のない成功を収めた。 しかし、それらは学習コーパスからカプセル化された知識に依存しているため、幻覚、ステレオタイプ、社会的に偏った内容を生み出す可能性がある。 特に、LSMは人種、性別、年齢を含む偏見のある反応を起こしやすい。 以前の研究では、LLMにおけるそのようなバイアスを軽減するために微調整と迅速なエンジニアリングが用いられてきたが、これらの手法はフレームワークを設計するために追加のトレーニングリソースやドメイン知識を必要とする。 さらに、LLMの本来の能力を低下させ、より公平な推論のための動的デバイアスのコンテキストの必要性をしばしば見落としてしまう。 本稿では,検索拡張生成(RAG)に基づく,新しいチューニング不要で動的クエリ固有なデバイアス処理フレームワークであるDebiasRAGを提案する。 DebiasRAGは、表現能力などのLLMの本質的な性質を保ちながら、公正性を改善する。 DebiasRAGは、(1)クエリ特異的なデバイアス化候補生成、(2)コンテキスト候補プール構築、(3)勾配更新されたデバイアス化誘導コンテキスト片の再評価の3段階から構成される。 まず、DebiasRAGは、正規検索を通じてクエリに関連する自己診断バイアスコンテキストを利用し、バイアスコンテキストはDebiasRAGプロバイダによってオフラインで作成される。 クエリ固有のバイアスコンテキストを考えると、DebiasRAGは逆向きにデバイアスコンテキストを生成し、LCM出力に付加的な公平性制約を提供する。 第2に、正規RAG検索プロセスは、チャンクされたウィキペディアデータセットのような通常のRAGドキュメントデータベースからクエリ関連コンテキストを生成する。

関連論文リスト

• CatRAG: Functor-Guided Structural Debiasing with Retrieval Augmentation for Fair LLMs [1.7697598440512727]
  構造的デバイアスを誘導する構造的デバイアス(RAG)を関手と統合する,二重進行型フレームワークであるCatRAG Debiasingを提案する。 オープンソースの3つのLCM(Meta Llama-3、OpenAI GPT-OSS、Google Gemma-3)を対象としたBias Benchmark for Question Answering (BBQ)では、CatRAGは対応するベースモデルに対して最大40%の精度で、事前のデバイアス法よりも10%以上の精度を実現している。
  論文  参考訳（メタデータ） (2026-03-23T03:33:13Z)
• How Do LLM-Generated Texts Impact Term-Based Retrieval Models? [76.92519309816008]
  本稿では,大規模言語モデル(LLM)が項ベース検索モデルに与える影響について検討する。 言語学的解析により,LLM生成テキストはよりスムーズで低周波なZipf勾配を示すことが明らかとなった。 本研究は,項分布がクエリと密接に一致した文書を優先して,項ベース検索モデルがソースバイアスを示すかどうかを考察する。
  論文  参考訳（メタデータ） (2025-08-25T06:43:27Z)
• Evaluating and Mitigating Social Bias for Large Language Models in Open-ended Settings [18.318232025355524]
  既存のデータセットBBQをOpen-BBQに拡張し、オープンエンド環境でのLCMの社会的バイアスを評価する。 文や段落をラベル付けすることで,オープンなコンテンツからバイアスを検出する評価手法を開発した。 この問題を解決するために、構造化例と明示的な連鎖推論を組み合わせたICL法であるComposite Promptingを提案する。
  論文  参考訳（メタデータ） (2024-12-09T01:29:47Z)
• Invar-RAG: Invariant LLM-aligned Retrieval for Better Generation [43.630437906898635]
  Invar-RAGと呼ばれる2段階ファインチューニングアーキテクチャを提案する。 検索段階では、LORAに基づく表現学習を統合してLLMベースの検索器を構築する。 生成段階では、抽出した情報に基づいて回答を生成する際のLCM精度を向上させるための精細調整法が用いられる。
  論文  参考訳（メタデータ） (2024-11-11T14:25:37Z)
• SFR-RAG: Towards Contextually Faithful LLMs [57.666165819196486]
  Retrieval Augmented Generation (RAG) は、外部コンテキスト情報を大言語モデル(LLM)と統合し、事実の精度と妥当性を高めるパラダイムである。 SFR-RAG(SFR-RAG)について述べる。 また、複数の人気かつ多様なRAGベンチマークをコンパイルする新しい評価フレームワークであるConBenchについても紹介する。
  論文  参考訳（メタデータ） (2024-09-16T01:08:18Z)
• Identifying and Mitigating Social Bias Knowledge in Language Models [52.52955281662332]
  個々人の社会的偏見をきめ細かなキャリブレーションを可能にする新しいデバイアス・アプローチであるFairness Stamp(FAST)を提案する。 FASTは最先端のベースラインを超え、デバイアス性能が優れている。 これは、大きな言語モデルにおける公平性を達成するためのきめ細かいデバイアス戦略の可能性を強調している。
  論文  参考訳（メタデータ） (2024-08-07T17:14:58Z)
• RAGEval: Scenario Specific RAG Evaluation Dataset Generation Framework [66.93260816493553]
  本稿では,様々なシナリオにまたがってRAGシステムを評価するためのフレームワークであるRAGvalを紹介する。 事実の正確性に焦点をあてて,完全性,幻覚,不適切性の3つの新しい指標を提案する。 実験結果から, RAGEvalは, 生成した試料の明瞭度, 安全性, 適合性, 豊かさにおいて, ゼロショット法とワンショット法より優れていた。
  論文  参考訳（メタデータ） (2024-08-02T13:35:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。