論文の概要: LLM-based Listwise Reranking under the Effect of Positional Bias

• arxiv url: http://arxiv.org/abs/2604.03642v1
• Date: Sat, 04 Apr 2026 08:40:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-07 15:49:18.693284
• Title: LLM-based Listwise Reranking under the Effect of Positional Bias
• Title（参考訳）: 位置バイアスの影響下でのLLMに基づくリストワイズ
• Authors: Jingfen Qiao, Jin Huang, Xinyu Ma, Shuaiqiang Wang, Dawei Yin, Evangelos Kanoulas, Andrew Yates,
• Abstract要約: LLMをベースとしたリストワイドパスの再ランク付けは、候補パスのランク付けに有効であるとして注目されている。 これらのモデルは位置バイアスに悩まされ、入力の終端の位置にある通路はランクの上位位置に移動する可能性が低い。 DebiasFirstは、微調整中に位置校正と位置認識データ拡張を統合する手法である。
• 参考スコア（独自算出の注目度）: 69.07550988151473
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: LLM-based listwise passage reranking has attracted attention for its effectiveness in ranking candidate passages. However, these models suffer from positional bias, where passages positioned towards the end of the input are less likely to be moved to top positions in the ranking. We hypothesize that there are two primary sources of positional bias: (1) architectural bias inherent in LLMs and (2) the imbalanced positioning of relevant documents. To address this, we propose DebiasFirst, a method that integrates positional calibration and position-aware data augmentation during fine-tuning. Positional calibration uses inverse propensity scoring to adjust for positional bias by re-weighting the contributions of different positions in the loss function when training. Position-aware augmentation augments training data to ensure that each passage appears equally across varied positions in the input list. This approach markedly enhances both effectiveness and robustness to the original ranking across diverse first-stage retrievers, reducing the dependence of NDCG@10 performance on the position of relevant documents. DebiasFirst also complements the inference-stage debiasing methods, offering a practical solution for mitigating positional bias in reranking.
• Abstract（参考訳）: LLMをベースとしたリストワイドパスの再ランク付けは、候補パスのランク付けに有効であるとして注目されている。 しかし、これらのモデルは位置バイアスに悩まされ、入力の終端の位置にある通路はランクの上位に移動する可能性が低い。 我々は,(1)LLMに固有のアーキテクチャバイアス,(2)関連文書の非バランスな位置決めの2つの主要な位置バイアス源が存在すると仮定する。 そこで本稿では,微調整中の位置校正と位置認識データ拡張を統合したDebiasFirstを提案する。 位置校正は、トレーニング時の損失関数における異なる位置の寄与を再重み付けすることで、位置バイアスの補正に逆の確率スコアを用いる。 位置対応強化は、入力リスト内の様々な位置にわたって各通路が等しく現れるようにトレーニングデータを増強する。 本手法は, 各種第1段レトリバーの信頼性とロバスト性を両立させ, NDCG@10の性能が関連文書の位置に依存することを低減させる。 Debias Firstは推論段階のデバイアス法を補完し、再ランクにおける位置バイアスを緩和するための実用的な解決策を提供する。

関連論文リスト

• Correcting for Position Bias in Learning to Rank: A Control Function Approach [9.986244291715762]
  本稿では,2段階プロセスにおける位置バイアスを考慮した制御関数に基づく新しい手法を提案する。 従来の位置偏差補正法とは異なり、この手法はクリックや確率モデルに関する知識を必要としない。 提案手法は位置バイアスの補正における最先端手法よりも優れていることを示す実験結果を得た。
  論文  参考訳（メタデータ） (2025-06-08T04:10:14Z)
• Eliminating Position Bias of Language Models: A Mechanistic Approach [119.34143323054143]
  位置バイアスは現代言語モデル (LM) の一般的な問題であることが証明されている。 我々の力学解析は、ほぼ全ての最先端のLMで使われている2つのコンポーネント(因果的注意と相対的位置エンコーディング)に位置バイアスが関係している。 位置バイアスを排除することによって、LM-as-a-judge、検索強化QA、分子生成、数学推論など、下流タスクのパフォーマンスと信頼性が向上する。
  論文  参考訳（メタデータ） (2024-07-01T09:06:57Z)
• Mitigate Position Bias with Coupled Ranking Bias on CTR Prediction [40.9668016608627]
  既存の方法の多くは、アイテムの配置位置にも関係している、広範囲に結合したランキングバイアスを無視している。 本研究では、この広く共存しているランキングバイアスが、既存の位置バイアス推定手法の性能を悪化させることを示す。 位置バイアスをランキングバイアスの存在下で緩和するために, ヒューズ重みを用いた2つの推定手法を融合した新しい位置バイアス推定法, すなわち勾配を提案する。
  論文  参考訳（メタデータ） (2024-05-29T10:31:53Z)
• Position-Aware Parameter Efficient Fine-Tuning Approach for Reducing Positional Bias in LLMs [18.832135309689736]
  大規模言語モデル(LLM)の最近の進歩は、長い入力コンテキストを処理する能力を高めている。 近年の研究では、LCMの位置バイアスが示されており、有用な情報の位置に応じて様々な性能を示す。 本研究では,データ拡張手法と効率的なパラメータアダプタを組み合わせた位置認識型PAPEFTアプローチを提案する。
  論文  参考訳（メタデータ） (2024-04-01T19:04:17Z)
• Click-Conversion Multi-Task Model with Position Bias Mitigation for Sponsored Search in eCommerce [51.211924408864355]
  位置認識型クリック変換(PACC)と位置埋め込み(PACC-PE)によるPACCの2つの位置バイアスのない予測モデルを提案する。 Eコマースが支援する製品検索データセットの実験により、提案したモデルではランキングの有効性が向上し、CTRとCVRの予測における位置バイアスを大幅に軽減できることが示された。
  論文  参考訳（メタデータ） (2023-07-29T19:41:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。