論文の概要: Beyond Polarization: The Generative Constraint of Chain-of-Thought in Pointwise Reranking
- arxiv url: http://arxiv.org/abs/2608.30398v1
- Date: Mon, 31 Aug 2026 07:51:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-01 18:31:31.296445
- Title: Beyond Polarization: The Generative Constraint of Chain-of-Thought in Pointwise Reranking
- Title(参考訳): 極性化を超えて: ポイントワイドリグレードにおけるチェーン・オブ・サートの生成的制約
- Abstract要約: ポイントワイドの文書の再評価では、Chain-of-Thoughtモデルは一般的に直接スコアリングモデルよりもパフォーマンスが低い。
私たちの実証的研究は、このギャップが最大32Bのパラメータにわたって安定していることを確認し、モデルとデータキャパシティの共同創設者を除外しました。
次に, 強化学習, きめ細かな監督, アーキテクチャの疎結合を利用したストレステストを適用し, これらの偏差を明示的に修復する。
- 参考スコア(独自算出の注目度): 28.78994214839467
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In pointwise document reranking, Chain-of-Thought models typically underperform direct scoring models. While existing diagnostics attribute this to inferior classification, score polarization, or calibration breakdown, whether targeted training can bridge this gap remains unclear. Our empirical study first confirms that this gap is stable across scales up to 32B parameters, ruling out model and data capacity confounders. We then apply stress tests utilizing reinforcement learning, fine-grained supervision, and architectural decoupling to explicitly repair these deviations. Although these interventions improve classification accuracy and absolute scores, the relative ranking gap persists. These findings suggest that, within the pointwise scoring paradigm, routing continuous relevance semantics through discrete text constrains ranking signal resolution, revealing a bottleneck that is stable and difficult to overcome under current standard methods, rather than an easily resolvable training bias.
- Abstract(参考訳): ポイントワイドの文書の再評価では、Chain-of-Thoughtモデルは一般的に直接スコアリングモデルよりもパフォーマンスが低い。
既存の診断では下級の分類、スコア偏光、校正の故障によるものとされているが、目標とするトレーニングがこのギャップを埋めるかどうかはまだ不明である。
私たちの実証的研究は、このギャップが最大32Bのパラメータにわたって安定していることを確認し、モデルとデータキャパシティの共同創設者を除外しました。
次に, 強化学習, きめ細かな監督, アーキテクチャの疎結合を利用したストレステストを適用し, これらの偏差を明示的に修復する。
これらの介入は分類精度と絶対スコアを改善するが、相対的なランキングギャップは持続する。
これらの知見は、ポイントワイドスコアリングパラダイムにおいて、離散テキスト制約による連続関連セマンティクスのルーティングが信号解決をランク付けし、容易に解決可能なトレーニングバイアスではなく、現在の標準手法で安定して克服し難いボトルネックを明らかにすることを示唆している。
関連論文リスト
- When Attribution Patching Lies: Diagnosis and a Second-Order Correction [9.338965648455238]
本研究は, 下流ネットワークの非直線性に起因する誤差が, パッチ成分の局所曲率よりも大きいことを示す。
この洞察は、(i)信頼できない見積もりを検出するための信頼性スコア、(ii)エラー境界がポテンシャル属性の誤特定を定量化すること、(iii)Hessian-vector-product correctが1つの後進パスで先行エラーを除去すること、の3つの実用的なツールをもたらす。
論文 参考訳(メタデータ) (2026-06-05T05:20:32Z) - Continual Segmentation under Joint Nonstationarity [8.522964568257455]
進化するデータストリームは連続的なセマンティックセグメンテーションにおいて関節の非定常性を誘導する。
この設定は、実際に構築された予測システムを反映しているが、従来の連続的な学習作業では、ほとんど探索されていない。
連成クラス,ドメイン,ラベルのシフトの下で連続的なセグメンテーションを定式化し,異種密接な予測環境における学習について検討する。
論文 参考訳(メタデータ) (2026-05-19T22:20:00Z) - Multimodal Learning on Low-Quality Data with Conformal Predictive Self-Calibration [72.0672328514289]
マルチモーダル学習は、しばしば低品質データの課題に悩まされる。
コンフォーマル予測自己校正(Conformal Predictive Self-Calibration)と呼ばれる統合フレームワークを提案する。
私たちのフレームワークは、既存の最先端メソッドを一貫して上回ります。
論文 参考訳(メタデータ) (2026-05-05T14:48:52Z) - Learning from Emptiness: De-biasing Listwise Rerankers with Content-Agnostic Probability Calibration [76.08899010904652]
CapCalは、ランキング決定から位置バイアスを機械的に分離する、トレーニング不要のフレームワークである。
シングルパス効率を保ちながら、トレーニング不要の手法で優れた性能を発揮する。
論文 参考訳(メタデータ) (2026-04-11T10:47:22Z) - Online Bayesian Imbalanced Learning with Bregman-Calibrated Deep Networks [0.7106986689736825]
本報告では、クラス優先の仮定から確率比の推定を分離する原則的フレームワークであるOBIL(TextitOnline Bayesian Im Balanced Learning)を提案する。
我々のアプローチは、ブレグマンの発散と適切なスコアリングルールとの確立された接続に基づいて、そのような損失で訓練されたディープネットワークが後続確率推定を生成することを示す。
これらの確率比の推定は、クラス事前およびコスト構造における任意の変化の下でも有効であり、最適なベイズ決定のためのしきい値調整のみを必要とすることを証明している。
論文 参考訳(メタデータ) (2026-02-08T21:23:00Z) - RAAG: Ratio Aware Adaptive Guidance [9.525432706814675]
フローベースの生成モデルは驚くべき進歩を遂げた。
推論全体を通じて強力な、固定されたガイダンススケールを適用することは、現代的なアプリケーションに必要な、迅速な、数ステップのサンプリングには適していない。
本稿では,進化率に基づいて早期段階の指導尺度を自動的に減衰させる,シンプルな,理論的に基礎付けられた適応型指導スケジュールを提案する。
論文 参考訳(メタデータ) (2025-08-05T13:41:05Z) - Improving Group Robustness on Spurious Correlation via Evidential Alignment [26.544938760265136]
ディープニューラルネットワークは、しばしば急激な相関、すなわち非因果的特徴と標的の間の表面的関連を学習し、依存する。
既存のメソッドは通常、外部のグループアノテーションや補助的な決定論的モデルを使用することでこの問題を軽減する。
偏りのあるモデルの振る舞いを理解するために不確実性定量化を利用する新しいフレームワークであるエビデンシャルアライメントを提案する。
論文 参考訳(メタデータ) (2025-06-12T22:47:21Z) - TrustLoRA: Low-Rank Adaptation for Failure Detection under Out-of-distribution Data [62.22804234013273]
本稿では,共変量および意味的シフトの両条件下での拒絶による分類を統一し,促進する,単純な故障検出フレームワークを提案する。
キーとなる洞察は、障害固有の信頼性知識を低ランクアダプタで分離し、統合することにより、障害検出能力を効果的かつ柔軟に向上できるということです。
論文 参考訳(メタデータ) (2025-04-20T09:20:55Z) - Selective Learning: Towards Robust Calibration with Dynamic Regularization [79.92633587914659]
ディープラーニングにおけるミススキャリブレーションとは、予測された信頼とパフォーマンスの間には相違がある、という意味である。
トレーニング中に何を学ぶべきかを学ぶことを目的とした動的正規化(DReg)を導入し、信頼度調整のトレードオフを回避する。
論文 参考訳(メタデータ) (2024-02-13T11:25:20Z) - Noisy Correspondence Learning with Self-Reinforcing Errors Mitigation [63.180725016463974]
クロスモーダル検索は、実際は精力的な、十分に整合した大規模データセットに依存している。
我々は、新しい雑音対応学習フレームワーク、textbfSelf-textbfReinforcing textbfErrors textbfMitigation(SREM)を導入する。
論文 参考訳(メタデータ) (2023-12-27T09:03:43Z) - When Does Confidence-Based Cascade Deferral Suffice? [69.28314307469381]
カスケードは、推論コストをサンプル毎に適応的に変化させる古典的な戦略である。
deferralルールは、シーケンス内の次の分類子を呼び出すか、または予測を終了するかを決定する。
カスケードの構造に執着しているにもかかわらず、信頼に基づく推論は実際は極めてうまく機能することが多い。
論文 参考訳(メタデータ) (2023-07-06T04:13:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。