論文の概要: How Calibration Content Shapes Attention-Based Reranking

• arxiv url: http://arxiv.org/abs/2609.17764v1
• Date: Tue, 15 Sep 2026 19:12:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-20 08:55:53.51281
• Title: How Calibration Content Shapes Attention-Based Reranking
• Title（参考訳）: キャリブレーションコンテンツは意図に基づいてどのように形づくられるか
• Abstract要約: アテンションベースのリランカは、クエリ・ツー・ドキュメントの注意を集約し、ヌル・クエリ・キャリブレーション・パスを減算することで文書をスコアする。 本稿では,制約,指示,ペルソナ,デモンストレーションなどの現代的なプロンプトコンテンツが,スコアリングの読み出しに入ると,この仮定に反する可能性があることを示す。 本稿では,命令内容のどれ程がヌルベースラインに入るかを制御する訓練不要な修正である補間ヌルキャリブレーションを提案する。
• 参考スコア（独自算出の注目度）: 24.816673222527953
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Attention-based rerankers score documents by aggregating query-to-document attention and subtracting a null-query calibration pass to remove positional and structural bias. Although widely used, this calibration assumes that the null pass removes irrelevant signal from each document. We show that modern prompt content, e.g. constraints, instructions, personas, and demonstrations can violate this assumption when it enters the scoring readout, making the null pass relevance-aware rather than null. We find that calibration is especially harmful when applied to prompts containing longer, more detailed instructions as the null-pass step removes relevant signal. Based on these findings, we propose interpolated null calibration, a training-free modification that controls how much of the instruction content enters the null baseline. It recovers attention-based reranking performance on instruction-heavy tasks where standard calibration fails, while preserving calibration's benefits when the null pass remains relevance-agnostic. On instruction heavy tasks, the recovered rankings surpass generative rerankers. We also show that in-context demonstrations improve attention-based reranking with little calibration interference, since demonstrations act only through the query pass and leave the null pass unchanged.
• Abstract（参考訳）: アテンションベースのリランカーは、クエリ・ツー・ドキュメントの注意を集約し、ヌル・クエリ・キャリブレーション・パスを減じて、位置バイアスと構造バイアスを取り除くことで文書をスコアする。 広く使われているが、この校正はヌルパスがそれぞれの文書から無関係な信号を取り除くことを前提としている。 我々は、最新のプロンプトコンテンツ、例えば制約、命令、ペルソナ、デモが、スコアの読み出しに入ると、この仮定に違反する可能性があることを示し、nullではなくnullパスの関連性を認識している。 ヌルパスステップが関連する信号を除去する際に、より長い詳細な命令を含むプロンプトに適用した場合、校正は特に有害であることがわかった。 これらの結果に基づいて,命令内容のどれ程がヌルベースラインに入るかを制御する訓練不要な修正である補間ヌルキャリブレーションを提案する。 標準キャリブレーションが失敗する命令重大タスクに対する注意ベースのリグレード性能を回復し、ヌルパスが関連性に依存しないままである場合にキャリブレーションの利点を保存する。 ヘビータスクでは、回復したランキングが生成的リランカーを上回っている。 また、クエリーパスを通してのみ動作し、ヌルパスをそのまま残しておくため、コンテキスト内デモはキャリブレーションの干渉が少なく、アテンションベースのリランクを改善することも示している。

関連論文リスト

• Securing quantum error correction against misleading advice from AI agents [0.0]
  我々は、回復選択を妨げるパッシブシンドローム記録の曖昧さを同定する。 キャリブレーション測定が不確実性およびドリフト下でのリカバリ更新にどのように役立つかを示す。
  論文  参考訳（メタデータ） (2026-09-16T17:26:54Z)
• Bellman Calibration for Marginalized Importance Weighting in Offline Reinforcement Learning [40.322273308230606]
  一次元モデルに依存しない後処理法である等速ベルマンキャリブレーションを導入する。 提案手法は, 1次元の非減少型変換に適合した占有率評価(FORE)を適用することにより, 推定値のスケールと形状を補正する。 キャリブレーション・リファインダは, キャリブレーション誤差の小さい任意の適合比が, 最良な後処理とほぼ同等であることを示す。
  論文  参考訳（メタデータ） (2026-08-25T17:44:02Z)
• When Thinking Before Retrieval Hurts: TraceBound Diagnostics for Adaptive Knowledge-Graph Retrieval [0.0]
  TraceBoundは、テキストリッチな知識グラフ上でARKスタイルの検索を行うための軽量なプロファイルおよびトレース条件付き診断プロトコルである。 テキストリッチな知識グラフ上でARKスタイルの検索を行うための軽量なプロファイルおよびトレース条件付き診断プロトコルであるTraceBoundを導入することで、この前提について検討する。
  論文  参考訳（メタデータ） (2026-07-06T09:16:38Z)
• Closing the Calibration Gap in Semantic Caching [0.07456526005219319]
  PR-AUC が最も高いセマンティックキャッシングモデルが動作上で最悪の場合が多いことを示す。 キャッシュ利用レベルの精度を測定するキャッシュ対応指標であるP-CHR(Precision-Cache Hit Ratio)とRetention Rate(Retention Rate)を紹介する。 実験の結果, キャリブレーションギャップはデータスケールではなくトレーニング目標によって制御され, ポストホックキャリブレーションは部分的には閉じていることがわかった。
  論文  参考訳（メタデータ） (2026-06-18T02:34:33Z)
• A Granular Study of Safety Pretraining under Model Abliteration [64.24346997570275]
  本稿では,リフレクションに敏感な方向を除去する軽量プロジェクション技術であるモデルアブリーブレーションについて検討する。 我々は、バランスのとれた有害かつ無害なケースで100のプロンプトを発行し、複数の判断を用いて**Refusal*または***Non-Refusal*として応答を分類し、判断の忠実さを検証する。 本研究は,データ中心の安全コンポーネントが失語中も頑健であるチェックポイントレベルの特徴付けを行う。
  論文  参考訳（メタデータ） (2025-10-03T07:01:45Z)
• Towards Certification of Uncertainty Calibration under Adversarial Attacks [96.48317453951418]
  攻撃はキャリブレーションを著しく損なう可能性を示し, 対向的摂動下でのキャリブレーションにおける最悪のキャリブレーション境界として認定キャリブレーションを提案する。 我々は,新しいキャリブレーション攻撃を提案し,テクスタディバーショナルキャリブレーショントレーニングによりモデルキャリブレーションを改善する方法を示す。
  論文  参考訳（メタデータ） (2024-05-22T18:52:09Z)
• An analysis of over-sampling labeled data in semi-supervised learning with FixMatch [66.34968300128631]
  ほとんどの半教師付き学習手法は、ミニバッチを訓練する際にラベルをオーバーサンプルする。 本稿では,この実践が学習と方法を改善するかどうかを考察する。 ラベル付けの有無に関わらず、トレーニングデータから各ミニバッチを均一にサンプリングする別の設定と比較する。
  論文  参考訳（メタデータ） (2022-01-03T12:22:26Z)
• Localized Calibration: Metrics and Recalibration [133.07044916594361]
  完全大域キャリブレーションと完全個別化キャリブレーションのギャップにまたがる細粒度キャリブレーション指標を提案する。 次に,局所再校正法であるLoReを導入し,既存の校正法よりもLCEを改善する。
  論文  参考訳（メタデータ） (2021-02-22T07:22:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。