Fugu-MT 論文翻訳(概要): RankSteer: Activation Steering for Pointwise LLM Ranking

論文の概要: RankSteer: Activation Steering for Pointwise LLM Ranking

arxiv url: http://arxiv.org/abs/2602.03422v1
Date: Tue, 03 Feb 2026 11:49:00 GMT
ステータス: 翻訳完了
システム内更新日: 2026-02-04 18:37:15.427791
Title: RankSteer: Activation Steering for Pointwise LLM Ranking
Title（参考訳）: RankSteer: ポイントワイドLLMランキングのアクティベーションステアリング
Authors: Yumeng Wang, Catherine Chen, Suzan Verberne,
Abstract要約: 大規模言語モデル(LLM)は、最近ゼロショットローダとして高い性能を示したが、それらの効果は迅速な定式化に非常に敏感である。ゼロショットポイントワイドLSMランキングのためのポストホックアクティベーションステアリングフレームワークである RankSteer を提案する。 TREC DL 20と複数のBEIRベンチマークの実験により、RangeSteerは少数のアンカークエリのみを使用して、ランキング品質を一貫して改善することが示された。
参考スコア（独自算出の注目度）: 13.718395381871751
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Large language models (LLMs) have recently shown strong performance as zero-shot rankers, yet their effectiveness is highly sensitive to prompt formulation, particularly role-play instructions. Prior analyses suggest that role-related signals are encoded along activation channels that are largely separate from query-document representations, raising the possibility of steering ranking behavior directly at the activation level rather than through brittle prompt engineering. In this work, we propose RankSteer, a post-hoc activation steering framework for zero-shot pointwise LLM ranking. We characterize ranking behavior through three disentangled and steerable directions in representation space: a \textbf{decision direction} that maps hidden states to relevance scores, an \textbf{evidence direction} that captures relevance signals not directly exploited by the decision head, and a \textbf{role direction} that modulates model behavior without injecting relevance information. Using projection-based interventions at inference time, RankSteer jointly controls these directions to calibrate ranking behavior without modifying model weights or introducing explicit cross-document comparisons. Experiments on TREC DL 20 and multiple BEIR benchmarks show that RankSteer consistently improves ranking quality using only a small number of anchor queries, demonstrating that substantial ranking capacity remains under-utilized in pointwise LLM rankers. We further provide a geometric analysis revealing that steering improves ranking by stabilizing ranking geometry and reducing dispersion, offering new insight into how LLMs internally represent and calibrate relevance judgments.
Abstract（参考訳）: 大規模言語モデル(LLM)は、最近ゼロショットローダとして高い性能を示したが、それらの効果は、迅速な定式化、特にロールプレイ命令に非常に敏感である。従来の分析では、ロール関連信号は、クエリ文書表現とは大きく異なるアクティベーションチャネルに沿って符号化され、不安定なプロンプトエンジニアリングではなく、アクティベーションレベルでのランク付け動作を直接操る可能性が示唆された。本研究では,ゼロショットポイントワイドLSMランキングのためのポストホックアクティベーションステアリングフレームワークである RankSteer を提案する。本稿では,3つの非交叉およびステアブルな表現空間におけるランク付け行動の特徴として,隠れた状態を関連スコアにマッピングする「textbf{decision direction」,決定ヘッドが直接利用しない関連信号をキャプチャする「textbf{evidence direction」,関連情報を注入することなくモデル動作を変調する「textbf{role direction」を特徴付ける。推論時にプロジェクションベースの介入を使用して、RangeSteerはこれらの方向を共同で制御し、モデルウェイトを変更したり、明示的なクロスドキュメント比較を導入することなくランク付け動作を校正する。 TREC DL 20 と複数のBEIR ベンチマークの実験により、RancedSteer は少数のアンカークエリのみを使用して、常にランク品質を向上し、ポイントワイド LLM ランキングでは、かなりのランキング能力が未利用であることが示されている。さらに, ステアリングは, ランク幾何学の安定化と分散の低減によってランク付けを改善することを示し, LLMが内部的に適合性判断をどう表現し, 校正するかを新たな知見を提供する。

論文の概要: RankSteer: Activation Steering for Pointwise LLM Ranking

関連論文リスト