論文の概要: Global Average Precision for Representation Learning
- arxiv url: http://arxiv.org/abs/2610.09863v1
- Date: Wed, 07 Oct 2026 11:22:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:22.873699
- Title: Global Average Precision for Representation Learning
- Title(参考訳): 表現学習のためのグローバル平均精度
- Abstract要約: gSAPはGlobal Average Precision (gAP)の代替品である
最大4倍の正のペアを同じ精度で取得する。
gSAPでトレーニングされたモデルは、より高い転送、$k$NN、ゼロショット分類の精度で、より良い表現を学習する。
- 参考スコア(独自算出の注目度): 25.24226292234013
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Standard information retrieval metrics, such as mean Average Precision (mAP), assess performance one query at a time, based on how the similarities between a query and its positives compare against those with its negatives. The same holds for common representation learning losses, such as InfoNCE and per-query AP surrogates. None of them considers whether similarities are comparable across queries, which any system with a single decision threshold relies on. Global Average Precision (gAP) does, by ranking all query-candidate pairs in one list and computing a single AP. We introduce gSAP, a differentiable surrogate of gAP. It needs only a similarity matrix and a binary matrix marking the positive pairs, the same input as existing losses, so it is a drop-in replacement for them and agnostic to the encoder, the modality, and the source of supervision. Since it considers all possible pairwise comparisons in the batch jointly, it also remains trainable at low temperatures, a regime where per-query surrogates run out of gradient. Swapping it into established recipes improves supervised metric learning, cross-modal alignment, and self-supervised pretraining, where, to our knowledge, it is the first ranking loss to replace the community standard InfoNCE in the latter two. Its similarities are more consistent across queries, which drives the gains under a universal threshold. gSAP retrieves up to four times as many positive pairs as the strongest AP surrogate at the same precision, and it degrades the least when queries with no positives in the database are added. Beyond thresholding, models trained with gSAP also learn better representations, with higher transfer, $k$NN and zero-shot classification accuracy.
- Abstract(参考訳): 平均精度(mAP)などの標準的な情報検索メトリクスは、クエリと正の類似度と負の類似度に基づいて、一度に1つのクエリのパフォーマンスを評価する。
同じことは、InfoNCEやクエリごとのAPサロゲートなど、一般的な表現学習損失にも当てはまる。
いずれも、単一の決定しきい値を持つシステムが依存する、クエリ間で類似性が同等であるかどうかを考慮していない。
Global Average Precision (gAP)は、すべてのクエリ候補ペアを1つのリストにランク付けし、1つのAPを計算することで実現している。
gSAP は gAP の異なるサロゲートである。
類似性行列と正の対を示す二項行列だけで、既存の損失と同じ入力であり、エンコーダ、モダリティ、および監督の源となる。
バッチで可能な全てのペア比較を共同で検討するため、低温でもトレーニング可能であり、クエリごとのサロゲートが勾配を欠いている。
確立されたレシピに組み込むことで,教師付きメートル法学習,クロスモーダルアライメント,自己監督型事前学習が改善される。
その類似性はクエリ間でより一貫性があり、普遍的なしきい値の下で利得を駆動する。
gSAPは同じ精度で最強のAPサロゲートの最大4倍の正のペアを検索し、データベースに正の値のないクエリが加わった場合、最小限に低下する。
gSAPでトレーニングされたモデルは、しきい値だけでなく、より高い転送、$k$NN、ゼロショットの分類精度など、より良い表現も学べる。
関連論文リスト
- RLVR$^{2}$: Reinforcement Learning with Verifiable Rubric-based Ranking [13.774317167730553]
Reinforcement Learning with Verifiable Rewards (RLVR) は、数学やコードなど、明確に定義された正当性信号を持つタスクから、多次元ルーリックによって定義された多面的品質要件へと拡張されている。
本稿では,ルーリックベースRLVRのランキングパラダイムであるRLVR$2$を提案する。
各基準に対して、RLVR$2$はルーブリックスコアを基準固有のグループ内順序結果に変換し、結果の比較行列から潜在ユーティリティを回復し、これらのユーティリティを1つのトレーニング信号にマージする。
論文 参考訳(メタデータ) (2026-09-20T08:34:28Z) - Prompt Perturbation for Reliable LLM Evaluation over Comparison Graphs [10.095945693317079]
大きな言語モデル(LLM)を評価することは、その能力を理解し、競合するシステムを比較し、実際に信頼できるモデルのデプロイをサポートするために重要である。
オープンエンドタスクでは、同じプロンプトに対する2つの応答を比較し、その結果の判断を総合的なランキングに集約する、ペアワイズ評価が一般的なパラダイムとなっている。
このパラダイムの中心的な課題は、非推移性(intransitivity)である。
論文 参考訳(メタデータ) (2026-06-16T07:44:45Z) - Metric-agnostic Learning-to-Rank via Boosting and Rank Approximation [33.0347118359824]
そこで本研究では,各クエリの平均平方損失に対してスムーズな近似を組み合わした,新たな微分可能なランキング損失を提案する。
本手法は,情報検索における現状と同等の効率で性能を向上する。
論文 参考訳(メタデータ) (2026-04-16T14:59:00Z) - Improving Consistency in Retrieval-Augmented Systems with Group Similarity Rewards [14.535325886547112]
RAGシステムは、ユーザがセマンティックに等価なクエリ間で出力が一貫性があることを期待する、ハイテイクなドメインにますますデプロイされている。
既存のシステムは、レトリバーとジェネレータの両方のばらつきにより、しばしば重大な矛盾を示す。
本稿では,RAGの一貫性をレトリバーレベル,ジェネレータレベル,エンド・ツー・エンドのコンポーネントに分解する基本的評価フレームワークを提案する。
論文 参考訳(メタデータ) (2025-10-05T23:14:13Z) - CompassVerifier: A Unified and Robust Verifier for LLMs Evaluation and Outcome Reward [50.97588334916863]
評価と結果報酬のための正確で堅牢な軽量検証モデルであるCompassVerifierを開発した。
数学、知識、多種多様な推論タスクにまたがる多分野の能力を示し、様々な答えの型を処理する能力を示す。
我々は,複数のデータソースから収集したモデル出力からなるVerifierBenchベンチマークを導入し,メタエラーパターンを手動で解析してCompassVerifierを強化する。
論文 参考訳(メタデータ) (2025-08-05T17:55:24Z) - NDCG-Consistent Softmax Approximation with Accelerated Convergence [67.10365329542365]
本稿では,ランキングの指標と直接一致した新たな損失定式化を提案する。
提案したRG損失を高効率な Alternating Least Squares (ALS) 最適化手法と統合する。
実世界のデータセットに対する実証的な評価は、我々のアプローチが同等または上位のパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2025-06-11T06:59:17Z) - Deep Imbalanced Regression via Hierarchical Classification Adjustment [50.19438850112964]
コンピュータビジョンにおける回帰タスクは、しばしば、対象空間をクラスに定量化することで分類される。
トレーニングサンプルの大多数は目標値の先頭にあるが、少数のサンプルは通常より広い尾幅に分布する。
不均衡回帰タスクを解くために階層型分類器を構築することを提案する。
不均衡回帰のための新しい階層型分類調整(HCA)は,3つのタスクにおいて優れた結果を示す。
論文 参考訳(メタデータ) (2023-10-26T04:54:39Z) - Bipartite Ranking Fairness through a Model Agnostic Ordering Adjustment [54.179859639868646]
本稿では,二部類ランキングにおける公平性を実現するためのモデルに依存しない後処理フレームワークxOrderを提案する。
xOrderは、教師なしおよび教師なしの公正度メトリックを含む、さまざまな分類モデルとランキングフェアネスメトリクスと互換性がある。
提案アルゴリズムを,4つのベンチマークデータセットと2つの実世界の患者電子健康記録リポジトリ上で評価した。
論文 参考訳(メタデータ) (2023-07-27T07:42:44Z) - No One Left Behind: Improving the Worst Categories in Long-Tailed
Learning [29.89394406438639]
このような評価設定の下では、いくつかのカテゴリは必然的に犠牲にされます。
多様な手法に適用可能な簡易なプラグイン法を提案する。
論文 参考訳(メタデータ) (2023-03-07T03:24:54Z) - Evaluating Large-Vocabulary Object Detectors: The Devil is in the
Details [107.2722027807328]
我々は、APのデフォルト実装はカテゴリー独立ではなく、適切に校正された検出器を直接報酬するものではないことを発見した。
既定の実装ではゲーム可能なメトリックが生成され、単純で非合理的な再ランクポリシーがAPを大きなマージンで改善できることが示される。
我々は,近年の大規模語彙検出の進歩をベンチマークし,新たなクラスごとの独立性評価において,多くの報告された利益が改善に結びついていないことを発見した。
論文 参考訳(メタデータ) (2021-02-01T18:56:02Z) - Towards Model-Agnostic Post-Hoc Adjustment for Balancing Ranking
Fairness and Algorithm Utility [54.179859639868646]
Bipartiteランキングは、ラベル付きデータから正の個人よりも上位の個人をランク付けするスコアリング機能を学ぶことを目的としている。
学習したスコアリング機能が、異なる保護グループ間で体系的な格差を引き起こすのではないかという懸念が高まっている。
本稿では、二部構成のランキングシナリオにおいて、それらのバランスをとるためのモデル後処理フレームワークを提案する。
論文 参考訳(メタデータ) (2020-06-15T10:08:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。