論文の概要: Generalized Contrastive Learning for Multi-Modal Retrieval and Ranking

• arxiv url: http://arxiv.org/abs/2404.08535v2
• Date: Sun, 27 Apr 2025 10:57:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-02 19:15:51.708808
• Title: Generalized Contrastive Learning for Multi-Modal Retrieval and Ranking
• Title（参考訳）: マルチモーダル検索とランク付けのための一般化されたコントラスト学習
• Authors: Tianyu Zhu, Myong Chol Jung, Jesse Clark,
• Abstract要約: Generalized Contrastive Learning (GCL)は、連立関係を超えた連続的なランキングスコアから学習するために設計されたトレーニングフレームワークである。 GCLは、ランキングスコアを損失関数に適用することにより、関連性およびランキング情報を統合埋め込み空間に符号化する。
• 参考スコア（独自算出の注目度）: 2.5238707656136694
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Contrastive learning has gained widespread adoption for retrieval tasks due to its minimal requirement for manual annotations. However, popular training frameworks typically learn from binary (positive/negative) relevance, making them ineffective at incorporating desired rankings. As a result, the poor ranking performance of these models forces systems to employ a re-ranker, which increases complexity, maintenance effort and inference time. To address this, we introduce Generalized Contrastive Learning (GCL), a training framework designed to learn from continuous ranking scores beyond binary relevance. GCL encodes both relevance and ranking information into a unified embedding space by applying ranking scores to the loss function. This enables a single-stage retrieval system. In addition, during our research, we identified a lack of public multi-modal datasets that benchmark both retrieval and ranking capabilities. To facilitate this and future research for ranked retrieval, we curated a large-scale MarqoGS-10M dataset using GPT-4 and Google Shopping, providing ranking scores for each of the 10 million query-document pairs. Our results show that GCL achieves a 29.3% increase in NDCG@10 for in-domain evaluations and 6.0% to 10.0% increases for cold-start evaluations compared to the finetuned CLIP baseline with MarqoGS-10M. Additionally, we evaluated GCL offline on a proprietary user interaction data. GCL shows an 11.2% gain for in-domain evaluations. The dataset and the method are available at: https://github.com/marqo-ai/GCL.
• Abstract（参考訳）: コントラスト学習は、手動アノテーションの最小限の要件のため、検索タスクに広く採用されている。 しかしながら、一般的なトレーニングフレームワークは、通常はバイナリ(肯定的/否定的な)関連性から学び、望ましいランキングを組み込むのに効果がない。 その結果、これらのモデルのランキング性能が低かったため、システムはリランカを使わざるを得なくなり、複雑さ、メンテナンスの労力、推論時間が増大する。 これを解決するために、二項関係を超えた連続的なランキングスコアから学習するためのトレーニングフレームワークであるGeneralized Contrastive Learning (GCL)を導入する。 GCLは、ランキングスコアを損失関数に適用することにより、関連性およびランキング情報を統合埋め込み空間に符号化する。 これにより、シングルステージ検索システムを実現する。 さらに,本研究では,検索機能とランキング機能の両方をベンチマークする公開マルチモーダルデータセットの欠如も確認した。 GPT-4とGoogle Shoppingを使って大規模なMarqoGS-10Mデータセットをキュレートし、1000万のクエリドキュメントペアのランキングスコアを提供した。 以上の結果から,GCLはNDCG@10のドメイン内評価では29.3%,寒冷開始評価では6.0%から10.0%の上昇を示した。 さらに、プロプライエタリなユーザインタラクションデータに基づいて、GCLをオフラインで評価した。 GCLはドメイン内評価で11.2%上昇している。 データセットとメソッドは、https://github.com/marqo-ai/GCL.orgで公開されている。

関連論文リスト

• Enhancing Classifier Evaluation: A Fairer Benchmarking Strategy Based on Ability and Robustness [0.4749981032986242]
  本研究では,項目応答理論(IRT)とGlicko-2レーティングシステムを組み合わせた新しい評価手法を提案する。 IRTは難しいインスタンスよりもパフォーマンスに基づいて分類器の能力を評価し、Glicko-2はパフォーマンスメトリクスを更新します。 OpenML-CC18ベンチマークを使用したケーススタディでは、データセットの15%だけが本当に難しいことが判明した。
  論文  参考訳（メタデータ） (2025-04-13T23:54:08Z)
• Rank-R1: Enhancing Reasoning in LLM-based Document Rerankers via Reinforcement Learning [76.50690734636477]
  ランキングタスクを実行する前にユーザクエリと候補文書の両方を推論する新しいLCMベースのリランカである Rank-R1 を導入する。 TREC DL と BRIGHT データセットを用いた実験により,Ranc-R1 が特に複雑なクエリに対して非常に有効であることが判明した。
  論文  参考訳（メタデータ） (2025-03-08T03:14:26Z)
• A Large-Scale Study of Relevance Assessments with Large Language Models: An Initial Look [52.114284476700874]
  本稿では,4つの異なる関連性評価手法が展開された大規模評価(TREC 2024 RAG Track)の結果について報告する。 自動生成UMBRELA判定は、完全に手動による判断を置き換えて、実行レベルの有効性を正確に捉えることができる。 意外なことに、LLMアシストは完全な手作業による評価と相関を増さないようで、人間のループプロセスに関連するコストは明らかな有意義な利益をもたらすものではないことを示唆している。
  論文  参考訳（メタデータ） (2024-11-13T01:12:35Z)
• Self-Calibrated Listwise Reranking with Large Language Models [137.6557607279876]
  大規模言語モデル (LLM) はシーケンシャル・ツー・シーケンス・アプローチによってタスクのランク付けに使用されている。 この階調のパラダイムは、より大きな候補集合を反復的に扱うためにスライディングウインドウ戦略を必要とする。 そこで本稿では,LLMを用いた自己校正リストのランク付け手法を提案する。
  論文  参考訳（メタデータ） (2024-11-07T10:31:31Z)
• RankRAG: Unifying Context Ranking with Retrieval-Augmented Generation in LLMs [60.38044044203333]
  大規模言語モデル(LLM)は、通常、検索拡張生成(RAG)において、レトリバーからトップkコンテキストを利用する。 本稿では,RAGにおける文脈ランク付けと回答生成の両目的のために,単一のLLMをチューニング可能な新しい命令微調整フレームワークであるRanRAGを提案する。 例えば、GPT-4-0613, GPT-4-turbo-2024-0409, ChatQA-1.5, RAGベンチマークの最先端性能を備えたオープンソースモデルなどである。
  論文  参考訳（メタデータ） (2024-07-02T17:59:17Z)
• Efficient course recommendations with T5-based ranking and summarization [2.6968321526169503]
  そこで我々は,MSMARCOをリランカとしてLandT5を微調整した2段階探索パイプラインを開発した。 新たにラベル付けされた2つのデータセットに対して,A/Bテストとユーザアンケートでランク付けを行った。 オンラインコースレコメンデーションのためのT5ベースの再ランク付けと要約は、単一ステップの語彙検索よりもはるかに優れた効果が得られると結論付けている。
  論文  参考訳（メタデータ） (2024-06-27T09:07:32Z)
• Empowering Large Language Models to Set up a Knowledge Retrieval Indexer via Self-Learning [17.83428132220955]
  Pseudo-Graph Retrieval-Augmented Generation (PG-RAG) という事前検索フレームワークを提案する。 PG-RAGは、LLMを学生として、豊富な原材料を提供することで概念化している。 PG-RAGは、検索フェーズの間、ノートをめくると人間の行動を模倣する。
  論文  参考訳（メタデータ） (2024-05-27T08:26:45Z)
• Unbiased Learning to Rank Meets Reality: Lessons from Baidu's Large-Scale Search Dataset [48.708591046906896]
  Unbiased Learning-to-rank(ULTR)は、ユーザクリックから学習するための確立したフレームワークである。 Baidu-ULTRデータセットで利用可能な実験を再検討し、拡張する。 標準的な非バイアスの学習 to ランク技術は、クリック予測を堅牢に改善するが、ランク付け性能を一貫して改善するのに苦労している。
  論文  参考訳（メタデータ） (2024-04-03T08:00:46Z)
• A Hard-to-Beat Baseline for Training-free CLIP-based Adaptation [121.0693322732454]
  対照的に、CLIP(Contrastive Language- Image Pretraining)はその目覚ましいゼロショット能力で人気を集めている。 近年の研究では、下流タスクにおけるCLIPの性能を高めるための効率的な微調整手法の開発に焦点が当てられている。 従来のアルゴリズムであるガウス判別分析(GDA)を再検討し,CLIPの下流分類に適用する。
  論文  参考訳（メタデータ） (2024-02-06T15:45:27Z)
• A ML-LLM pairing for better code comment classification [0.0]
  コードコメント分類共有タスク課題に対して,2倍の評価を行うことで回答する。 私たちの最高のモデルは、共有タスクで2位となり、提供されたシードデータに対して、マクロF1スコアが88.401%のニューラルネットワークです。
  論文  参考訳（メタデータ） (2023-10-13T12:43:13Z)
• Bipartite Ranking Fairness through a Model Agnostic Ordering Adjustment [54.179859639868646]
  本稿では,二部類ランキングにおける公平性を実現するためのモデルに依存しない後処理フレームワークxOrderを提案する。 xOrderは、教師なしおよび教師なしの公正度メトリックを含む、さまざまな分類モデルとランキングフェアネスメトリクスと互換性がある。 提案アルゴリズムを,4つのベンチマークデータセットと2つの実世界の患者電子健康記録リポジトリ上で評価した。
  論文  参考訳（メタデータ） (2023-07-27T07:42:44Z)
• Large Language Models are Effective Text Rankers with Pairwise Ranking Prompting [65.00288634420812]
  Pairwise Ranking Prompting (PRP)は、大規模言語モデル(LLM)の負担を大幅に軽減する手法である。 本研究は,中等級のオープンソースLCMを用いた標準ベンチマークにおいて,最先端のランク付け性能を達成した文献としては初めてである。
  論文  参考訳（メタデータ） (2023-06-30T11:32:25Z)
• Integrating Rankings into Quantized Scores in Peer Review [61.27794774537103]
  ピアレビューでは、レビュアーは通常、論文のスコアを提供するように求められます。 この問題を軽減するため、カンファレンスはレビュアーにレビューした論文のランキングを付加するように求め始めている。 このランキング情報を使用するための標準的な手順はなく、エリアチェアは異なる方法でそれを使用することができる。 我々は、ランキング情報をスコアに組み込むために、原則化されたアプローチを取る。
  論文  参考訳（メタデータ） (2022-04-05T19:39:13Z)
• GNNRank: Learning Global Rankings from Pairwise Comparisons via Directed Graph Neural Networks [68.61934077627085]
  本稿では,グラフ埋め込みを学習可能なGNNと互換性のあるモデリングフレームワークであるGNNRankを紹介する。 既存の手法と比較して,我々の手法が競争力があり,しばしば優れた性能を発揮することを示す。
  論文  参考訳（メタデータ） (2022-02-01T04:19:50Z)
• Query-level Early Exit for Additive Learning-to-Rank Ensembles [14.240566571342924]
  検索エンジンランキングパイプラインは通常、マシン学習決定ツリーの大規模なアンサンブルに基づいている。 本稿では,テクストレベルの早期退避問題について検討する。 NDCG@10では,クエリレベルの早期終了が最大7.5%向上し,スコアリングプロセスの高速化が最大2.2倍になることを示す。
  論文  参考訳（メタデータ） (2020-04-30T08:59:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。