論文の概要: GARCIA: Powering Representations of Long-tail Query with
Multi-granularity Contrastive Learning
- arxiv url: http://arxiv.org/abs/2304.12537v1
- Date: Tue, 25 Apr 2023 03:04:12 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-26 22:09:09.767717
- Title: GARCIA: Powering Representations of Long-tail Query with
Multi-granularity Contrastive Learning
- Title(参考訳): GARCIA:多粒性コントラスト学習を用いたロングテールクエリの表現
- Authors: Weifan Wang, Binbin Hu, Zhicheng Peng, Mingjie Zhong, Zhiqiang Zhang,
Zhongyi Liu, Guannan Zhang, Jun Zhou
- Abstract要約: 我々は,グラフに基づく知識伝達と意図に基づく表現の一般化を利用する新しいフレームワークであるGARCIAを開発した。
我々は,GARCIAに,知識伝達,構造拡張,意図の一般化を通じて表現を駆動する,新しい多粒性コントラスト学習モジュールを装備する。
最終的に、オフライン環境とオンライン環境の両方で広範な実験を行い、GARCIAの優れた能力を実証した。
- 参考スコア(独自算出の注目度): 11.172100051459262
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recently, the growth of service platforms brings great convenience to both
users and merchants, where the service search engine plays a vital role in
improving the user experience by quickly obtaining desirable results via
textual queries. Unfortunately, users' uncontrollable search customs usually
bring vast amounts of long-tail queries, which severely threaten the capability
of search models. Inspired by recently emerging graph neural networks (GNNs)
and contrastive learning (CL), several efforts have been made in alleviating
the long-tail issue and achieve considerable performance. Nevertheless, they
still face a few major weaknesses. Most importantly, they do not explicitly
utilize the contextual structure between heads and tails for effective
knowledge transfer, and intention-level information is commonly ignored for
more generalized representations.
To this end, we develop a novel framework GARCIA, which exploits the graph
based knowledge transfer and intention based representation generalization in a
contrastive setting. In particular, we employ an adaptive encoder to produce
informative representations for queries and services, as well as hierarchical
structure aware representations of intentions. To fully understand tail queries
and services, we equip GARCIA with a novel multi-granularity contrastive
learning module, which powers representations through knowledge transfer,
structure enhancement and intention generalization. Subsequently, the complete
GARCIA is well trained in a pre-training&fine-tuning manner. At last, we
conduct extensive experiments on both offline and online environments, which
demonstrates the superior capability of GARCIA in improving tail queries and
overall performance in service search scenarios.
- Abstract(参考訳): 近年、サービスプラットフォームの成長は、ユーザと商店双方にとって大きな便宜をもたらし、サービス検索エンジンは、テキストクエリによる望ましい結果の迅速な取得により、ユーザエクスペリエンスの向上に重要な役割を担っている。
残念ながら、ユーザーの制御不能な検索習慣は、通常大量のロングテールクエリを持ち込み、検索モデルの能力を著しく脅かす。
最近出現しているグラフニューラルネットワーク(GNN)とコントラスト学習(CL)に触発されて、ロングテール問題を緩和し、かなりのパフォーマンスを達成するために、いくつかの取り組みが行われた。
それでも、いくつかの大きな弱点に直面している。
最も重要なことは、彼らは効果的な知識伝達のために頭と尾の間の文脈構造を明示的に利用せず、より一般化された表現に対して意図レベル情報は一般的に無視されることである。
そこで本研究では,グラフに基づく知識伝達と意図に基づく表現一般化を対比的に活用する新しい枠組み garcia を開発した。
特に、適応エンコーダを用いて、クエリやサービスの情報表現と、意図の階層構造を考慮した表現を生成する。
テールクエリとサービスを完全に理解するために,我々は,知識伝達,構造拡張,意図の一般化を通じて表現を駆動する,新しい多粒性コントラスト学習モジュールをGARCIAに装備する。
その後、完全なガルシアは事前訓練と微調整の方法でよく訓練される。
最後に、オフライン環境とオンライン環境の両方で広範な実験を行い、サービス検索シナリオにおけるテールクエリの改善と全体的なパフォーマンスに関するGARCIAの優れた能力を示す。
関連論文リスト
- AAPL: Adding Attributes to Prompt Learning for Vision-Language Models [6.32186874112557]
本稿では,学習可能なプロンプトのバイアスを誘発する際,高次クラス情報から低次視覚強調特徴を分離するための逆トークン埋め込みを提案する。
我々は11のデータセットに対して実験を行い、AAPLは、いくつかのショット学習、ゼロショット学習、クロスデータセット、ドメイン一般化タスクにおいて、既存の手法と比較して好成績を示した。
論文 参考訳(メタデータ) (2024-04-25T17:51:10Z) - Efficient Prompt Tuning of Large Vision-Language Model for Fine-Grained
Ship Classification [62.425462136772666]
リモートセンシング(RS-FGSC)における船のきめ細かい分類は、クラス間の高い類似性とラベル付きデータの限られた可用性のために大きな課題となる。
大規模な訓練済みビジョンランゲージモデル(VLM)の最近の進歩は、少数ショット学習やゼロショット学習において印象的な能力を示している。
本研究は, 船種別分類精度を高めるために, VLMの可能性を生かしたものである。
論文 参考訳(メタデータ) (2024-03-13T05:48:58Z) - Deep Fast Vision: A Python Library for Accelerated Deep Transfer
Learning Vision Prototyping [0.0]
ディープファストビジョン(Deep Fast Vision)は、ディープラーニングプロセスを合理化するピソンライブラリである。
これは単純なネストした辞書定義を通じて結果を可能にし、非専門家のディープラーニングを民主化するのに役立ちます。
論文 参考訳(メタデータ) (2023-11-10T16:36:49Z) - Knowledge-Aware Prompt Tuning for Generalizable Vision-Language Models [64.24227572048075]
本稿では,視覚言語モデルのためのKnowledge-Aware Prompt Tuning(KAPT)フレームワークを提案する。
我々のアプローチは、人間の知性からインスピレーションを得ており、外部知識は、通常、オブジェクトの新たなカテゴリを認識するために組み込まれています。
論文 参考訳(メタデータ) (2023-08-22T04:24:45Z) - Exploring Large Language Model for Graph Data Understanding in Online
Job Recommendations [63.19448893196642]
本稿では,大規模言語モデルが提供するリッチな文脈情報と意味表現を利用して行動グラフを解析する新しいフレームワークを提案する。
この機能を利用することで、個々のユーザに対してパーソナライズされた、正確なジョブレコメンデーションが可能になる。
論文 参考訳(メタデータ) (2023-07-10T11:29:41Z) - Structure-CLIP: Towards Scene Graph Knowledge to Enhance Multi-modal
Structured Representations [70.41385310930846]
マルチモーダルな構造表現を強化するためのエンドツーエンドフレームワークであるStructure-CLIPを提案する。
シーングラフを用いてセマンティックなネガティブな例の構築をガイドし、その結果、構造化された表現の学習に重点を置いている。
知識エンハンス(KEE)は、SGKを入力として活用し、構造化表現をさらに強化するために提案される。
論文 参考訳(メタデータ) (2023-05-06T03:57:05Z) - SuperCone: Modeling Heterogeneous Experts with Concept Meta-learning for
Unified Predictive Segments System [8.917697023052257]
統合述語セグメントシステムであるSuperConeについて述べる。
これは、各ユーザの異質なデジタルフットプリントを要約するフラットな概念表現の上に構築される。
様々な述語セグメントタスクにおいて、最先端のレコメンデーションとランキングアルゴリズムを上回ります。
論文 参考訳(メタデータ) (2022-03-09T04:11:39Z) - Knowledge Graph Augmented Network Towards Multiview Representation
Learning for Aspect-based Sentiment Analysis [96.53859361560505]
本稿では,知識グラフ拡張ネットワーク(KGAN)を提案する。
KGANは感情の特徴表現を、文脈、構文、知識に基づく複数の視点から捉えている。
3つの人気のあるABSAベンチマークの実験は、我々のKGANの有効性と堅牢性を示している。
論文 参考訳(メタデータ) (2022-01-13T08:25:53Z) - Learning From Multiple Experts: Self-paced Knowledge Distillation for
Long-tailed Classification [106.08067870620218]
我々は,LFME(Learning From Multiple Experts)と呼ばれる自己評価型知識蒸留フレームワークを提案する。
提案するLFMEフレームワークは,複数の'Experts'からの知識を集約して,統一された学生モデルを学ぶ。
提案手法は,最先端の手法に比べて優れた性能が得られることを示す。
論文 参考訳(メタデータ) (2020-01-06T12:57:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。