論文の概要: LH-Mix: Local Hierarchy Correlation Guided Mixup over Hierarchical Prompt Tuning
- arxiv url: http://arxiv.org/abs/2412.16963v1
- Date: Sun, 22 Dec 2024 10:47:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-12-24 15:59:48.143937
- Title: LH-Mix: Local Hierarchy Correlation Guided Mixup over Hierarchical Prompt Tuning
- Title(参考訳): LH-Mix: 階層型プロンプトチューニングに関する局所階層相関ガイド
- Authors: Fanshuang Kong, Richong Zhang, Ziqiao Wang,
- Abstract要約: 階層的テキスト分類(HTC)は、各テキストに1つ以上のラベルを割り当てることを目的としている。
これを解決するためには、テキスト固有のローカル階層を組み込むことが不可欠である。
まず、親子関係を捉えるために、まずローカル階層を手動の深さレベルのプロンプトに統合する。
次に、この階層的なプロンプトチューニングスキームにMixupを適用し、兄弟関係およびピア関係における潜時相関を改善する。
- 参考スコア(独自算出の注目度): 26.98015572633289
- License:
- Abstract: Hierarchical text classification (HTC) aims to assign one or more labels in the hierarchy for each text. Many methods represent this structure as a global hierarchy, leading to redundant graph structures. To address this, incorporating a text-specific local hierarchy is essential. However, existing approaches often model this local hierarchy as a sequence, focusing on explicit parent-child relationships while ignoring implicit correlations among sibling/peer relationships. In this paper, we first integrate local hierarchies into a manual depth-level prompt to capture parent-child relationships. We then apply Mixup to this hierarchical prompt tuning scheme to improve the latent correlation within sibling/peer relationships. Notably, we propose a novel Mixup ratio guided by local hierarchy correlation to effectively capture intrinsic correlations. This Local Hierarchy Mixup (LH-Mix) model demonstrates remarkable performance across three widely-used datasets.
- Abstract(参考訳): 階層的テキスト分類(HTC)は、各テキストに1つ以上のラベルを割り当てることを目的としている。
多くの方法がこの構造をグローバルな階層として表現し、冗長なグラフ構造へと導く。
これを解決するためには、テキスト固有のローカル階層を組み込むことが不可欠である。
しかしながら、既存のアプローチは、しばしばこの局所的な階層をシーケンスとしてモデル化し、兄弟関係と子関係の間の暗黙の相関を無視しながら、明示的な親子関係に焦点を当てる。
本稿ではまず,親子関係を捉えるために,局所階層を手動の深度レベルプロンプトに統合する。
次に、この階層的なプロンプトチューニングスキームにMixupを適用し、兄弟関係およびピア関係における潜時相関を改善する。
特に,固有相関を効果的に捉えるために,局所的階層相関によって導かれる新しい混合比を提案する。
このLocal Hierarchy Mixup(LH-Mix)モデルは、広く使用されている3つのデータセットにまたがる顕著なパフォーマンスを示している。
関連論文リスト
- CHAMP: Efficient Annotation and Consolidation of Cluster Hierarchies [42.58721170430892]
CHAMPは、任意のタイプのテキストに対して、クラスタと階層を同時にインクリメンタルに構築できるオープンソースのツールです。
CHAMPは、一般的なペアワイズアノテーションアプローチと比較して、アノテーションの時間を大幅に短縮し、クラスタや階層レベルでの推移性を維持することを保証します。
論文 参考訳(メタデータ) (2023-11-19T11:22:00Z) - Preserving Modality Structure Improves Multi-Modal Learning [64.10085674834252]
大規模マルチモーダルデータセットによる自己教師付き学習は、人間のアノテーションに頼ることなく、意味的に意味のある埋め込みを学ぶことができる。
これらの手法は、モダリティ固有の埋め込みに存在する意味構造を無視して、ドメイン外のデータをうまく一般化するのに苦労することが多い。
共同埋め込み空間におけるモダリティ特異的な関係を保ち, 一般化性を向上させるためのセマンティック・構造保存整合性アプローチを提案する。
論文 参考訳(メタデータ) (2023-08-24T20:46:48Z) - Hierarchical Matching and Reasoning for Multi-Query Image Retrieval [113.44470784756308]
マルチクエリ画像検索のための階層マッチング・推論ネットワーク(HMRN)を提案する。
MQIRを3つの階層的なセマンティック表現に分解し、きめ細かい局所的な詳細、文脈的グローバルスコープ、高レベルの固有の相関をキャプチャする責任を負う。
我々のHMRNは最先端の手法を大幅に上回っている。
論文 参考訳(メタデータ) (2023-06-26T07:03:56Z) - Learnable Pillar-based Re-ranking for Image-Text Retrieval [119.9979224297237]
画像テキスト検索は、モダリティギャップを埋め、意味的類似性に基づいてモダリティコンテンツを検索することを目的としている。
一般的なポストプロセッシング手法であるリグレードは, 単一モダリティ検索タスクにおいて, 隣り合う関係を捕捉する優位性を明らかにしている。
本稿では,画像テキスト検索のための新しい学習可能な柱型リグレードパラダイムを提案する。
論文 参考訳(メタデータ) (2023-04-25T04:33:27Z) - Exploiting Global and Local Hierarchies for Hierarchical Text
Classification [34.624922210257125]
既存の手法は、ラベル階層を全てのラベルを含む静的階層構造として扱うグローバルビューでラベル階層をエンコードする。
我々は,グローバル階層とローカル階層の両方をモデル化するために,グローバル階層とローカル階層(HBGL)を用いた階層誘導BERTを提案する。
提案手法は,最先端のHGCLRと比較して,3つのベンチマークデータセットにおいて大幅な改善を実現している。
論文 参考訳(メタデータ) (2022-05-05T12:48:41Z) - Use All The Labels: A Hierarchical Multi-Label Contrastive Learning
Framework [75.79736930414715]
本稿では,すべての利用可能なラベルを活用でき,クラス間の階層的関係を維持できる階層型多言語表現学習フレームワークを提案する。
比較損失に階層的ペナルティを併用し,その階層的制約を強制する。
論文 参考訳(メタデータ) (2022-04-27T21:41:44Z) - Modeling Heterogeneous Hierarchies with Relation-specific Hyperbolic
Cones [64.75766944882389]
知識グラフにおける複数の階層的および非階層的関係を同時にモデル化できるKG埋め込みモデルであるConE(Cone Embedding)を提案する。
特に、ConEは双曲埋め込み空間の異なる部分空間における円錐包含制約を用いて、複数の異種階層をキャプチャする。
我々のアプローチでは、WN18RRで45.3%、DDB14で16.1%の新しい最先端hits@1が得られる(0.231 MRR)。
論文 参考訳(メタデータ) (2021-10-28T07:16:08Z) - Path Based Hierarchical Clustering on Knowledge Graphs [1.713291434132985]
対象クラスタの階層化を誘導する新しい手法を提案する。
この階層上のクラスタに対象を割り当てる前に、まずタグ階層を構築します。
実世界の3つのデータセット上で,コヒーレントクラスタ階層を誘導する手法の能力を定量的に示す。
論文 参考訳(メタデータ) (2021-09-27T16:42:43Z) - Exploring the Hierarchy in Relation Labels for Scene Graph Generation [75.88758055269948]
提案手法は,Recall@50において,複数の最先端ベースラインを大きなマージン(最大33%の相対利得)で改善することができる。
実験により,提案手法により,最先端のベースラインを大きなマージンで改善できることが示された。
論文 参考訳(メタデータ) (2020-09-12T17:36:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。