論文の概要: Learning Structured Representations by Embedding Class Hierarchy with Fast Optimal Transport
- arxiv url: http://arxiv.org/abs/2410.03052v1
- Date: Fri, 4 Oct 2024 00:20:34 GMT
- ステータス: 処理完了
- システム内更新日: 2024-11-03 04:16:10.879436
- Title: Learning Structured Representations by Embedding Class Hierarchy with Fast Optimal Transport
- Title(参考訳): 高速輸送を用いたクラス階層の埋め込みによる構造化表現の学習
- Authors: Siqi Zeng, Sixian Du, Makoto Yamada, Han Zhao,
- Abstract要約: 本研究では,Earth Mover's Distance (EMD) を用いて特徴空間内のクラス間のペア距離を測定することを提案する。
最も効率的なOT-CPCC変種は、データセットとタスク間の競合性能を維持しながら、データセットのサイズで線形時間で実行されます。
- 参考スコア(独自算出の注目度): 20.927804550845355
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: To embed structured knowledge within labels into feature representations, prior work (Zeng et al., 2022) proposed to use the Cophenetic Correlation Coefficient (CPCC) as a regularizer during supervised learning. This regularizer calculates pairwise Euclidean distances of class means and aligns them with the corresponding shortest path distances derived from the label hierarchy tree. However, class means may not be good representatives of the class conditional distributions, especially when they are multi-mode in nature. To address this limitation, under the CPCC framework, we propose to use the Earth Mover's Distance (EMD) to measure the pairwise distances among classes in the feature space. We show that our exact EMD method generalizes previous work, and recovers the existing algorithm when class-conditional distributions are Gaussian in the feature space. To further improve the computational efficiency of our method, we introduce the Optimal Transport-CPCC family by exploring four EMD approximation variants. Our most efficient OT-CPCC variant runs in linear time in the size of the dataset, while maintaining competitive performance across datasets and tasks.
- Abstract(参考訳): ラベル内に構造化された知識を特徴表現に組み込むため、先行研究 (Zeng et al , 2022) では、教師あり学習における正則化としてCophenetic correlation Coefficient (CPCC) を用いることを提案した。
この正規化器は、クラス平均のペアワイズユークリッド距離を算出し、ラベル階層木から派生した対応する最短経路距離と整合する。
しかし、クラス平均はクラス条件分布のよい代表ではないかもしれない。
この制限に対処するため、CPCCフレームワークの下で、特徴空間内のクラス間のペア距離を測定するために、Earth Mover's Distance (EMD) を用いることを提案する。
提案手法は従来の手法を一般化し,特徴空間におけるクラス条件分布がガウス分布である場合,既存のアルゴリズムを復元する。
提案手法の計算効率をさらに向上するために,4つのEMD近似変種を探索し,最適なトランスポートCPCCファミリーを導入する。
最も効率的なOT-CPCC変種は、データセットとタスク間の競合性能を維持しながら、データセットのサイズで線形時間で実行されます。
関連論文リスト
- MOKD: Cross-domain Finetuning for Few-shot Classification via Maximizing Optimized Kernel Dependence [97.93517982908007]
NCCは、ドメイン間数ショットの分類において、少数ショットの分類が可能なメートル法空間を構築するために表現を学ぶことを目的としている。
本稿では,異なるクラスから得られた2つの標本の NCC 学習表現に高い類似性があることを見出した。
ラベル付きデータによって示されるクラスタ構造にマッチするクラス固有の表現の集合を学習するために、最適化されたカーネル依存(MOKD)を最大化する二段階最適化フレームワークを提案する。
論文 参考訳(メタデータ) (2024-05-29T05:59:52Z) - OMH: Structured Sparsity via Optimally Matched Hierarchy for Unsupervised Semantic Segmentation [69.37484603556307]
Un Semantic segmenting (USS)は、事前に定義されたラベルに頼ることなく、イメージをセグメント化する。
上記の問題を同時に解決するために,OMH (Optimally Matched Hierarchy) という新しいアプローチを導入する。
我々のOMHは既存のUSS法と比較して教師なしセグメンテーション性能がよい。
論文 参考訳(メタデータ) (2024-03-11T09:46:41Z) - Integrating Efficient Optimal Transport and Functional Maps For
Unsupervised Shape Correspondence Learning [43.6925865296259]
本稿では、関数マップ正規化器とSWDから派生した新しいOTに基づく損失を統合する教師なし形状マッチングフレームワークを提案する。
また、エントロピー正則化OTを用いた適応的精細化プロセスを導入し、正確な点対点対応のための特徴アライメントをさらに強化する。
本手法は,非剛性形状マッチングにおいて,ほぼ等尺性および非等尺性シナリオを含む優れた性能を示す。
論文 参考訳(メタデータ) (2024-03-04T07:21:07Z) - A Class-aware Optimal Transport Approach with Higher-Order Moment
Matching for Unsupervised Domain Adaptation [33.712557972990034]
Unsupervised domain adapt (UDA) は、ラベル付きソースドメインからラベル付きターゲットドメインに知識を転送することを目的としている。
本稿では,クラス対応最適輸送(OT)と呼ばれる新しい手法を導入し,ソースのクラス条件分布上の分布間のOT距離を計測する。
論文 参考訳(メタデータ) (2024-01-29T08:27:31Z) - Efficient Semantic Matching with Hypercolumn Correlation [58.92933923647451]
HCCNetは効率的で効果的なセマンティックマッチング手法である。
マルチスケール相関写像の完全なポテンシャルを利用する。
4D相関マップ上では、高価なマッチング関係のマイニングに頼っている。
論文 参考訳(メタデータ) (2023-11-07T20:40:07Z) - Distribution-Based Trajectory Clustering [14.781854651899705]
軌道クラスタリングは、軌道データの共通パターンの発見を可能にする。
距離測定には高い計算コストと低い忠実度という2つの課題がある。
我々は,最近の分散カーネル(IDK)を3つの課題に対処するための主要なツールとして利用することを提案する。
論文 参考訳(メタデータ) (2023-10-08T11:28:34Z) - Semi-supervised Domain Adaptive Structure Learning [72.01544419893628]
半教師付きドメイン適応 (SSDA) は,1) アノテーションの低いデータに過度に適合する手法と,2) ドメイン間の分散シフトの両方を克服しなければならない課題である。
SSLとDAの協調を正規化するための適応型構造学習手法を提案する。
論文 参考訳(メタデータ) (2021-12-12T06:11:16Z) - Towards Uncovering the Intrinsic Data Structures for Unsupervised Domain
Adaptation using Structurally Regularized Deep Clustering [119.88565565454378]
Unsupervised Domain Adapt (UDA) は、ターゲットドメイン上のラベルなしデータの予測を行う分類モデルを学ぶことである。
本稿では,対象データの正規化判別クラスタリングと生成クラスタリングを統合する構造的正規化深層クラスタリングのハイブリッドモデルを提案する。
提案するH-SRDCは, インダクティブ設定とトランスダクティブ設定の両方において, 既存の手法よりも優れている。
論文 参考訳(メタデータ) (2020-12-08T08:52:00Z) - Self-Weighted Robust LDA for Multiclass Classification with Edge Classes [111.5515086563592]
SWRLDAと呼ばれる,l21ノルムを基準とした新しい自己重み付き頑健なLDAを提案する。
提案するSWRLDAは実装が容易で,実際に高速に収束する。
論文 参考訳(メタデータ) (2020-09-24T12:32:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。