論文の概要: Affinity guided Geometric Semi-Supervised Metric Learning
- arxiv url: http://arxiv.org/abs/2002.12394v2
- Date: Fri, 6 Nov 2020 17:49:32 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-28 07:54:50.799590
- Title: Affinity guided Geometric Semi-Supervised Metric Learning
- Title(参考訳): アフィニティガイドによる幾何学的半教師付き計量学習
- Authors: Ujjal Kr Dutta, Mehrtash Harandi and Chellu Chandra Sekhar
- Abstract要約: この動機は、線形マハラノビス計量を学習する古典的なSSDMLアプローチとは別に、ディープSSDMLは研究されていないという事実から来ている。
まず,既存のSSDMLメソッドを深層に拡張し,その限界を克服する新しい手法を提案する。
新たな親和性伝播に基づく三重項マイニング手法を用いたSSDML法は,競合他社よりも優れている。
- 参考スコア(独自算出の注目度): 27.955068939695042
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we revamp the forgotten classical Semi-Supervised Distance
Metric Learning (SSDML) problem from a Riemannian geometric lens, to leverage
stochastic optimization within a end-to-end deep framework. The motivation
comes from the fact that apart from a few classical SSDML approaches learning a
linear Mahalanobis metric, deep SSDML has not been studied. We first extend
existing SSDML methods to their deep counterparts and then propose a new method
to overcome their limitations. Due to the nature of constraints on our metric
parameters, we leverage Riemannian optimization. Our deep SSDML method with a
novel affinity propagation based triplet mining strategy outperforms its
competitors.
- Abstract(参考訳): 本稿では,従来の半スーパービジョン距離学習(SSDML)問題をリーマン幾何学レンズから修正し,エンドツーエンドの深層フレームワークにおける確率的最適化を活用する。
この動機は、線形マハラノビス計量を学ぶ古典的なSSDMLアプローチとは別に、ディープSSDMLは研究されていないという事実に由来する。
まず,既存のSSDMLメソッドを深層に拡張し,その限界を克服する新しい手法を提案する。
距離パラメータの制約の性質から、我々はリーマン最適化を利用する。
新たな親和性伝播型トリプルトマイニング戦略を用いた深部ssdml手法は,競合他社を上回っている。
関連論文リスト
- Towards Scalable Semantic Representation for Recommendation [65.06144407288127]
大規模言語モデル(LLM)に基づく意味的IDを構築するために、Mixture-of-Codesを提案する。
提案手法は,識別性と寸法の堅牢性に優れたスケーラビリティを実現し,提案手法で最高のスケールアップ性能を実現する。
論文 参考訳(メタデータ) (2024-10-12T15:10:56Z) - Zeroth-Order Fine-Tuning of LLMs in Random Subspaces [66.27334633749734]
言語モデルのサイズが大きくなるにつれて、バックプロパゲーションに対するメモリ要求が増加する。
Zeroth-order (ZOZO) 最適化手法はメモリ効率の代替手段を提供する。
本稿では,SubZeroがファインチューニングを強化し,通常のZOZO手法と比較して高速な結果が得られることを示す。
論文 参考訳(メタデータ) (2024-10-11T17:01:43Z) - RMLR: Extending Multinomial Logistic Regression into General Geometries [64.16104856124029]
我々のフレームワークは、最小限の幾何学的性質しか必要とせず、広い適用性を示す。
SPD MLRの5つのファミリーを5種類のパワー変形測定値に基づいて開発する。
回転行列上では、人気のある双不変計量に基づいてリー MLR を提案する。
論文 参考訳(メタデータ) (2024-09-28T18:38:21Z) - FORML: A Riemannian Hessian-free Method for Meta-learning on Stiefel Manifolds [4.757859522106933]
本稿では、スティーフェル多様体上の微分の1次近似を用いたヘッセンフリーアプローチを提案する。
本手法は計算負荷とメモリフットプリントを大幅に削減する。
論文 参考訳(メタデータ) (2024-02-28T10:57:30Z) - Revisiting Zeroth-Order Optimization for Memory-Efficient LLM Fine-Tuning: A Benchmark [166.40879020706151]
本稿では、微調整時のメモリコスト低減のためのソリューションとして、BPフリーゼロオーダー最適化(ZO)への移行を提案する。
従来のZO-SGD法とは異なり、我々の研究はより広い範囲のZO最適化手法に探索を広げる。
本研究は,タスクアライメントの重要性,前方勾配法の役割,アルゴリズムの複雑さと微調整性能のバランスについて,これまで見過ごされてきた最適化原理を明らかにした。
論文 参考訳(メタデータ) (2024-02-18T14:08:48Z) - Riemannian Self-Attention Mechanism for SPD Networks [34.794770395408335]
本稿では,SPD多様体自己アテンション機構(SMSA)を提案する。
構造化表現の識別を改善するためにSMSAベースの幾何学習モジュール(SMSA-GL)を設計する。
論文 参考訳(メタデータ) (2023-11-28T12:34:46Z) - Adaptive Log-Euclidean Metrics for SPD Matrix Learning [73.12655932115881]
広く使われているログユークリッド計量(LEM)を拡張した適応ログユークリッド計量(ALEM)を提案する。
実験および理論的結果から,SPDニューラルネットワークの性能向上における提案手法の有効性が示された。
論文 参考訳(メタデータ) (2023-03-26T18:31:52Z) - SetMargin Loss applied to Deep Keystroke Biometrics with Circle Packing
Interpretation [67.0845003374569]
本研究は,新しい距離距離学習法(DML)に基づくキーストロークバイオメトリックスのための新しい深層学習手法を提案する。
提案手法の有効性を実験的に証明し, キーストロークの生体認証を78,000名の被験者に対して行った。
論文 参考訳(メタデータ) (2021-09-02T13:26:57Z) - Semi-Supervised Metric Learning: A Deep Resurrection [22.918651280720855]
Semi-Supervised DML (SSDML) はいくつかのラベル付き例と豊富なラベルなし例を使ってメトリクスを学習しようとする。
例のペア間の親和性が最初に伝播するグラフベースのアプローチを提案する。
メトリクスパラメータには、より優れたパフォーマンスをもたらすため、メトリクスの制約を課します。
論文 参考訳(メタデータ) (2021-05-10T12:28:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。