論文の概要: Beyond invariant representation learning: linearly alignable latent
spaces for efficient closed-form domain adaptation
- arxiv url: http://arxiv.org/abs/2305.07500v1
- Date: Fri, 12 May 2023 14:14:39 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-15 12:40:38.089833
- Title: Beyond invariant representation learning: linearly alignable latent
spaces for efficient closed-form domain adaptation
- Title(参考訳): 不変表現学習を超えて:効率的な閉形式領域適応のための線形整列潜在空間
- Authors: Oliver Struckmeier, Ievgen Redko, Anton Mallasto, Karol Arndt, Markus
Heinonen, Ville Kyrki
- Abstract要約: ドメイン適応(DA)は歴史的に最も多く研究されてきた。
本稿では,アフィン写像によって与えられるOT問題の閉形式解を用いて,主に新しいOTベースのアプローチを提案する。
提案手法は、同種および異種DA設定と性能の両方で機能するか、あるいは従来の OT と OT の両方を非可逆空間で用いた他の有名なベースラインと同等であることを示す。
- 参考スコア(独自算出の注目度): 24.258758784011572
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Optimal transport (OT) is a powerful geometric tool used to compare and align
probability measures following the least effort principle. Among many
successful applications of OT in machine learning (ML), domain adaptation (DA)
-- a field of study where the goal is to transfer a classifier from one
labelled domain to another similar, yet different unlabelled or scarcely
labelled domain -- has been historically among the most investigated ones. This
success is due to the ability of OT to provide both a meaningful discrepancy
measure to assess the similarity of two domains' distributions and a mapping
that can project source domain data onto the target one. In this paper, we
propose a principally new OT-based approach applied to DA that uses the
closed-form solution of the OT problem given by an affine mapping and learns an
embedding space for which this solution is optimal and computationally less
complex. We show that our approach works in both homogeneous and heterogeneous
DA settings and outperforms or is on par with other famous baselines based on
both traditional OT and OT in incomparable spaces. Furthermore, we show that
our proposed method vastly reduces computational complexity.
- Abstract(参考訳): 最適輸送(OT)は、最小の努力原理に従って確率測度を比較し調整するために使用される強力な幾何学的ツールである。
機械学習(ML)におけるOTの多くの成功例の中で、ドメイン適応(DA)は、あるラベル付きドメインから別の類似の異なるラベル付きドメインに分類器を移すことを目標とする研究分野であり、歴史的に最も調査された分野の1つである。
この成功は、2つのドメインの分布の類似性を評価する意味のある相違度尺度と、ソースドメインデータを対象のドメインに投影できるマッピングの両方を提供することができるためである。
本稿では,アフィンマッピングによって与えられるOT問題の閉形式解を用いて,この解が最適で計算量的に少ない埋め込み空間を学習する,DAに適用される新しいOTベースのアプローチを提案する。
提案手法は、同種および異種DA設定と性能の両方で機能するか、あるいは従来の OT と OT の両方を非可逆空間で用いた他の有名なベースラインと同等であることを示す。
さらに,提案手法は計算量を大幅に削減することを示した。
関連論文リスト
- Disentangled Representation Learning with the Gromov-Monge Gap [65.73194652234848]
乱れのないデータから歪んだ表現を学習することは、機械学習における根本的な課題である。
本稿では,2次最適輸送に基づく非交叉表現学習手法を提案する。
提案手法の有効性を4つの標準ベンチマークで示す。
論文 参考訳(メタデータ) (2024-07-10T16:51:32Z) - Adapting the Mean Teacher for keypoint-based lung registration under
geometric domain shifts [75.51482952586773]
ディープニューラルネットワークは一般的に、ラベル付きトレーニングデータが多く必要であり、トレーニングデータとテストデータの間のドメインシフトに弱い。
本稿では,ラベル付きソースからラベル付きターゲットドメインへのモデルの適用により,画像登録のための幾何学的領域適応手法を提案する。
本手法は,ベースラインモデルの精度を目標データに適合させながら,ベースラインモデルの50%/47%を継続的に改善する。
論文 参考訳(メタデータ) (2022-07-01T12:16:42Z) - Bi-level Alignment for Cross-Domain Crowd Counting [113.78303285148041]
現在の手法は、補助的なタスクを訓練したり、高価な粗大な見積もりを適用したりするための外部データに依存している。
そこで我々は, 簡易かつ効率的に適用可能な, 逆学習に基づく新しい手法を開発した。
実世界の5つのクラウドカウントベンチマークに対するアプローチを評価し、既存のアプローチを大きなマージンで上回ります。
論文 参考訳(メタデータ) (2022-05-12T02:23:25Z) - Simple Stochastic and Online Gradient DescentAlgorithms for Pairwise
Learning [65.54757265434465]
ペアワイズ学習(Pairwise learning)とは、損失関数がペアインスタンスに依存するタスクをいう。
オンライン降下(OGD)は、ペアワイズ学習でストリーミングデータを処理する一般的なアプローチである。
本稿では,ペアワイズ学習のための手法について,シンプルでオンラインな下降を提案する。
論文 参考訳(メタデータ) (2021-11-23T18:10:48Z) - Efficient Robust Optimal Transport with Application to Multi-Label
Classification [12.521494095948068]
OTコスト関数における対称正の半定値マハラノビス計量を用いて特徴-特徴関係をモデル化する。
結果の最適化問題を非線形OT問題とみなし,Frank-Wolfeアルゴリズムを用いて解く。
タグ予測や多クラス分類などの識別学習環境における実証的な結果から,本手法の有効性が示唆された。
論文 参考訳(メタデータ) (2020-10-22T16:43:52Z) - Robust Optimal Transport with Applications in Generative Modeling and
Domain Adaptation [120.69747175899421]
ワッサーシュタインのような最適輸送(OT)距離は、GANやドメイン適応のようないくつかの領域で使用されている。
本稿では,現代のディープラーニングアプリケーションに適用可能な,ロバストなOT最適化の計算効率のよい2つの形式を提案する。
提案手法では, ノイズの多いデータセット上で, 外部分布で劣化したGANモデルをトレーニングすることができる。
論文 参考訳(メタデータ) (2020-10-12T17:13:40Z) - Making Affine Correspondences Work in Camera Geometry Computation [62.7633180470428]
局所的な特徴は、ポイント・ツー・ポイント対応ではなく、リージョン・ツー・リージョンを提供する。
本稿では,全モデル推定パイプラインにおいて,地域間マッチングを効果的に活用するためのガイドラインを提案する。
実験により、アフィンソルバはより高速な実行時にポイントベースソルバに匹敵する精度を達成できることが示された。
論文 参考訳(メタデータ) (2020-07-20T12:07:48Z) - Regularized Optimal Transport is Ground Cost Adversarial [34.81915836064636]
最適輸送問題の正則化は, 地価逆数と解釈できることを示す。
これにより、地上空間上のロバストな異性度測度にアクセスでき、他のアプリケーションで使用することができる。
論文 参考訳(メタデータ) (2020-02-10T17:28:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。