論文の概要: Learning representations that are closed-form Monge mapping optimal with
application to domain adaptation
- arxiv url: http://arxiv.org/abs/2305.07500v2
- Date: Fri, 11 Aug 2023 10:49:52 GMT
- ステータス: 処理完了
- システム内更新日: 2023-08-14 16:51:48.394381
- Title: Learning representations that are closed-form Monge mapping optimal with
application to domain adaptation
- Title(参考訳): 閉形式Monge写像の学習表現とドメイン適応への応用
- Authors: Oliver Struckmeier, Ievgen Redko, Anton Mallasto, Karol Arndt, Markus
Heinonen, Ville Kyrki
- Abstract要約: 最適輸送(OT)は、最小の努力原理に従って確率測度を比較し調整するための強力なツールである。
機械学習(ML)で広く使われているにもかかわらず、OT問題はまだ計算負担を負っている。
本稿では,これらの課題に表現学習を用いて取り組むことを提案する。
- 参考スコア(独自算出の注目度): 24.258758784011572
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Optimal transport (OT) is a powerful geometric tool used to compare and align
probability measures following the least effort principle. Despite its
widespread use in machine learning (ML), OT problem still bears its
computational burden, while at the same time suffering from the curse of
dimensionality for measures supported on general high-dimensional spaces. In
this paper, we propose to tackle these challenges using representation
learning. In particular, we seek to learn an embedding space such that the
samples of the two input measures become alignable in it with a simple affine
mapping that can be calculated efficiently in closed-form. We then show that
such approach leads to results that are comparable to solving the original OT
problem when applied to the transfer learning task on which many OT baselines
where previously evaluated in both homogeneous and heterogeneous DA settings.
The code for our contribution is available at
\url{https://github.com/Oleffa/LaOT}.
- Abstract(参考訳): 最適輸送(OT)は、最小の努力原理に従って確率測度を比較し調整するために使用される強力な幾何学的ツールである。
機械学習(ML)で広く使われているにもかかわらず、OT問題は計算負担を伴い、同時に一般的な高次元空間で支援される測度に対する次元性の呪いに悩まされている。
本稿では,表現学習を用いてこれらの課題に取り組むことを提案する。
特に,2つの入力尺度のサンプルが整合性を持つような埋め込み空間を,閉形式で効率的に計算できる単純なアフィン写像を用いて学習する。
このような手法が,同種および異種の両方のDA設定で以前に評価された多くのOTベースラインを持つ伝達学習タスクに適用した場合,元のOT問題と同等の結果をもたらすことを示す。
コントリビューションのコードは \url{https://github.com/oleffa/laot} で利用可能です。
関連論文リスト
- Amortizing intractable inference in large language models [56.92471123778389]
難治性後部分布のサンプルとして, 償却ベイズ推定を用いる。
我々は,LLMファインチューニングの分散マッチングパラダイムが,最大習熟の代替となることを実証的に実証した。
重要な応用として、チェーン・オブ・ソート推論を潜在変数モデリング問題として解釈する。
論文 参考訳(メタデータ) (2023-10-06T16:36:08Z) - Adapting the Mean Teacher for keypoint-based lung registration under
geometric domain shifts [75.51482952586773]
ディープニューラルネットワークは一般的に、ラベル付きトレーニングデータが多く必要であり、トレーニングデータとテストデータの間のドメインシフトに弱い。
本稿では,ラベル付きソースからラベル付きターゲットドメインへのモデルの適用により,画像登録のための幾何学的領域適応手法を提案する。
本手法は,ベースラインモデルの精度を目標データに適合させながら,ベースラインモデルの50%/47%を継続的に改善する。
論文 参考訳(メタデータ) (2022-07-01T12:16:42Z) - Bi-level Alignment for Cross-Domain Crowd Counting [113.78303285148041]
現在の手法は、補助的なタスクを訓練したり、高価な粗大な見積もりを適用したりするための外部データに依存している。
そこで我々は, 簡易かつ効率的に適用可能な, 逆学習に基づく新しい手法を開発した。
実世界の5つのクラウドカウントベンチマークに対するアプローチを評価し、既存のアプローチを大きなマージンで上回ります。
論文 参考訳(メタデータ) (2022-05-12T02:23:25Z) - Simple Stochastic and Online Gradient DescentAlgorithms for Pairwise
Learning [65.54757265434465]
ペアワイズ学習(Pairwise learning)とは、損失関数がペアインスタンスに依存するタスクをいう。
オンライン降下(OGD)は、ペアワイズ学習でストリーミングデータを処理する一般的なアプローチである。
本稿では,ペアワイズ学習のための手法について,シンプルでオンラインな下降を提案する。
論文 参考訳(メタデータ) (2021-11-23T18:10:48Z) - Aligning Hyperbolic Representations: an Optimal Transport-based approach [0.0]
この研究は、双曲空間のポアンカーモデルへの埋め込みのOTに基づく新しいアプローチを提案する。
この形式主義の結果として、我々はいくつかの既存の OT ベースの領域適応のユークリッド法への拡張を、その双曲的対応に導出する。
論文 参考訳(メタデータ) (2020-12-02T11:22:19Z) - Efficient Robust Optimal Transport with Application to Multi-Label
Classification [12.521494095948068]
OTコスト関数における対称正の半定値マハラノビス計量を用いて特徴-特徴関係をモデル化する。
結果の最適化問題を非線形OT問題とみなし,Frank-Wolfeアルゴリズムを用いて解く。
タグ予測や多クラス分類などの識別学習環境における実証的な結果から,本手法の有効性が示唆された。
論文 参考訳(メタデータ) (2020-10-22T16:43:52Z) - Robust Optimal Transport with Applications in Generative Modeling and
Domain Adaptation [120.69747175899421]
ワッサーシュタインのような最適輸送(OT)距離は、GANやドメイン適応のようないくつかの領域で使用されている。
本稿では,現代のディープラーニングアプリケーションに適用可能な,ロバストなOT最適化の計算効率のよい2つの形式を提案する。
提案手法では, ノイズの多いデータセット上で, 外部分布で劣化したGANモデルをトレーニングすることができる。
論文 参考訳(メタデータ) (2020-10-12T17:13:40Z) - Making Affine Correspondences Work in Camera Geometry Computation [62.7633180470428]
局所的な特徴は、ポイント・ツー・ポイント対応ではなく、リージョン・ツー・リージョンを提供する。
本稿では,全モデル推定パイプラインにおいて,地域間マッチングを効果的に活用するためのガイドラインを提案する。
実験により、アフィンソルバはより高速な実行時にポイントベースソルバに匹敵する精度を達成できることが示された。
論文 参考訳(メタデータ) (2020-07-20T12:07:48Z) - Regularized Optimal Transport is Ground Cost Adversarial [34.81915836064636]
最適輸送問題の正則化は, 地価逆数と解釈できることを示す。
これにより、地上空間上のロバストな異性度測度にアクセスでき、他のアプリケーションで使用することができる。
論文 参考訳(メタデータ) (2020-02-10T17:28:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。