論文の概要: Representation Learning via Adversarially-Contrastive Optimal Transport
- arxiv url: http://arxiv.org/abs/2007.05840v1
- Date: Sat, 11 Jul 2020 19:46:18 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-11 13:00:40.422184
- Title: Representation Learning via Adversarially-Contrastive Optimal Transport
- Title(参考訳): 逆比較最適輸送による表現学習
- Authors: Anoop Cherian, Shuchin Aeron
- Abstract要約: 我々はその問題をコントラスト表現学習の文脈に設定した。
本稿では,ワッサースタイン GAN と新しい分類器を結合するフレームワークを提案する。
我々の結果は、挑戦的なベースラインに対する競争力を示す。
- 参考スコア(独自算出の注目度): 40.52344027750609
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we study the problem of learning compact (low-dimensional)
representations for sequential data that captures its implicit spatio-temporal
cues. To maximize extraction of such informative cues from the data, we set the
problem within the context of contrastive representation learning and to that
end propose a novel objective via optimal transport. Specifically, our
formulation seeks a low-dimensional subspace representation of the data that
jointly (i) maximizes the distance of the data (embedded in this subspace) from
an adversarial data distribution under the optimal transport, a.k.a. the
Wasserstein distance, (ii) captures the temporal order, and (iii) minimizes the
data distortion. To generate the adversarial distribution, we propose a novel
framework connecting Wasserstein GANs with a classifier, allowing a principled
mechanism for producing good negative distributions for contrastive learning,
which is currently a challenging problem. Our full objective is cast as a
subspace learning problem on the Grassmann manifold and solved via Riemannian
optimization. To empirically study our formulation, we provide experiments on
the task of human action recognition in video sequences. Our results
demonstrate competitive performance against challenging baselines.
- Abstract(参考訳): 本稿では,その暗黙時空間をキャプチャする逐次データに対するコンパクト(低次元)表現の学習問題について検討する。
データからそのような情報的手がかりの抽出を最大化するために、コントラスト表現学習の文脈内で問題を設定し、その目的を最適な輸送によって提案する。
具体的には,共同的にデータの低次元部分空間表現を求める。
(i) 最適な輸送(すなわちワッサースタイン距離)の下での逆データ分布からのデータ(この部分空間に埋め込まれた)の距離を最大化する。
(ii)時間順をキャプチャし、
(iii)データの歪みを最小限に抑える。
逆分布を生成するために,ワッサースタインGANと分類器を接続する新しいフレームワークを提案する。
我々の全目的はグラスマン多様体上の部分空間学習問題としてキャストされ、リーマン最適化によって解決される。
我々の定式化を実証的に研究するために,ビデオシーケンスにおける人間の行動認識の課題について実験を行った。
我々の結果は、挑戦的なベースラインに対する競争力を示す。
関連論文リスト
- Optimal Transport for Structure Learning Under Missing Data [31.240965564055138]
そこで本稿では,最適なトランスポートに基づくデータから因果構造を学習するためのスコアベースアルゴリズムを提案する。
我々のフレームワークは,ほとんどのシミュレーションや実データ設定において競合する手法よりも,真の因果構造を効果的に回復することが示されている。
論文 参考訳(メタデータ) (2024-02-23T10:49:04Z) - Distributional Reduction: Unifying Dimensionality Reduction and Clustering with Gromov-Wasserstein [56.62376364594194]
教師なし学習は、潜在的に大きな高次元データセットの基盤構造を捉えることを目的としている。
本研究では、最適輸送のレンズの下でこれらのアプローチを再検討し、Gromov-Wasserstein問題と関係を示す。
これにより、分散還元と呼ばれる新しい一般的なフレームワークが公開され、DRとクラスタリングを特別なケースとして回復し、単一の最適化問題内でそれらに共同で対処することができる。
論文 参考訳(メタデータ) (2024-02-03T19:00:19Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Disentangled Representation Learning with Transmitted Information
Bottleneck [73.0553263960709]
textbfDisTIB (textbfTransmitted textbfInformation textbfBottleneck for textbfDisd representation learning) は情報圧縮と保存のバランスを保った新しい目的である。
論文 参考訳(メタデータ) (2023-11-03T03:18:40Z) - Flow-based Distributionally Robust Optimization [23.232731771848883]
We present a framework, called $textttFlowDRO$, for solve flow-based distributionally robust optimization (DRO) problem with Wasserstein uncertainty set。
我々は、連続した最悪のケース分布(Last Favorable Distribution, LFD)とそれからのサンプルを見つけることを目指している。
本稿では、逆学習、分布論的に堅牢な仮説テスト、およびデータ駆動型分布摂動差分プライバシーの新しいメカニズムを実証する。
論文 参考訳(メタデータ) (2023-10-30T03:53:31Z) - Transport with Support: Data-Conditional Diffusion Bridges [18.933928516349397]
制約付き時系列データ生成タスクを解決するために,Iterative Smoothing Bridge (ISB)を導入する。
我々は,ISBが高次元データによく一般化し,計算効率が高く,中間時間と終時間における限界値の正確な推定値を提供することを示した。
論文 参考訳(メタデータ) (2023-01-31T13:50:16Z) - Cyclic Graph Attentive Match Encoder (CGAME): A Novel Neural Network For
OD Estimation [8.398623478484248]
知的交通システム(ITS)時代における交通管理・交通シミュレーションにおける原位置推定の役割
これまでのモデルベースのモデルは、未決定の課題に直面しており、追加の仮定と追加のデータに対する必死な需要が存在する。
本稿では,2層アテンション機構を備えた新しいグラフマッチング手法であるC-GAMEを提案する。
論文 参考訳(メタデータ) (2021-11-26T08:57:21Z) - Learning Bias-Invariant Representation by Cross-Sample Mutual
Information Minimization [77.8735802150511]
対象タスクが誤用したバイアス情報を除去するために,クロスサンプル対逆脱バイアス法(CSAD)を提案する。
相関測定は, 対向的偏り評価において重要な役割を担い, クロスサンプル型相互情報推定器によって行われる。
我々は,提案手法の最先端手法に対する利点を検証するために,公開データセットの徹底的な実験を行った。
論文 参考訳(メタデータ) (2021-08-11T21:17:02Z) - Learning while Respecting Privacy and Robustness to Distributional
Uncertainties and Adversarial Data [66.78671826743884]
分散ロバストな最適化フレームワークはパラメトリックモデルのトレーニングのために検討されている。
目的は、逆操作された入力データに対して頑健なトレーニングモデルを提供することである。
提案されたアルゴリズムは、オーバーヘッドがほとんどない堅牢性を提供する。
論文 参考訳(メタデータ) (2020-07-07T18:25:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。