論文の概要: Representation Learning via Adversarially-Contrastive Optimal Transport

• arxiv url: http://arxiv.org/abs/2007.05840v1
• Date: Sat, 11 Jul 2020 19:46:18 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-11 13:00:40.422184
• Title: Representation Learning via Adversarially-Contrastive Optimal Transport
• Title（参考訳）: 逆比較最適輸送による表現学習
• Authors: Anoop Cherian, Shuchin Aeron
• Abstract要約: 我々はその問題をコントラスト表現学習の文脈に設定した。 本稿では,ワッサースタイン GAN と新しい分類器を結合するフレームワークを提案する。 我々の結果は、挑戦的なベースラインに対する競争力を示す。
• 参考スコア（独自算出の注目度）: 40.52344027750609
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this paper, we study the problem of learning compact (low-dimensional) representations for sequential data that captures its implicit spatio-temporal cues. To maximize extraction of such informative cues from the data, we set the problem within the context of contrastive representation learning and to that end propose a novel objective via optimal transport. Specifically, our formulation seeks a low-dimensional subspace representation of the data that jointly (i) maximizes the distance of the data (embedded in this subspace) from an adversarial data distribution under the optimal transport, a.k.a. the Wasserstein distance, (ii) captures the temporal order, and (iii) minimizes the data distortion. To generate the adversarial distribution, we propose a novel framework connecting Wasserstein GANs with a classifier, allowing a principled mechanism for producing good negative distributions for contrastive learning, which is currently a challenging problem. Our full objective is cast as a subspace learning problem on the Grassmann manifold and solved via Riemannian optimization. To empirically study our formulation, we provide experiments on the task of human action recognition in video sequences. Our results demonstrate competitive performance against challenging baselines.
• Abstract（参考訳）: 本稿では,その暗黙時空間をキャプチャする逐次データに対するコンパクト(低次元)表現の学習問題について検討する。 データからそのような情報的手がかりの抽出を最大化するために、コントラスト表現学習の文脈内で問題を設定し、その目的を最適な輸送によって提案する。 具体的には,共同的にデータの低次元部分空間表現を求める。 (i) 最適な輸送(すなわちワッサースタイン距離)の下での逆データ分布からのデータ(この部分空間に埋め込まれた)の距離を最大化する。 (ii)時間順をキャプチャし、 (iii)データの歪みを最小限に抑える。 逆分布を生成するために,ワッサースタインGANと分類器を接続する新しいフレームワークを提案する。 我々の全目的はグラスマン多様体上の部分空間学習問題としてキャストされ、リーマン最適化によって解決される。 我々の定式化を実証的に研究するために,ビデオシーケンスにおける人間の行動認識の課題について実験を行った。 我々の結果は、挑戦的なベースラインに対する競争力を示す。

関連論文リスト

• On Discriminative Probabilistic Modeling for Self-Supervised Representation Learning [85.75164588939185]
  複数モーダルな)自己教師付き表現学習のための連続領域における識別確率モデル問題について検討する。 我々は、自己教師付き表現学習における現在のInfoNCEに基づくコントラスト損失の制限を明らかにするために一般化誤差解析を行う。
  論文  参考訳（メタデータ） (2024-10-11T18:02:46Z)
• Optimal Transport for Structure Learning Under Missing Data [31.240965564055138]
  そこで本稿では,最適なトランスポートに基づくデータから因果構造を学習するためのスコアベースアルゴリズムを提案する。 我々のフレームワークは,ほとんどのシミュレーションや実データ設定において競合する手法よりも,真の因果構造を効果的に回復することが示されている。
  論文  参考訳（メタデータ） (2024-02-23T10:49:04Z)
• Distributional Reduction: Unifying Dimensionality Reduction and Clustering with Gromov-Wasserstein [56.62376364594194]
  教師なし学習は、潜在的に大きな高次元データセットの基盤構造を捉えることを目的としている。 本研究では、最適輸送のレンズの下でこれらのアプローチを再検討し、Gromov-Wasserstein問題と関係を示す。 これにより、分散還元と呼ばれる新しい一般的なフレームワークが公開され、DRとクラスタリングを特別なケースとして回復し、単一の最適化問題内でそれらに共同で対処することができる。
  論文  参考訳（メタデータ） (2024-02-03T19:00:19Z)
• Disentangled Representation Learning with Transmitted Information Bottleneck [57.22757813140418]
  textbfDisTIB (textbfTransmitted textbfInformation textbfBottleneck for textbfDisd representation learning) は情報圧縮と保存のバランスを保った新しい目的である。
  論文  参考訳（メタデータ） (2023-11-03T03:18:40Z)
• Flow-based Distributionally Robust Optimization [23.232731771848883]
  We present a framework, called $textttFlowDRO$, for solve flow-based distributionally robust optimization (DRO) problem with Wasserstein uncertainty set。 我々は、連続した最悪のケース分布(Last Favorable Distribution, LFD)とそれからのサンプルを見つけることを目指している。 本稿では、逆学習、分布論的に堅牢な仮説テスト、およびデータ駆動型分布摂動差分プライバシーの新しいメカニズムを実証する。
  論文  参考訳（メタデータ） (2023-10-30T03:53:31Z)
• Transport with Support: Data-Conditional Diffusion Bridges [18.933928516349397]
  制約付き時系列データ生成タスクを解決するために,Iterative Smoothing Bridge (ISB)を導入する。 我々は,ISBが高次元データによく一般化し,計算効率が高く,中間時間と終時間における限界値の正確な推定値を提供することを示した。
  論文  参考訳（メタデータ） (2023-01-31T13:50:16Z)
• Cyclic Graph Attentive Match Encoder (CGAME): A Novel Neural Network For OD Estimation [8.398623478484248]
  知的交通システム(ITS)時代における交通管理・交通シミュレーションにおける原位置推定の役割 これまでのモデルベースのモデルは、未決定の課題に直面しており、追加の仮定と追加のデータに対する必死な需要が存在する。 本稿では,2層アテンション機構を備えた新しいグラフマッチング手法であるC-GAMEを提案する。
  論文  参考訳（メタデータ） (2021-11-26T08:57:21Z)
• Learning Bias-Invariant Representation by Cross-Sample Mutual Information Minimization [77.8735802150511]
  対象タスクが誤用したバイアス情報を除去するために,クロスサンプル対逆脱バイアス法(CSAD)を提案する。 相関測定は, 対向的偏り評価において重要な役割を担い, クロスサンプル型相互情報推定器によって行われる。 我々は,提案手法の最先端手法に対する利点を検証するために,公開データセットの徹底的な実験を行った。
  論文  参考訳（メタデータ） (2021-08-11T21:17:02Z)
• Learning while Respecting Privacy and Robustness to Distributional Uncertainties and Adversarial Data [66.78671826743884]
  分散ロバストな最適化フレームワークはパラメトリックモデルのトレーニングのために検討されている。 目的は、逆操作された入力データに対して頑健なトレーニングモデルを提供することである。 提案されたアルゴリズムは、オーバーヘッドがほとんどない堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-07-07T18:25:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。