論文の概要: Set Representation Learning with Generalized Sliced-Wasserstein
Embeddings
- arxiv url: http://arxiv.org/abs/2103.03892v1
- Date: Fri, 5 Mar 2021 19:00:34 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-09 15:30:10.244951
- Title: Set Representation Learning with Generalized Sliced-Wasserstein
Embeddings
- Title(参考訳): 一般化スライスワッサーシュタイン埋め込みを用いた集合表現学習
- Authors: Navid Naderializadeh, Soheil Kolouri, Joseph F. Comer, Reed W.
Andrews, Heiko Hoffmann
- Abstract要約: 集合構造データから表現を学習するための幾何学的解釈可能なフレームワークを提案する。
特に、確率測度からのサンプルとして集合の要素を扱い、一般化スライスワッサーシュタインに対する正確なユークリッド埋め込みを提案する。
我々は,複数の教師付きおよび教師なし集合学習タスクに関する提案フレームワークを評価し,最先端集合表現学習アプローチに対するその優位性を実証する。
- 参考スコア(独自算出の注目度): 22.845403993200932
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: An increasing number of machine learning tasks deal with learning
representations from set-structured data. Solutions to these problems involve
the composition of permutation-equivariant modules (e.g., self-attention, or
individual processing via feed-forward neural networks) and
permutation-invariant modules (e.g., global average pooling, or pooling by
multi-head attention). In this paper, we propose a geometrically-interpretable
framework for learning representations from set-structured data, which is
rooted in the optimal mass transportation problem. In particular, we treat
elements of a set as samples from a probability measure and propose an exact
Euclidean embedding for Generalized Sliced Wasserstein (GSW) distances to learn
from set-structured data effectively. We evaluate our proposed framework on
multiple supervised and unsupervised set learning tasks and demonstrate its
superiority over state-of-the-art set representation learning approaches.
- Abstract(参考訳): 集合構造データからの学習表現を扱う機械学習タスクが増えている。
これらの問題に対する解決策は、置換等変性モジュール(例えば、自己アテンション、またはフィードフォワードニューラルネットワークによる個々の処理)と置換不変モジュール(例えば、グローバル平均プーリング、マルチヘッドの注意によるプーリング)の構成を含む。
本稿では,最適質量輸送問題に根ざした集合構造データから表現を学習するための幾何学的解釈可能なフレームワークを提案する。
特に,集合の要素を確率測度からサンプルとして扱い,集合構造データから効率的に学習するための一般化スライスワッサースタイン距離(gsw)に対する完全ユークリッド埋め込みを提案する。
我々は,複数の教師付きおよび教師なし集合学習タスクに関する提案フレームワークを評価し,最先端集合表現学習アプローチに対するその優位性を実証する。
関連論文リスト
- On Discriminative Probabilistic Modeling for Self-Supervised Representation Learning [85.75164588939185]
複数モーダルな)自己教師付き表現学習のための連続領域における識別確率モデル問題について検討する。
我々は、自己教師付き表現学習における現在のInfoNCEに基づくコントラスト損失の制限を明らかにするために一般化誤差解析を行う。
論文 参考訳(メタデータ) (2024-10-11T18:02:46Z) - Enhancing Neural Subset Selection: Integrating Background Information into Set Representations [53.15923939406772]
対象値が入力集合とサブセットの両方に条件付けされている場合、スーパーセットのテクスティ不変な統計量を関心のサブセットに組み込むことが不可欠であることを示す。
これにより、出力値がサブセットとその対応するスーパーセットの置換に不変であることを保証する。
論文 参考訳(メタデータ) (2024-02-05T16:09:35Z) - Structurally Diverse Sampling Reduces Spurious Correlations in Semantic
Parsing Datasets [51.095144091781734]
本稿では,構造化された出力を持つラベル付きインスタンスプールから,構造的に多様なインスタンス群をサンプリングする新しいアルゴリズムを提案する。
提案アルゴリズムは, 合成テンプレート分割だけでなく, 従来のID分割においても, 従来のアルゴリズムよりも競合的に動作することを示す。
一般に、多種多様な列車集合は、10組のデータセット分割ペアのうち9組で同じ大きさのランダムな訓練集合よりも優れた一般化をもたらす。
論文 参考訳(メタデータ) (2022-03-16T07:41:27Z) - Leveraging Ensembles and Self-Supervised Learning for Fully-Unsupervised
Person Re-Identification and Text Authorship Attribution [77.85461690214551]
完全ラベル付きデータからの学習は、Person Re-IdentificationやText Authorship Attributionなどのマルチメディアフォレスト問題において困難である。
近年の自己教師型学習法は,基礎となるクラスに意味的差異が有る場合に,完全ラベル付きデータを扱う際に有効であることが示されている。
本研究では,異なるクラスからのサンプルが顕著に多様性を持っていない場合でも,ラベルのないデータから学習できるようにすることにより,個人再認識とテキストオーサシップの属性に対処する戦略を提案する。
論文 参考訳(メタデータ) (2022-02-07T13:08:11Z) - Learning to Generalize Compositionally by Transferring Across Semantic
Parsing Tasks [37.66114618645146]
本研究では,ある構成課題から別の構成課題への移動学習を容易にする学習表現について検討する。
本手法を3つの全く異なるデータセットを用いて意味解析に適用する。
本手法は,対象タスクのテストセット上でのベースラインに対する合成一般化を著しく改善する。
論文 参考訳(メタデータ) (2021-11-09T09:10:21Z) - Learning Prototype-oriented Set Representations for Meta-Learning [85.19407183975802]
集合構造データから学ぶことは、近年注目を集めている根本的な問題である。
本稿では,既存の要約ネットワークを改善するための新しい最適輸送方式を提案する。
さらに、少数ショット分類と暗黙的メタ生成モデリングの事例にインスタンス化する。
論文 参考訳(メタデータ) (2021-10-18T09:49:05Z) - Set-to-Sequence Methods in Machine Learning: a Review [0.0]
逐次出力に向けた集合の機械学習は重要かつユビキタスなタスクであり、言語モデリングやメタラーニングからマルチエージェント戦略ゲーム、電力グリッド最適化まで幅広い応用がある。
本稿では,この分野の総合的な紹介と,これらの課題に対処する重要な機械学習手法の概要について述べる。
論文 参考訳(メタデータ) (2021-03-17T13:52:33Z) - A Trainable Optimal Transport Embedding for Feature Aggregation and its
Relationship to Attention [96.77554122595578]
固定サイズのパラメータ化表現を導入し、与えられた入力セットから、そのセットとトレーニング可能な参照の間の最適な輸送計画に従って要素を埋め込み、集約する。
我々のアプローチは大規模なデータセットにスケールし、参照のエンドツーエンドのトレーニングを可能にすると同時に、計算コストの少ない単純な教師なし学習メカニズムも提供する。
論文 参考訳(メタデータ) (2020-06-22T08:35:58Z) - Improved Structural Discovery and Representation Learning of Multi-Agent
Data [5.40729975786985]
本稿では,構造化マルチエージェントデータのロバストな順序付けを行う動的アライメント手法を提案する。
プロリーグからの大量のサッカー追跡データを用いて,このアプローチの価値を実証する。
論文 参考訳(メタデータ) (2019-12-30T22:49:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。