論文の概要: Learning Shared Representations from Unpaired Data

• arxiv url: http://arxiv.org/abs/2505.21524v1
• Date: Fri, 23 May 2025 11:13:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-29 17:35:50.123638
• Title: Learning Shared Representations from Unpaired Data
• Title（参考訳）: 非ペアデータから共有表現を学習する
• Authors: Amitai Yacobi, Nir Ben-Ari, Ronen Talmon, Uri Shaham,
• Abstract要約: 共有表現は、ほとんどペアリングされていないデータから学習可能であることを示す。 コンピュータビジョンと自然言語処理領域の実証的な結果は、その可能性を支持する。
• 参考スコア（独自算出の注目度）: 8.370305493567542
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Learning shared representations is a primary area of multimodal representation learning. The current approaches to achieve a shared embedding space rely heavily on paired samples from each modality, which are significantly harder to obtain than unpaired ones. In this work, we demonstrate that shared representations can be learned almost exclusively from unpaired data. Our arguments are grounded in the spectral embeddings of the random walk matrices constructed independently from each unimodal representation. Empirical results in computer vision and natural language processing domains support its potential, revealing the effectiveness of unpaired data in capturing meaningful cross-modal relations, demonstrating high capabilities in retrieval tasks, generation, arithmetics, zero-shot, and cross-domain classification. This work, to the best of our knowledge, is the first to demonstrate these capabilities almost exclusively from unpaired samples, giving rise to a cross-modal embedding that could be viewed as universal, i.e., independent of the specific modalities of the data. Our code IS publicly available at https://github.com/shaham-lab/SUE.
• Abstract（参考訳）: 共有表現の学習は多モーダル表現学習の主要な分野である。 共有埋め込み空間を実現するための現在のアプローチは、各モードからのペア化されたサンプルに大きく依存している。 本研究は,共有表現が,ほとんど不用意なデータから学習できることを実証する。 この議論は、各単項表現から独立に構築されたランダムウォーク行列のスペクトル埋め込みに基礎を置いている。 コンピュータビジョンと自然言語処理ドメインの実証的な結果は、意味のあるクロスモーダルな関係を捉え、検索タスク、生成、算術、ゼロショット、クロスドメインの分類において高い能力を示すために、未ペアのデータの有効性を明らかにする。 この研究は、私たちの知る限りでは、これらの機能をほとんどペアリングされていないサンプルから証明する最初のものであり、データの特定のモダリティとは無関係に、普遍的と見なされるようなクロスモーダルな埋め込みを生み出した。 私たちのコードはhttps://github.com/shaham-lab/SUE.comで公開されています。

関連論文リスト

• Collaborative Learning with Different Labeling Functions [7.228285747845779]
  我々は、$n$のデータ分布ごとに正確な分類器を学習することを目的とした、協調型PAC学習の亜種について研究する。 データ分布がより弱い実現可能性の仮定を満たす場合、サンプル効率の学習は依然として可能であることを示す。
  論文  参考訳（メタデータ） (2024-02-16T04:32:22Z)
• Semi-supervised Multimodal Representation Learning through a Global Workspace [2.8948274245812335]
  グローバルワークスペース」は2つの入力モダリティの共有表現である。 このアーキテクチャは、サイクル一貫性による自己教師型トレーニングに適しています。 このようなアーキテクチャは、一致したデータを必要とすることがほとんどなく、2つのモダリティを調整し、翻訳するように訓練できることを示します。
  論文  参考訳（メタデータ） (2023-06-27T12:41:36Z)
• Leveraging sparse and shared feature activations for disentangled representation learning [112.22699167017471]
  本稿では,教師付きタスクの多種多様な集合から抽出した知識を活用し,共通不整合表現を学習することを提案する。 我々は6つの実世界分布シフトベンチマークと異なるデータモダリティに対するアプローチを検証する。
  論文  参考訳（メタデータ） (2023-04-17T01:33:24Z)
• Does a Technique for Building Multimodal Representation Matter? -- Comparative Analysis [0.0]
  マルチモーダル表現を構築するためのテクニックの選択は、可能な限り高いモデルの性能を得るために不可欠であることを示す。 Amazon Reviews、MovieLens25M、MovieLens1Mの3つのデータセットで実験が行われる。
  論文  参考訳（メタデータ） (2022-06-09T21:30:10Z)
• Exploiting Shared Representations for Personalized Federated Learning [54.65133770989836]
  本稿では,クライアント間の共有データ表現と,クライアント毎のユニークなローカルヘッダを学習するための,新しいフェデレーション学習フレームワークとアルゴリズムを提案する。 提案アルゴリズムは, クライアント間の分散計算能力を利用して, 表現の更新毎に低次元の局所パラメータに対して, 多数の局所更新を行う。 この結果は、データ分布間の共有低次元表現を学習することを目的とした、幅広い種類の問題に対するフェデレーション学習以上の関心を持っている。
  論文  参考訳（メタデータ） (2021-02-14T05:36:25Z)
• Relation-Guided Representation Learning [53.60351496449232]
  本稿では,サンプル関係を明示的にモデル化し,活用する表現学習手法を提案する。 私たちのフレームワークは、サンプル間の関係をよく保存します。 サンプルをサブスペースに埋め込むことにより,本手法が大規模なサンプル外問題に対処可能であることを示す。
  論文  参考訳（メタデータ） (2020-07-11T10:57:45Z)
• Evolving Losses for Unsupervised Video Representation Learning [91.2683362199263]
  大規模未ラベル映像データから映像表現を学習する新しい手法を提案する。 提案した教師なし表現学習では,単一のRGBネットワークが実現し,従来の手法よりも優れていた。
  論文  参考訳（メタデータ） (2020-02-26T16:56:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。