論文の概要: Disentangled Variational Information Bottleneck for Multiview
Representation Learning
- arxiv url: http://arxiv.org/abs/2105.07599v1
- Date: Mon, 17 May 2021 04:03:29 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-18 14:56:16.835184
- Title: Disentangled Variational Information Bottleneck for Multiview
Representation Learning
- Title(参考訳): 多視点表現学習のための遠方変分情報スロットネック
- Authors: Feng Bao
- Abstract要約: 絡み合ったマルチビュー特徴を、すべてのビューに共通する共有潜在表現と、個々のビューに固有のプライベート表現に分解する。
DVIBが学んだ共有およびプライベート表現は、それぞれのビューに対応する2つのビューとユニークなラベルの間で共有される共通のラベルを適切に保存します。
- 参考スコア(独自算出の注目度): 1.5855348876865254
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Multiview data contain information from multiple modalities and have
potentials to provide more comprehensive features for diverse machine learning
tasks. A fundamental question in multiview analysis is what is the additional
information brought by additional views and can quantitatively identify this
additional information. In this work, we try to tackle this challenge by
decomposing the entangled multiview features into shared latent representations
that are common across all views and private representations that are specific
to each single view. We formulate this feature disentanglement in the framework
of information bottleneck and propose disentangled variational information
bottleneck (DVIB). DVIB explicitly defines the properties of shared and private
representations using constrains from mutual information. By deriving
variational upper and lower bounds of mutual information terms, representations
are efficiently optimized. We demonstrate the shared and private
representations learned by DVIB well preserve the common labels shared between
two views and unique labels corresponding to each single view, respectively.
DVIB also shows comparable performance in classification task on images with
corruptions. DVIB implementation is available at
https://github.com/feng-bao-ucsf/DVIB.
- Abstract(参考訳): マルチビューデータには、複数のモードの情報が含まれており、多様な機械学習タスクに対してより包括的な機能を提供する可能性がある。
マルチビュー分析における根本的な疑問は、追加ビューがもたらす追加情報は何であり、この追加情報を定量的に識別することができるかである。
本研究では,各ビューに特有のすべてのビューやプライベートな表現に共通する共有潜在表現に,絡み合ったマルチビュー機能を分解することで,この問題に対処する。
この特徴を情報ボトルネックの枠組みで定式化し,dvib(disentangled variational information bottleneck)を提案する。
DVIBは、相互情報からの制約を用いて共有およびプライベート表現の特性を明示的に定義する。
相互情報項の変動上界と下界を導出することにより、表現を効率的に最適化する。
DVIBが学習した共有表現とプライベート表現は、2つのビュー間で共有される共通ラベルと、それぞれのビューに対応するユニークなラベルを適切に保存する。
DVIBはまた、破損のある画像の分類タスクにおいて同等のパフォーマンスを示す。
DVIBの実装はhttps://github.com/feng-bao-ucsf/DVIBで利用可能である。
関連論文リスト
- Factorized Contrastive Learning: Going Beyond Multi-view Redundancy [116.25342513407173]
本稿では,マルチビュー冗長性を超えた新しいマルチモーダル表現学習法であるFacterCLを提案する。
大規模な実世界のデータセットでは、FacterCLは共有情報とユニークな情報の両方をキャプチャし、最先端の結果を達成する。
論文 参考訳(メタデータ) (2023-06-08T15:17:04Z) - Learning Representations without Compositional Assumptions [79.12273403390311]
本稿では,特徴集合をグラフノードとして表現し,それらの関係を学習可能なエッジとして表現することで,特徴集合の依存関係を学習するデータ駆動型アプローチを提案する。
また,複数のビューから情報を動的に集約するために,より小さな潜在グラフを学習する新しい階層グラフオートエンコーダLEGATOを導入する。
論文 参考訳(メタデータ) (2023-05-31T10:36:10Z) - Multi-view Semantic Consistency based Information Bottleneck for
Clustering [13.589996737740208]
クラスタリングのための多視点セマンティック一貫性に基づく情報ボトルネック(MSCIB)について紹介する。
MSCIBは、異なる視点における情報ボトルネックの学習プロセスを改善するために、セマンティック一貫性を追求する。
セマンティック空間における複数のビューのアライメント操作を行い、多視点データの貴重な一貫した情報を共同で達成する。
論文 参考訳(メタデータ) (2023-02-28T02:01:58Z) - Multi-View Clustering from the Perspective of Mutual Information [0.0]
Informative Multi-View Clustering (IMVC) と呼ばれる情報理論に基づく新しいモデルを提案する。
IMVCは、多視点データに隠された共通かつビュー固有の情報を抽出し、クラスタリング指向の包括的な表現を構築する。
本研究では,6つのベンチマークデータセットについて広範な実験を行い,IMVCが他の手法よりも優れていることを示す実験結果を得た。
論文 参考訳(メタデータ) (2023-02-17T07:49:27Z) - Cross-view Graph Contrastive Representation Learning on Partially
Aligned Multi-view Data [52.491074276133325]
マルチビュー表現学習は、過去数十年間で急速に発展し、多くの分野に応用されてきた。
本稿では,多視点情報を統合してデータアライメントを行い,潜在表現を学習する,新しいクロスビューグラフコントラスト学習フレームワークを提案する。
複数の実データを用いて実験を行い,クラスタリングおよび分類作業における提案手法の有効性を示した。
論文 参考訳(メタデータ) (2022-11-08T09:19:32Z) - Towards Consistency and Complementarity: A Multiview Graph Information
Bottleneck Approach [25.40829979251883]
共有(一貫性)とビュー固有(相補性)情報をモデル化し、統合する方法は、マルチビューグラフ解析において重要な問題である。
本稿では,共通表現の合意とビュー固有表現の不一致を最大化するために,MVGIB(Multiview Variational Graph Information Bottleneck)の原理を提案する。
論文 参考訳(メタデータ) (2022-10-11T13:51:34Z) - Dual Representation Learning for One-Step Clustering of Multi-View Data [30.131568561100817]
異なるビューの共通情報と特定情報の二重表現を利用して,新しい一段階のマルチビュークラスタリング手法を提案する。
このフレームワークでは、表現学習とクラスタリングのパーティションが相互に恩恵を受け、クラスタリングのパフォーマンスが効果的に向上する。
論文 参考訳(メタデータ) (2022-08-30T14:20:26Z) - Variational Distillation for Multi-View Learning [104.17551354374821]
我々は,多視点表現学習における2つの重要な特徴を利用するために,様々な情報ボトルネックを設計する。
厳密な理論的保証の下で,本手法は,観察とセマンティックラベルの内在的相関の把握を可能にする。
論文 参考訳(メタデータ) (2022-06-20T03:09:46Z) - Multi-VAE: Learning Disentangled View-common and View-peculiar Visual
Representations for Multi-view Clustering [20.412896884905496]
VAEベースのマルチビュークラスタリングフレームワーク(Multi-VAE)を提案する。
生成モデルにおいて、ビュー-共通変数と複数のビュー-ペキュリアル変数を定義する。
複数のビューの連続的な視覚情報を切り離すために相互情報容量を制御することにより、複数のビューの連続的な視覚情報を分離することができる。
論文 参考訳(メタデータ) (2021-06-21T16:23:28Z) - V3H: View Variation and View Heredity for Incomplete Multi-view
Clustering [65.29597317608844]
不完全なマルチビュークラスタリングは、これらの不完全なビューを統合する効果的な方法である。
本稿では,この制限を克服するために,新しいビューバージョニング・ビュー・ジェレダリティ・アプローチ(V3H)を提案する。
V3Hは、不完全なマルチビューデータから一貫した情報とユニークな情報を同時に学習するためのクラスタリングアルゴリズムに遺伝学を導入する最初の研究である可能性がある。
論文 参考訳(メタデータ) (2020-11-23T03:24:48Z) - Generative Partial Multi-View Clustering [133.36721417531734]
本稿では,不完全なマルチビュー問題に対処するため,GP-MVCと呼ばれる生成的部分的マルチビュークラスタリングモデルを提案する。
まず、マルチビューエンコーダネットワークをトレーニングして、一般的な低次元表現を学習し、次にクラスタリング層を使用して複数のビューをまたいだ一貫したクラスタ構造をキャプチャする。
第2に、他のビューが与える共有表現に基づいて、1つのビュー条件の欠落データを生成するために、ビュー固有の生成敵ネットワークを開発する。
論文 参考訳(メタデータ) (2020-03-29T17:48:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。