論文の概要: Inference-InfoGAN: Inference Independence via Embedding Orthogonal Basis Expansion

• arxiv url: http://arxiv.org/abs/2110.00788v1
• Date: Sat, 2 Oct 2021 11:54:23 GMT
• ステータス: 処理完了
• システム内更新日: 2021-10-05 15:48:38.759584
• Title: Inference-InfoGAN: Inference Independence via Embedding Orthogonal Basis Expansion
• Title（参考訳）: Inference-InfoGAN: Embedding Orthogonal Basis Expansionによる推論独立
• Authors: Hongxiang Jiang, Jihao Yin, Xiaoyan Luo, Fuxiang Wang
• Abstract要約: 解離学習は、生成モデルが一般的な戦略である独立かつ解釈可能な潜在変数を構築することを目的としている。 本稿では,直交基底拡張(OBE)をInfoGANネットワークに組み込むことで,新しいGANベースの非絡み合いフレームワークを提案する。 我々の推論情報GANは、モデル微調整なしで、FactVAE、分離されたferenceAttribute Predictability(SAP)、Mutual Information Gap(MIG)、およびVP(VP)の指標で高い歪みスコアを得る。
• 参考スコア（独自算出の注目度）: 2.198430261120653
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Disentanglement learning aims to construct independent and interpretable latent variables in which generative models are a popular strategy. InfoGAN is a classic method via maximizing Mutual Information (MI) to obtain interpretable latent variables mapped to the target space. However, it did not emphasize independent characteristic. To explicitly infer latent variables with inter-independence, we propose a novel GAN-based disentanglement framework via embedding Orthogonal Basis Expansion (OBE) into InfoGAN network (Inference-InfoGAN) in an unsupervised way. Under the OBE module, one set of orthogonal basis can be adaptively found to expand arbitrary data with independence property. To ensure the target-wise interpretable representation, we add a consistence constraint between the expansion coefficients and latent variables on the base of MI maximization. Additionally, we design an alternating optimization step on the consistence constraint and orthogonal requirement updating, so that the training of Inference-InfoGAN can be more convenient. Finally, experiments validate that our proposed OBE module obtains adaptive orthogonal basis, which can express better independent characteristics than fixed basis expression of Discrete Cosine Transform (DCT). To depict the performance in downstream tasks, we compared with the state-of-the-art GAN-based and even VAE-based approaches on different datasets. Our Inference-InfoGAN achieves higher disentanglement score in terms of FactorVAE, Separated Attribute Predictability (SAP), Mutual Information Gap (MIG) and Variation Predictability (VP) metrics without model fine-tuning. All the experimental results illustrate that our method has inter-independence inference ability because of the OBE module, and provides a good trade-off between it and target-wise interpretability of latent variables via jointing the alternating optimization.
• Abstract（参考訳）: 分散学習は、生成モデルが一般的な戦略である独立かつ解釈可能な潜在変数を構築することを目的としている。 InfoGANは、相互情報(MI)を最大化して、対象空間にマップされた解釈可能な潜在変数を得る古典的な方法である。 しかし、独立性は強調されなかった。 相互独立性を持つ潜在変数を明示的に推定するために,直交基底展開 (obe) をインフォガンネットワーク (inference-infogan) に教師なし方式で埋め込み, 新たなgan-based disentanglement frameworkを提案する。 OBEモジュールの下では、一組の直交基底が独立性を持つ任意のデータを拡張するために適応的に見つかる。 対象の解釈可能な表現を保証するため、MI最大化の基となる拡張係数と潜時変数との整合制約を加算する。 さらに,合成制約と直交要求更新に基づく交互最適化ステップを設計すれば,推論-インフォガンのトレーニングがより便利になる。 最後に,提案したOBEモジュールが,離散コサイン変換(DCT)の固定基底表現よりも優れた独立特性を表現できる適応直交基底を得ることを示す。 下流タスクのパフォーマンスを説明するために、私たちは最先端のGANベースと、異なるデータセットに対するVAEベースのアプローチを比較した。 提案手法は,因子ベイ,分離属性予測可能性(sap),相互情報ギャップ(mig),変動予測可能性(vp)の指標において,微調整をすることなく高い不等角点を得る。 実験結果から,提案手法はobeモジュールによる相互依存推論能力を有し,交互最適化による潜在変数の目標方向解釈可能性とのトレードオフが良好であることが判明した。

関連論文リスト

• Uniform Transformation: Refining Latent Representation in Variational Autoencoders [7.4316292428754105]
  本稿では,不規則な潜伏分布に対応するために,新しい適応型3段階一様変換(UT)モジュールを提案する。 この手法は不規則分布を潜在空間の均一分布に再構成することにより、潜在表現の絡み合いと解釈可能性を大幅に向上させる。 実験により,提案するUTモジュールの有効性を実証し,ベンチマークデータセット間の絡み合いの指標を改良した。
  論文  参考訳（メタデータ） (2024-07-02T21:46:23Z)
• Disentanglement via Latent Quantization [60.37109712033694]
  本研究では,組織化された潜在空間からの符号化と復号化に向けた帰納的バイアスを構築する。 本稿では,基本データレコーダ (vanilla autoencoder) と潜時再構成 (InfoGAN) 生成モデルの両方に追加することで,このアプローチの広範な適用性を実証する。
  論文  参考訳（メタデータ） (2023-05-28T06:30:29Z)
• Elastic Interaction Energy-Based Generative Model: Approximation in Feature Space [14.783344918500813]
  弾性相互作用エネルギー(EIE)に基づく損失関数を用いた生成モデリングの新しい手法を提案する。 EIEに基づく計量の利用は、分布のグローバルな情報を考慮した長距離特性など、いくつかの利点を示す。 MNIST、FashionMNIST、CIFAR-10、CelebAなどの一般的なデータセットに対する実験結果から、EIEG GANモデルがモード崩壊を緩和し、安定性を向上し、モデル性能を向上させることを示した。
  論文  参考訳（メタデータ） (2023-03-19T03:39:31Z)
• Variable Importance Matching for Causal Inference [73.25504313552516]
  これらの目標を達成するためのModel-to-Matchと呼ばれる一般的なフレームワークについて説明する。 Model-to-Matchは、距離メートル法を構築するために変数重要度測定を使用する。 LASSO を用いて Model-to-Match フレームワークを運用する。
  論文  参考訳（メタデータ） (2023-02-23T00:43:03Z)
• Attitudes and Latent Class Choice Models using Machine learning [0.0]
  LCCM (Latent Class Choice Models) の仕様において, 位置インジケータを効率的に組み込む手法を提案する。 この定式化は、位置指標と決定選択との関係を探索する能力において構造方程式を克服する。 我々は,デンマークのコペンハーゲンから,カーシェアリング(Car-Sharing, CS)サービスサブスクリプションの選択を推定するためのフレームワークをテストした。
  論文  参考訳（メタデータ） (2023-02-20T10:03:01Z)
• Latent Variable Representation for Reinforcement Learning [131.03944557979725]
  モデルに基づく強化学習のサンプル効率を改善するために、潜在変数モデルが学習、計画、探索をいかに促進するかは理論上、実証上、不明である。 状態-作用値関数に対する潜在変数モデルの表現ビューを提供する。これは、抽出可能な変分学習アルゴリズムと楽観主義/悲観主義の原理の効果的な実装の両方を可能にする。 特に,潜伏変数モデルのカーネル埋め込みを組み込んだUPB探索を用いた計算効率の良い計画アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-12-17T00:26:31Z)
• Break The Spell Of Total Correlation In betaTCVAE [4.38301148531795]
  本稿では,全相関の反復的分解経路を提案し,VAEの非絡み合い表現能力について説明する。 新たなモデルにより、VAEはパラメータキャパシティを柔軟に分割し、依存データと独立データの特徴を分割することができる。
  論文  参考訳（メタデータ） (2022-10-17T07:16:53Z)
• Revisiting GANs by Best-Response Constraint: Perspective, Methodology, and Application [49.66088514485446]
  ベストレスポンス制約(Best-Response Constraint、BRC)は、ジェネレータのディスクリミネータへの依存性を明示的に定式化する一般的な学習フレームワークである。 モチベーションや定式化の相違があっても, フレキシブルBRC法により, 様々なGANが一様に改善できることが示される。
  論文  参考訳（メタデータ） (2022-05-20T12:42:41Z)
• Regularizing Variational Autoencoder with Diversity and Uncertainty Awareness [61.827054365139645]
  変分オートエンコーダ(VAE)は、償却変分推論に基づいて潜伏変数の後部を近似する。 よりディバースで不確実な潜在空間を学習するための代替モデルDU-VAEを提案する。
  論文  参考訳（メタデータ） (2021-10-24T07:58:13Z)
• InteL-VAEs: Adding Inductive Biases to Variational Auto-Encoders via Intermediary Latents [60.785317191131284]
  本稿では,潜伏変数の中間集合を用いて,制御可能なバイアスでVAEを学習するための簡易かつ効果的な手法を提案する。 特に、学習した表現に対して、スパーシリティやクラスタリングといった望ましいプロパティを課すことができます。 これにより、InteL-VAEはより優れた生成モデルと表現の両方を学ぶことができる。
  論文  参考訳（メタデータ） (2021-06-25T16:34:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。