論文の概要: XFACTORS: Disentangled Information Bottleneck via Contrastive Supervision
- arxiv url: http://arxiv.org/abs/2601.21688v1
- Date: Thu, 29 Jan 2026 13:20:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-30 16:22:49.843039
- Title: XFACTORS: Disentangled Information Bottleneck via Contrastive Supervision
- Title(参考訳): XFACTORS: コントラシブ・スーパービジョンによる絡み合ったインフォメーション・ボトルネック
- Authors: Alexandre Myara, Nicolas Bourriez, Thomas Boyer, Thomas Lemercier, Ihab Bendidi, Auguste Genovesio,
- Abstract要約: textscXFactorsは弱制御されたVAEフレームワークで、選択された要素のセットを乱し、明示的に制御する。
提案手法は遅延容量の増加とともに精度良くスケールし,実世界のデータセットCelebAで評価する。
- 参考スコア(独自算出の注目度): 37.140199946294565
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Disentangled representation learning aims to map independent factors of variation to independent representation components. On one hand, purely unsupervised approaches have proven successful on fully disentangled synthetic data, but fail to recover semantic factors from real data without strong inductive biases. On the other hand, supervised approaches are unstable and hard to scale to large attribute sets because they rely on adversarial objectives or auxiliary classifiers. We introduce \textsc{XFactors}, a weakly-supervised VAE framework that disentangles and provides explicit control over a chosen set of factors. Building on the Disentangled Information Bottleneck perspective, we decompose the representation into a residual subspace $\mathcal{S}$ and factor-specific subspaces $\mathcal{T}_1,\ldots,\mathcal{T}_K$ and a residual subspace $\mathcal{S}$. Each target factor is encoded in its assigned $\mathcal{T}_i$ through contrastive supervision: an InfoNCE loss pulls together latents sharing the same factor value and pushes apart mismatched pairs. In parallel, KL regularization imposes a Gaussian structure on both $\mathcal{S}$ and the aggregated factor subspaces, organizing the geometry without additional supervision for non-targeted factors and avoiding adversarial training and classifiers. Across multiple datasets, with constant hyperparameters, \textsc{XFactors} achieves state-of-the-art disentanglement scores and yields consistent qualitative factor alignment in the corresponding subspaces, enabling controlled factor swapping via latent replacement. We further demonstrate that our method scales correctly with increasing latent capacity and evaluate it on the real-world dataset CelebA. Our code is available at \href{https://github.com/ICML26-anon/XFactors}{github.com/ICML26-anon/XFactors}.
- Abstract(参考訳): アンタングル表現学習は、変化の独立要因を独立表現成分にマッピングすることを目的としている。
一方、純粋に教師なしのアプローチは、完全に切り離された合成データに対して成功したが、強い帰納バイアスを伴わずに実際のデータから意味的因子を回収できなかった。
一方、教師付きアプローチは、敵の目的や補助的な分類器に依存するため、不安定で大きな属性集合にスケールすることが困難である。
弱教師付きVAEフレームワークであるtextsc{XFactors}を導入する。
Disentangled Information Bottleneck の観点から、表現を残余部分空間 $\mathcal{S}$ と、因子固有の部分空間 $\mathcal{T}_1,\ldots,\mathcal{T}_K$ と残余部分空間 $\mathcal{S}$ に分解する。
InfoNCEの損失は、同じファクタ値を共有して、不一致のペアを分割します。
平行して、KL正則化は$\mathcal{S}$と集約された因子部分空間の両方にガウス構造を課し、非対象因子に対する追加の監督なしに幾何学を整理し、敵の訓練と分類を避ける。
一定のハイパーパラメータを持つ複数のデータセットにまたがって、 \textsc{XFactors} は最先端のアンタングルメントスコアを達成し、対応するサブスペースで一貫した定性的因子アライメントを得られる。
さらに,本手法は遅延容量の増加とともに精度良くスケールし,実世界のデータセットCelebAで評価する。
私たちのコードは \href{https://github.com/ICML26-anon/XFactors}{github.com/ICML26-anon/XFactors} で利用可能です。
関連論文リスト
- Federated Learning Resilient to Byzantine Attacks and Data Heterogeneity [59.17297282373628]
本稿では、データに対する悪意ある攻撃の文脈におけるグラディエント学習(FL)について述べる。
本稿では,収束解析と損失関数の中央値を用いた新しい平均ロバストアルゴリズム(RAGA)を提案する。
論文 参考訳(メタデータ) (2024-03-20T08:15:08Z) - Closed-Loop Unsupervised Representation Disentanglement with $β$-VAE Distillation and Diffusion Probabilistic Feedback [26.935057415769876]
表現の混乱は、AIが現実世界を根本的に理解し、差別と生成の両方に利益をもたらす可能性がある。
我々はtextbfCL-Dis と呼ばれる textbfCL-Disentanglement アプローチを提案する。
実画像操作や視覚解析といったアプリケーションにおけるCL-Disの優位性を示す実験がある。
論文 参考訳(メタデータ) (2024-02-04T05:03:22Z) - Sanitized Clustering against Confounding Bias [38.928080236294775]
本稿では,共起バイアスに対する衛生クラスタリング(SCAB)という新しいクラスタリングフレームワークを提案する。
SCABは、非線型依存尺度を通じて、複素データのセマンティック潜在空間における境界要素を除去する。
複雑なデータセットの実験は、SCABがクラスタリングのパフォーマンスにおいて大きな向上を達成していることを示している。
論文 参考訳(メタデータ) (2023-11-02T14:10:14Z) - Multifactor Sequential Disentanglement via Structured Koopman
Autoencoders [2.7759072740347017]
複数の意味的不整合成分が生成される多要素不整合について考察する。
我々のアプローチの鍵は強い帰納バイアスであり、そこでは基礎となる力学が潜在空間において線形に表現できると仮定する。
本稿では,完全教師なしで多要素不整合をサポートする,単純で簡単な新しい深層モデルを提案する。
論文 参考訳(メタデータ) (2023-03-30T10:01:58Z) - FeDXL: Provable Federated Learning for Deep X-Risk Optimization [105.17383135458897]
我々は、既存のアルゴリズムが適用できないXリスクのファミリーを最適化するために、新しい連邦学習(FL)問題に取り組む。
Xリスクに対するFLアルゴリズムを設計する際の課題は、複数のマシンに対する目的の非可逆性と、異なるマシン間の相互依存にある。
論文 参考訳(メタデータ) (2022-10-26T00:23:36Z) - DOT-VAE: Disentangling One Factor at a Time [1.6114012813668934]
本稿では,変分オートエンコーダの潜伏空間を乱交空間で拡張し,Wake-Sleep-inspireed two-step algorithm for unsupervised disentanglementを用いて学習する手法を提案する。
我々のネットワークは、解釈可能な独立した因子を一度に1つのデータから切り離すことを学び、それを非絡み合った潜在空間の異なる次元にエンコードし、因子の数やそれらの共同分布について事前の仮定をしない。
論文 参考訳(メタデータ) (2022-10-19T22:53:02Z) - Disentanglement of Correlated Factors via Hausdorff Factorized Support [53.23740352226391]
本稿では,因子分布ではなく,因子化支援を助長する緩やかな解離基準,HFS(Hausdorff Factorized Support)基準を提案する。
本研究では,HFSを用いることにより,様々な相関設定やベンチマークにおいて,接地構造因子の絡み合いと回復が一貫して促進されることを示す。
論文 参考訳(メタデータ) (2022-10-13T20:46:42Z) - Rethinking Content and Style: Exploring Bias for Unsupervised
Disentanglement [59.033559925639075]
本研究では,異なる要因が画像再構成において重要度や人気度が異なるという仮定に基づいて,教師なしc-s異節の定式化を提案する。
モデルインダクティブバイアスは,提案したC-Sアンタングルメントモジュール(C-S DisMo)によって導入された。
いくつかの一般的なデータセットに対する実験により、我々の手法が最先端の教師なしC-Sアンタングルメントを実現することを示す。
論文 参考訳(メタデータ) (2021-02-21T08:04:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。