論文の概要: The Trade-off Between Covariate Dependence and Latent Structure in Representation Learning
- arxiv url: http://arxiv.org/abs/2608.16245v1
- Date: Mon, 17 Aug 2026 08:20:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-18 19:59:03.589498
- Title: The Trade-off Between Covariate Dependence and Latent Structure in Representation Learning
- Title(参考訳): 表現学習における共変量依存と潜在構造とのトレードオフ
- Abstract要約: 遠方形表現学習は、各指標次元が異なる共変量と整合する潜在表現を求める。
我々は、潜在次元-共変量依存と潜在構造への制約を結合する統一的、教師付きフレームワークを導入する。
ポストホックアライメントとiFAの両方が構造化潜在表現を制御可能であることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Disentangled representation learning seeks latent representations whose indicidual dimensions each align with a distinct covariate. Unsupervised approaches typically target latent dimension independence, yet this gives no guarantee that the resulting dimensions align with semantically meaningful covariates. Supervised approaches structure the latent space using observed covariates, but under correlated covariates they cannot simultaneously control one-to-one latent-covariate alignment and latent independence. We introduce a unified, supervised framework that couples latent dimension-covariate dependence with constraints on the latent structure. Within this framework, we show an inherent trade-off, where enforcing latent independence or exclusive one-to-one latent-covariate dependence comes at a provable cost in latent-covariate alignment. We prove that the resulting disentanglement regimes are ordered by the strength of that alignment. Each regime admits a closed-form transformation of the latent space. We apply these transformations post-hoc to realign the representations of pretrained models such as CLIP, DINOv2, and ViT, and we fold them into the inference of informed factor analysis (iFA), a probabilistic model with covariate-informed factors. On simulated and real multi-omics data, we show that both post-hoc alignment and iFA enable controllability of structured latent representations.
- Abstract(参考訳): 遠方形表現学習は、各指標次元が異なる共変量と整合する潜在表現を求める。
教師なしのアプローチは典型的には潜在次元の独立を狙うが、結果として得られる次元が意味論的に意味のある共変量と一致するという保証は得られない。
監督されたアプローチは、観測された共変量体を用いて潜伏空間を構造化するが、相関した共変量体の下では、1対1の潜伏共変量体アライメントと潜伏独立性を同時に制御することはできない。
我々は、潜在次元-共変量依存と潜在構造への制約を結合する統一的、教師付きフレームワークを導入する。
この枠組みでは、潜伏独立または排他的1対1の潜伏共変量依存が潜伏共変量アライメントの証明可能なコストで生じる、固有のトレードオフを示す。
結果として生じる絡み合う体制は、そのアライメントの強さによって順序付けられていることを証明します。
各レジームは、潜在空間の閉形式変換を許容する。
この変換をCLIP, DINOv2, ViTなどの事前学習モデルに応用し, 共変量インフォームド因子を持つ確率モデルである情報因子分析(iFA)の推論に分解する。
シミュレーションおよび実マルチオミクスデータでは、ポストホックアライメントとiFAの両方が構造化潜在表現の可制御性を実現する。
関連論文リスト
- DivRL: Disentangled Self-Similarity Rewards for Diverse Subject-Driven Generation [52.23323703015865]
本研究では,アイデンティティの整合性と構造的多様性を同時に最適化するDivRLというポストトレーニングフレームワークを提案する。
構造的多様性を定量化するための負の自己相似性尺度(nSSM)と、アイデンティティの整合性を評価するための視覚的セマンティックマッチング(VSM)を導入する。
論文 参考訳(メタデータ) (2026-06-22T21:22:42Z) - Structured Nonparametric Variational Inference for Dependent Latent Modeling [11.146941243243248]
変分推論(VI)は現代のAIの中核エンジンであり、大規模確率モデルと生成モデルのスケーラブルな学習と不確実性を考慮したトレーニングを可能にする。
後続近似における潜在変数間の複雑な依存関係をモデル化する新しいフレームワークであるStructured Non Variational Inference (SN-VI)を提案する。
SN-VIは複雑な潜伏変数の依存関係を保持し、任意の形状の後方有界線の柔軟かつ正確な近似を提供する。
論文 参考訳(メタデータ) (2026-06-13T20:29:04Z) - Hierarchical Consistency Learning for Test-time Adaptation in Camouflage Perception [50.278200968044665]
カモフラージュされた物体検出(COD)は、物理的属性を通して背景から最小限の知覚差を示すターゲットをローカライズすることを目的としている。
既存のメソッドは、静的なTrain-then-freezeパラダイムによって制約されており、ドメインの剛性と依存性のアノテーションに悩まされている。
動的表現再構成のためのテスト時間適応を統合した階層的一貫性学習フレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-25T09:57:46Z) - Dependence Fidelity and Downstream Inference Stability in Generative Models [0.0]
共分散レベル依存フィデリティは、生成モデルを評価するのに有用な基準である。
依存性のばらつきは、下流の推論において定量的不安定を引き起こす。
これらの結果から, 依存性の忠実度が生成モデル評価に有用であることが示唆された。
論文 参考訳(メタデータ) (2026-03-17T18:24:31Z) - Mechanistic Independence: A Principle for Identifiable Disentangled Representations [7.550362088105815]
アンタングル表現は、観測データに基づく変動の潜伏因子を復元しようとする。
メカニスティックな独立によって解離が達成される統一的な枠組みを導入する。
論文 参考訳(メタデータ) (2025-09-26T10:58:03Z) - Escaping Plato's Cave: JAM for Aligning Independently Trained Vision and Language Models [30.07172193932125]
本稿では,JAM(Joint Autoencoder Modulator)が独立に訓練された表現のアライメントを誘導することを示す。
本研究は, 共通意味論の構造に関する理論的知見と, 一般論的な一助的基礎を専門的マルチモーダルモデルに変換するための実践的ガイダンスを提供する。
論文 参考訳(メタデータ) (2025-07-01T21:43:50Z) - Score-based Causal Representation Learning with Interventions [54.735484409244386]
本稿では,潜在因果変数を間接的に観察する際の因果表現学習問題について検討する。
目的は、 (i) 未知の線形変換(スケーリングまで)を回復し、 (ii) 潜在変数の下の有向非巡回グラフ(DAG)を決定することである。
論文 参考訳(メタデータ) (2023-01-19T18:39:48Z) - Break The Spell Of Total Correlation In betaTCVAE [4.38301148531795]
本稿では,全相関の反復的分解経路を提案し,VAEの非絡み合い表現能力について説明する。
新たなモデルにより、VAEはパラメータキャパシティを柔軟に分割し、依存データと独立データの特徴を分割することができる。
論文 参考訳(メタデータ) (2022-10-17T07:16:53Z) - Learning Conditional Invariance through Cycle Consistency [60.85059977904014]
本稿では,データセットの変動の有意義な要因と独立な要因を識別する新しい手法を提案する。
提案手法は,対象プロパティと残りの入力情報に対する2つの別個の潜在部分空間を含む。
我々は,より意味のある因子を同定し,よりスペーサーや解釈可能なモデルに導く合成および分子データについて実証する。
論文 参考訳(メタデータ) (2021-11-25T17:33:12Z) - Inference-InfoGAN: Inference Independence via Embedding Orthogonal Basis
Expansion [2.198430261120653]
解離学習は、生成モデルが一般的な戦略である独立かつ解釈可能な潜在変数を構築することを目的としている。
本稿では,直交基底拡張(OBE)をInfoGANネットワークに組み込むことで,新しいGANベースの非絡み合いフレームワークを提案する。
我々の推論情報GANは、モデル微調整なしで、FactVAE、分離されたferenceAttribute Predictability(SAP)、Mutual Information Gap(MIG)、およびVP(VP)の指標で高い歪みスコアを得る。
論文 参考訳(メタデータ) (2021-10-02T11:54:23Z) - GroupifyVAE: from Group-based Definition to VAE-based Unsupervised
Representation Disentanglement [91.9003001845855]
他の誘導バイアスを導入しないと、VAEベースの非監視的非絡み合いは実現できない。
グループ理論に基づく定義から導かれる制約を非確率的帰納的バイアスとして活用し,vaeに基づく教師なし不連続に対処する。
提案手法の有効性を検証するために,5つのデータセット上で,vaeベースモデルが最も目立つ1800モデルをトレーニングした。
論文 参考訳(メタデータ) (2021-02-20T09:49:51Z) - Disentangling Observed Causal Effects from Latent Confounders using
Method of Moments [67.27068846108047]
我々は、軽度の仮定の下で、識別性と学習可能性に関する保証を提供する。
我々は,線形制約付き結合テンソル分解に基づく効率的なアルゴリズムを開発し,スケーラブルで保証可能な解を得る。
論文 参考訳(メタデータ) (2021-01-17T07:48:45Z) - Learning Disentangled Representations with Latent Variation
Predictability [102.4163768995288]
本稿では,潜在不整合表現の変動予測可能性について述べる。
逆生成プロセス内では、潜時変動と対応する画像対の相互情報を最大化することにより、変動予測可能性を高める。
本研究では,潜在表現の絡み合いを測るために,基礎的構造的生成因子に依存しない評価指標を開発する。
論文 参考訳(メタデータ) (2020-07-25T08:54:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。