論文の概要: Beyond ICA: Identifiability by Symmetry Breaking
- arxiv url: http://arxiv.org/abs/2607.23182v1
- Date: Sat, 25 Jul 2026 12:27:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 22:34:15.0095
- Title: Beyond ICA: Identifiability by Symmetry Breaking
- Title（参考訳）: ICAを超えて - 対称性の破れによる識別可能性
- Abstract要約: 我々は,PWAデコーダとガウス混合モデル(GMM)を用いた深部生成モデル(DGM)の識別可能性を証明する。
対称性の破れに対する3つの代数的コントラスト原理を導入する。
結果は階層構造を形成する: 法的な識別可能性 (LID; Latent distribution to a global affine map) から、地図の識別可能性 (MID; decoder up to the same map) から、後方および地点の識別可能性 (custual identifiability) まで。
- 参考スコア（独自算出の注目度）: 0.15229257192293197
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We prove the identifiability of deep generative models (DGMs) with piecewise-affine (PWA) decoders and Gaussian mixture model (GMM) priors, in a purely unsupervised setting. We introduce three algebraic contrast principles for symmetry breaking: domain contrast, which trivializes the mixture symmetry group; mechanism contrast, which ensures every decoder branch is witnessed by a unique boundary; and interaction contrast, which forbids parameter conspiracies between latent components and decoder branches. Together they exploit the interplay between the discrete combinatorics of the PWA map and the continuous symmetry structure of the latent GMM. Continuity is replaced by algebraic symmetry conditions; injectivity is decoupled from structural identification and required only for pointwise inversion. Our results form a hierarchy: from law identifiability (LID; latent distribution up to a global affine map) through map identifiability (MID; decoder up to the same map) to posterior and pointwise identifiability. The ICA-form ambiguity emerges under conditions on diagonal component covariances. Assumptions are only on the data-generating process, not on learning methods, except for the interaction contrast. To our knowledge this is the first to make algebraic symmetry-breaking the engine of nonlinear identifiability, the first to admit discontinuous decoders, and the first to handle fully non-injective decoders, where every observation admits multiple latent codes.
- Abstract（参考訳）: 本研究では,PWAデコーダとガウス混合モデル(GMM)を併用した深部生成モデル(DGM)の同定可能性を示す。
対称性の破れに関する3つの代数的コントラスト原理を導入する: 混合対称性群を自明化するドメインコントラスト、全てのデコーダ分岐が一意な境界によって観測されることを保証するメカニズムコントラスト、潜在成分とデコーダ分岐の間のパラメータの相違を無視する相互作用コントラスト。
彼らは共に、PWA写像の離散コンビネータと潜在GMMの連続対称性構造との相互作用を利用する。
連続性は代数対称性の条件に置き換わり、射影性は構造的識別から切り離され、ポイントワイズ反転のためにのみ必要とされる。
我々の結果は, 法的識別可能性 (LID), グローバルアフィンマップまでの潜伏分布) から, 地図的識別可能性 (MID; decoder up to the same map) から, 後方および地点的識別可能性 (pointwise identifiability) まで, 階層構造を形成する。
ICA形式の曖昧さは対角成分の共分散の条件下で現れる。
推定は、相互作用のコントラストを除いて、学習方法ではなく、データ生成プロセスに限られる。
我々の知る限り、これは非線形識別可能性のエンジンを代数対称性に破る最初の方法であり、不連続デコーダを初めて認めること、そして全ての観測が複数の潜在符号を許容する完全な非射影デコーダを最初に扱うことである。
関連論文リスト
- Deep Skew-t Mixture Models [2.5794915063815664]
高次元クラスタリングは、成分分布が重み付きかつ方向非対称である場合に困難である。
一般化-双曲型スキュー-$t$正規平均-分散表現に基づく階層的因子分析混合物を提案する。
共有逆ガンマ混合変数は、各完全潜在経路に沿って伝播し、重い尾と方向の非対称性を共同でモデル化することができる。
論文 参考訳（メタデータ） (2026-09-01T06:02:11Z) - Intrinsic Structure: Spectral Identifiability for Mechanistic Interpretability [51.56484100374058]
機械論的解釈可能性プリミティブに対する最初の識別可能性定理を証明した。
スペクトルは、正当性分解ではなく、記述されたエラーバーを持つ識別可能なモデル固有の指紋である。
論文 参考訳（メタデータ） (2026-08-10T19:42:01Z) - A Doeblin-Anchored Contrastive Chart for Learning Markov Transition Kernels [1.2691047660244335]
本稿では,トランジションカーネルを対照的な目的から学習するための統計的・動的座標フレームワークを提案する。
固定された相対的リスクは、固定された遷移密度を識別し、過剰なリスクを密度誤差に校正することを証明する。
論文 参考訳（メタデータ） (2026-06-01T13:26:44Z) - High-Dimensional Latents Should Be Diagnosed Through Phase Structure [56.362776482614976]
スピングラス理論のレンズによるオートエンコーダと変分オートエンコーダの潜在空間について検討した。
固定復号器用の潜時空間スピングラス辞書を定式化する。
トポロジカルな自明化機構のエッジ・オブ・ステイティに向けて潜伏系を駆動することは、下流に具体的な結果をもたらすことを示す。
論文 参考訳（メタデータ） (2026-05-23T06:17:23Z) - The Matching Principle: A Geometric Theory of Loss Functions for Nuisance-Robust Representation Learning [0.5854803320592717]
線形ガウスモデル (Thm.A) における最適性を証明し, 展開のドリフトをゼロにする2次ペナルティに対する範囲被覆の必要性 (Thm.G) を示す。
13ブロック(MLからQwen2.5-7Bまで)のテストは、幾何と展開のドリフトに対する等方性対間違った方向の罰則と一致した。
Sigma_taskを推定し、Sigmaにマッチし、コントロールを実行し、タスクとジオメトリを別々にレポートする。
論文 参考訳（メタデータ） (2026-05-21T17:53:28Z) - NOETHER: A Constructive Framework for Metamorphic Pattern Discovery from Operator Algebras [6.691613382732758]
メタモルフィックテストはIEEE/ISOソフトウェアテスト標準で認識され、AIシステムに対してますます推奨される。
既存のアプローチでは,3つの基本的疑問が残る帰納的根拠を共有している。
本稿では,演算子代数からメタパタン集合への下流ステップが機械的かつ証明可能なフレームワークを提案する。
論文 参考訳（メタデータ） (2026-05-17T11:18:35Z) - DC-Merge: Improving Model Merging with Directional Consistency [62.02490833158024]
DC-Mergeは方向整合モデルマージの手法である。
各タスクベクトルのエネルギー分布は、その特異値を滑らかにすることで均衡する。
ビジョンとビジョン言語ベンチマークの実験では、DC-Mergeは一貫して最先端のパフォーマンスを実現している。
論文 参考訳（メタデータ） (2026-03-06T13:04:25Z) - Generation Order and Parallel Decoding in Masked Diffusion Models: An Information-Theoretic Perspective [16.942478643768144]
Masked Diffusion Models (MDMs) は、逐次決定論のトレードオフによって推論を著しく加速する。
我々は,2つの障害源である順序感度と並列化バイアスを分離し,解析するための統合情報理論フレームワークを提供する。
論文 参考訳（メタデータ） (2026-01-30T20:15:18Z) - DiffGRM: Diffusion-based Generative Recommendation Model [63.35379395455103]
ジェネレーティブレコメンデーション(GR)は、トークン化器を介して各項目をn桁のセマンティックID(SID)として表現する新興パラダイムである。
自己回帰デコーダをマスク付き離散拡散モデル(MDM)に置き換える拡散ベースGRモデルDiffGRMを提案する。
実験では、複数のデータセットに対する強力な生成的および差別的推奨ベースラインよりも一貫した利得を示す。
論文 参考訳（メタデータ） (2025-10-21T03:23:32Z) - Ordinal Label-Distribution Learning with Constrained Asymmetric Priors for Imbalanced Retinal Grading [9.147336466586017]
糖尿病網膜症は、本質的には順序性で長い尾を持つ。
制約付き非対称先行ワッサースタインオートエンコーダ(CAP-WAE)を提案する。
CAP-WAEは、最先端の4重み付きカッパ、精度、マクロF1を一貫して達成する。
論文 参考訳（メタデータ） (2025-09-30T11:58:49Z) - Dense Semantic Matching with VGGT Prior [49.42199006453071]
本稿では,VGGTの本質的な強みを,初期の特徴段階を再利用し,後続の特徴段階を微調整し,双方向対応のための意味的頭部を追加することによって維持するアプローチを提案する。
提案手法は, 従来のベースラインよりも優れた幾何認識, 整合性, および多様体保存を実現する。
論文 参考訳（メタデータ） (2025-09-25T14:56:11Z) - Generalized Linear Mode Connectivity for Transformers [87.32299363530996]
驚くべき現象はリニアモード接続(LMC)であり、独立に訓練されたモデルを低損失またはゼロ損失の経路で接続することができる。
以前の研究は主に置換によるニューロンの並べ替えに焦点を合わせてきたが、そのようなアプローチは範囲に限られている。
我々は、4つの対称性クラス(置換、半置換、変換、一般可逆写像)をキャプチャする統一的なフレームワークを導入する。
この一般化により、独立に訓練された視覚変換器とGPT-2モデルの間の低障壁とゼロバリア線形経路の発見が可能となった。
論文 参考訳（メタデータ） (2025-06-28T01:46:36Z) - UGMAE: A Unified Framework for Graph Masked Autoencoders [67.75493040186859]
グラフマスク付きオートエンコーダのための統一フレームワークであるUGMAEを提案する。
まず,ノードの特異性を考慮した適応型特徴マスク生成器を開発した。
次に,階層型構造再構成と特徴再構成を併用し,総合的なグラフ情報を取得する。
論文 参考訳（メタデータ） (2024-02-12T19:39:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。