論文の概要: From Core to Detail: Unsupervised Disentanglement with Entropy-Ordered Flows

• arxiv url: http://arxiv.org/abs/2602.06940v1
• Date: Fri, 06 Feb 2026 18:41:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-09 22:18:26.534212
• Title: From Core to Detail: Unsupervised Disentanglement with Entropy-Ordered Flows
• Title（参考訳）: コアから詳細へ:エントロピー秩序の流れによる教師なしの絡み合い
• Authors: Daniel Galperin, Ullrich Köthe,
• Abstract要約: エントロピー順序付き流れ (EOFlows) は、その説明エントロピーにより遅延次元を順序付けする。 EOFlowsは独立メカニズム分析、主成分フロー、マニフォールドエントロピーメトリックからの洞察に基づいて構築される。 確率ベーストレーニングと局所ジャコビアン正規化と雑音増強を併用して,画像などの高次元データによく対応できる手法を提案する。
• 参考スコア（独自算出の注目度）: 8.351253396371686
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Learning unsupervised representations that are both semantically meaningful and stable across runs remains a central challenge in modern representation learning. We introduce entropy-ordered flows (EOFlows), a normalizing-flow framework that orders latent dimensions by their explained entropy, analogously to PCA's explained variance. This ordering enables adaptive injective flows: after training, one may retain only the top C latent variables to form a compact core representation while the remaining variables capture fine-grained detail and noise, with C chosen flexibly at inference time rather than fixed during training. EOFlows build on insights from Independent Mechanism Analysis, Principal Component Flows and Manifold Entropic Metrics. We combine likelihood-based training with local Jacobian regularization and noise augmentation into a method that scales well to high-dimensional data such as images. Experiments on the CelebA dataset show that our method uncovers a rich set of semantically interpretable features, allowing for high compression and strong denoising.
• Abstract（参考訳）: 意味論的に意味があり、実行中に安定している教師なしの表現を学ぶことは、現代的な表現学習における中心的な課題である。 エントロピー順序付きフロー(EOFlows)は,PCAの説明分散に類似した,説明エントロピーにより潜在次元を順序付ける正規化フローフレームワークである。 この順序付けにより、適応的なインジェクティブフローが可能となり、トレーニング後、上位C変数だけがコンパクトなコア表現を形成するように保持され、残りの変数は詳細な詳細とノイズを捉え、Cはトレーニング中に固定されるのではなく、推論時に柔軟に選択される。 EOFlowsは独立メカニズム分析、主成分フロー、マニフォールドエントロピーメトリックからの洞察に基づいて構築される。 確率ベーストレーニングと局所ジャコビアン正規化と雑音増強を併用して,画像などの高次元データによく対応できる手法を提案する。 CelebAデータセットの実験により、我々の手法は意味論的に解釈可能な豊富な特徴を発見でき、高い圧縮と強い認知を可能にする。

関連論文リスト

• Performance Evaluation of Ising and QUBO Variable Encodings in Boltzmann Machine Learning [0.7734726150561088]
  QUBOは、一階と二階の統計量の間のより大きな交差項を誘導し、フィッシャー情報行列においてより小さな固有値方向を生成する。 イジングエンコーディングは、より等方的曲率とより高速な収束を提供する。 これらの結果は,ボルツマンマシンにおける情報幾何学および有限時間学習力学の表現の形状について明らかにした。
  論文  参考訳（メタデータ） (2025-10-15T06:57:23Z)
• Robust Canonicalization through Bootstrapped Data Re-Alignment [5.437226012505534]
  昆虫や鳥の識別などのきめ細かい視覚分類タスクは、微妙な視覚的手がかりに対する感受性を必要とする。 分散を低減してトレーニングサンプルを反復的に調整するブートストラップアルゴリズムを提案する。 本手法は,拡張と同等の性能を保ちながら,同変および正準化ベースラインを一貫して上回ることを示す。
  論文  参考訳（メタデータ） (2025-10-09T13:05:20Z)
• Tracing the Representation Geometry of Language Models from Pretraining to Post-training [22.18942718274405]
  本研究では,事前学習と後学習にまたがる学習表現の幾何学をスペクトル的に検討する。 自己回帰事前学習中に3つの幾何位相の一貫した非単調列が発見された。 SFTとDPOは、特定の命令データや優先データを統合するために「エントロピー探索」ダイナミクスを駆動します。
  論文  参考訳（メタデータ） (2025-09-27T00:46:29Z)
• Unfolding Generative Flows with Koopman Operators: Fast and Interpretable Sampling [25.420559502119485]
  連続正規化フロー (Continuous Normalizing Flows, CNF) はエレガントな生成モデリングを実現する。 Rectified Flow や OT-CFM といった最近の手法は、直線化軌道によるサンプリングを加速するが、学習されたダイナミクスは非線形ブラックボックスのままである。 我々はクープマン理論を通した大域的線形化フローダイナミクスを提案する。
  論文  参考訳（メタデータ） (2025-06-27T15:16:16Z)
• Self-supervised Latent Space Optimization with Nebula Variational Coding [87.20343320266215]
  本稿では,クラスタ化埋め込みに繋がる変分推論モデルを提案する。 textbfnebula anchorsと呼ばれる潜伏空間に新たな変数を導入し、トレーニング中に潜伏変数がクラスタを形成するように誘導する。 各潜在機能は最も近いアンカーでラベル付けできるため、クラスタ間の分離をより明確にするために、自己教師付き方法でメートル法学習を適用することも提案する。
  論文  参考訳（メタデータ） (2025-06-02T08:13:32Z)
• Adaptive Inference-Time Scaling via Cyclic Diffusion Search [61.42700671176343]
  適応的推論時間スケーリング-動的に計算量を調整するという課題について紹介する。 本稿では,適応型双方向サイクル拡散(ABCD)を提案する。 ABCDは、探索深度と終了を適応的に制御しながら、双方向拡散サイクルを通じて出力を洗練する。
  論文  参考訳（メタデータ） (2025-05-20T07:31:38Z)
• FreSca: Scaling in Frequency Space Enhances Diffusion Models [55.75504192166779]
  本稿では,潜時拡散モデルにおける周波数制御について検討する。 本稿では,低周波成分と高周波成分にノイズ差を分解する新しいフレームワークFreScaを紹介する。 FreScaはモデルの再トレーニングやアーキテクチャの変更なしに動作し、モデルとタスクに依存しない制御を提供する。
  論文  参考訳（メタデータ） (2025-04-02T22:03:11Z)
• Impact of Noisy Supervision in Foundation Model Learning [91.56591923244943]
  本論文は、事前学習データセットにおけるノイズの性質を包括的に理解し分析する最初の研究である。 雑音の悪影響を緩和し、一般化を改善するため、特徴空間に適応するチューニング法(NMTune)を提案する。
  論文  参考訳（メタデータ） (2024-03-11T16:22:41Z)
• Adaptive Discrete Communication Bottlenecks with Dynamic Vector Quantization [76.68866368409216]
  入力に条件付けされた離散化の厳密度を動的に選択する学習を提案する。 コミュニケーションボトルネックの動的に変化する厳密さは、視覚的推論や強化学習タスクにおけるモデル性能を向上させることができることを示す。
  論文  参考訳（メタデータ） (2022-02-02T23:54:26Z)
• Focus of Attention Improves Information Transfer in Visual Features [80.22965663534556]
  本稿では,真のオンライン環境下での視覚情報伝達のための教師なし学習に焦点を当てた。 エントロピー項の計算は、エントロピー項のオンライン推定を行う時間的プロセスによって行われる。 入力確率分布をよりよく構成するために,人間のような注目モデルを用いる。
  論文  参考訳（メタデータ） (2020-06-16T15:07:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。