論文の概要: Zero-Flow Encoders
- arxiv url: http://arxiv.org/abs/2602.00797v1
- Date: Sat, 31 Jan 2026 16:11:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-03 19:28:33.407243
- Title: Zero-Flow Encoders
- Title(参考訳): ゼロフローエンコーダ
- Authors: Yakun Wang, Leyang Wang, Song Liu, Taiji Suzuki,
- Abstract要約: 本稿では,フローインスパイアされた表現学習フレームワークを提案する。
独立結合を用いてトレーニングした整流流が,ソースとターゲットの分布が同一である場合に限り,$t=0.5$の至る所でゼロであることを示す。
我々は,この基準を,グラフィカルモデルおよび自己教師付き学習タスクにおける潜在表現の学習を可能にする,トラクタブルでシミュレーション不要な損失関数に変換する。
- 参考スコア(独自算出の注目度): 47.04254380987003
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Flow-based methods have achieved significant success in various generative modeling tasks, capturing nuanced details within complex data distributions. However, few existing works have exploited this unique capability to resolve fine-grained structural details beyond generation tasks. This paper presents a flow-inspired framework for representation learning. First, we demonstrate that a rectified flow trained using independent coupling is zero everywhere at $t=0.5$ if and only if the source and target distributions are identical. We term this property the \emph{zero-flow criterion}. Second, we show that this criterion can certify conditional independence, thereby extracting \emph{sufficient information} from the data. Third, we translate this criterion into a tractable, simulation-free loss function that enables learning amortized Markov blankets in graphical models and latent representations in self-supervised learning tasks. Experiments on both simulated and real-world datasets demonstrate the effectiveness of our approach. The code reproducing our experiments can be found at: https://github.com/probabilityFLOW/zfe.
- Abstract(参考訳): フローベース手法は様々な生成的モデリングタスクにおいて大きな成功を収めており、複雑なデータ分布内のニュアンスの詳細を捉えている。
しかし、この独特な能力を利用して、生成タスクを超えてきめ細かな構造的詳細を解決している研究はほとんどない。
本稿では,フローインスパイアされた表現学習フレームワークを提案する。
まず、独立結合を用いて訓練された整流流が、ソースとターゲットの分布が同一である場合に限り、$t=0.5$の至る所でゼロであることを示す。
この性質を \emph{zero-flow criterion} と呼ぶ。
第二に、この基準は条件付き独立性を証明し、データから \emph{sufficient information} を抽出できることが示される。
第三に、この基準を計算不能な損失関数に変換することにより、グラフィカルモデルおよび自己教師付き学習タスクにおける潜在表現の学習を可能とした。
シミュレーションと実世界の両方のデータセットの実験は、我々のアプローチの有効性を実証している。
実験を再現するコードは、https://github.com/probabilityFLOW/zfe.comで確認できます。
関連論文リスト
- When and How Unlabeled Data Provably Improve In-Context Learning [31.201385551730926]
教師なしの学習は、デモが欠落したり、誤ったラベルがあったりしても効果的である。
我々は,sum_ige 0 a_i (Xtop X)iXtop y$ と $X$ と $y$ の機能と部分観測ラベルを暗黙的に構築することで,ラベル付きデータを効果的に活用できることを示す。
論文 参考訳(メタデータ) (2025-06-18T10:01:17Z) - SMaRt: Improving GANs with Score Matching Regularity [114.43433222721025]
生成的敵ネットワーク(GAN)は通常、基礎となる多様体が複雑である非常に多様なデータから学ぶのに苦労する。
スコアマッチングは、生成したデータポイントを実データ多様体へ持続的にプッシュする能力のおかげで、この問題に対する有望な解決策であることがわかった。
提案手法は, 実世界のデータセットにおいて, 近似スコア関数として機能する事前学習拡散モデルを用いて, 最先端のGANの性能を継続的に向上させることができることを示す。
論文 参考訳(メタデータ) (2023-11-30T03:05:14Z) - Learning Representations on the Unit Sphere: Investigating Angular
Gaussian and von Mises-Fisher Distributions for Online Continual Learning [7.145581090959242]
本稿では,新たな損失関数を備えたメモリベース表現学習手法を提案する。
提案手法は,タスク境界がぼやけた標準的な評価シナリオと現実的なシナリオの両方において,現状の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2023-06-06T02:38:01Z) - ChiroDiff: Modelling chirographic data with Diffusion Models [132.5223191478268]
チャーログラフィーデータのための強力なモデルクラスである「拡散確率モデル(Denoising Diffusion Probabilistic Models)」やDDPMを導入している。
我々のモデルは「ChiroDiff」と呼ばれ、非自己回帰的であり、全体論的概念を捉えることを学び、したがって高い時間的サンプリングレートに回復する。
論文 参考訳(メタデータ) (2023-04-07T15:17:48Z) - Consistent Diffusion Models: Mitigating Sampling Drift by Learning to be
Consistent [97.64313409741614]
本稿では, モデルが生成したデータ上での予測が時間とともに一定であることを示す, 両立性特性を強制することを提案する。
CIFAR-10の条件および非条件生成とAFHQとFFHQのベースライン改良について,本研究の新たな訓練目標が得られた。
論文 参考訳(メタデータ) (2023-02-17T18:45:04Z) - Learning Stable Classifiers by Transferring Unstable Features [59.06169363181417]
本研究では,素早い相関関係の存在下での伝達学習について検討する。
提案手法は, ソースタスクで学習した安定な特徴抽出器を直接転送しても, 対象タスクのバイアスを排除できないことを実験的に実証する。
我々は、ソースタスクの不安定な特徴とターゲットタスクの不安定な特徴が直接関連していると仮定する。
論文 参考訳(メタデータ) (2021-06-15T02:41:12Z) - DeFlow: Learning Complex Image Degradations from Unpaired Data with
Conditional Flows [145.83812019515818]
本論文では,不対データから画像劣化を学習するDeFlowを提案する。
共有フローデコーダネットワークの潜在空間における劣化過程をモデル化する。
共同画像復元と超解像におけるDeFlowの定式化を検証した。
論文 参考訳(メタデータ) (2021-01-14T18:58:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。