論文の概要: Effective Covariance Dynamics in Solvable High-Dimensional GANs

• arxiv url: http://arxiv.org/abs/2606.27246v1
• Date: Thu, 25 Jun 2026 16:33:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-26 18:46:32.357606
• Title: Effective Covariance Dynamics in Solvable High-Dimensional GANs
• Title（参考訳）: 可溶性高次元GANの効果的な共分散ダイナミクス
• Abstract要約: 線形生成器がデータから低次元部分空間を学習するGANトレーニングの可解な高次元モデルについて検討する。 顕微鏡トレーニングプロセスが高次元の極限において、この効果的な共分散によって支配される決定論的常微分方程式に収束することを証明する。
• 参考スコア（独自算出の注目度）: 2.639628765667673
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We study a solvable high-dimensional model of generative adversarial network (GAN) training in which a linear generator learns a low-dimensional subspace from data with structured latent covariance. Prior solvable GAN analyses assume unconditional signals with diagonal latent covariance; we extend the multi-feature discriminator setting to class-dependent, correlated, and non-zero-mean latent structure. For the quadratic energy discriminator, all such heterogeneity enters the dynamics through a probability-weighted effective second moment. We prove that the stochastic microscopic training process converges, in the high-dimensional limit, to deterministic ordinary differential equations governed by this effective covariance. In the matched-covariance specialization, the stability analysis yields a mode-wise solvable interval determined by the learning rates and noise level: learning begins when the leading effective eigenvalue crosses the lower threshold, while full recovery requires all relevant effective modes to remain within the interval. This reveals a signal-boosting mechanism: low-rank correlations can lift weak directions above the learnability threshold, whereas overly strong correlations destabilize recovery. Numerical simulations validate the ODE, phase boundary, and boosting mechanism. Experiments on MNIST, FashionMNIST, and CIFAR-10 further show that informed generator covariance improves alignment with the data-driven reference subspace.
• Abstract（参考訳）: 本研究では,線形生成器が遅延共分散構造を持つデータから低次元部分空間を学習するGANトレーニングの可解な高次元モデルについて検討する。 従来の可解性GAN分析では,非条件信号と対角遅延共分散を仮定し,多機能判別器の設定をクラス依存・相関・非ゼロ平均潜在構造に拡張する。 二次エネルギー判別器の場合、そのような不均一性はすべて確率重み付き有効第二モーメントを通して力学に入る。 確率的微視的トレーニングプロセスは高次元の極限において、この効果的な共分散によって支配される決定論的常微分方程式に収束することを示す。 一致した共分散の特殊化において、安定性解析は学習率と雑音レベルによって決定されるモードワイズ可解区間を生じる:学習は、先頭の有効固有値が下位しきい値を超えたときに始まり、フルリカバリはすべての関連する有効モードをインターバル内に残す必要がある。 低ランク相関は学習可能性しきい値よりも弱い方向を持ち上げるが、過度に強い相関は回復を不安定にする。 数値シミュレーションは、ODE、位相境界、およびブーピング機構を検証する。 MNIST、FashionMNIST、CIFAR-10の実験では、情報発生器の共分散がデータ駆動参照部分空間との整合性を改善することが示されている。

関連論文リスト

• Digital Twin-Driven Adaptive Sim-to-Real Alignment via Reinforcement Learning for Vibration-Based Bearing Health Monitoring Under Data Scarcity [7.28808693425028]
  回転機械の振動に基づく健康モニタリングには, 運転データ制約下での信頼性の高い故障診断が必要である。 特徴アライメントを、近似ポリシー最適化によって解決された連続的なマルコフ決定プロセスとして定式化する。 非対称性を意識した戦略は、ポリシーに整合した模擬サンプルで断層クラスを増大させながら、正規クラスのための実データを予約する。
  論文  参考訳（メタデータ） (2026-06-23T08:47:24Z)
• Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals [83.0127582612634]
  Near-boundary Rescue (NSR) は最小限のプラグ・アンド・プレイの修正であり、失った信号を回復するために、アウト・オブ・バウンドトークンを保持する。 NSRはトレーニングの安定性を大幅に改善し、DAPOやGSPOといった強力なベースライン上で一貫したゲインを提供する。
  論文  参考訳（メタデータ） (2026-05-21T16:45:31Z)
• Operator-Guided Invariance Learning for Continuous Reinforcement Learning [8.820825533010543]
  連続した時間と状態/行動空間を持つ強化学習(RL)は、しばしばデータ集約的で、ニュアンス変動とシフトの下で脆弱である。 textbfVPSD-RL(強化学習のための価値保存構造探索)を提案する。 連続 RL を、リー群作用と関連する引き戻し作用素によって定義される値保存写像による制御拡散としてモデル化する。 本稿では、値保存構造が、値関数を引いたり、制御されたジェネレータと通信し、報酬関数を転送する際に、正確に存在することを示す。
  論文  参考訳（メタデータ） (2026-05-07T16:18:37Z)
• Spectral-Transport Stability and Benign Overfitting in Interpolating Learning [0.0]
  統計的学習の補間体制における一般化のための理論的枠組みを開発する。 我々は、有限サンプルリスク境界を証明し、鋭い良性オーバーフィッティング指数を確立し、スペクトル崩壊下での明示的な位相遷移速度を導出する。 このフレームワークはまた、最小スペクトル輸送エネルギーの補間解をどのように選択できるかを示すことによって暗黙の正則化を明確化する。
  論文  参考訳（メタデータ） (2026-04-09T15:19:00Z)
• Binary Flow Matching: Prediction-Loss Space Alignment for Robust Learning [23.616336786063552]
  フローマッチングは、生成モデリングの強力なフレームワークとして登場した。 速度に基づく目的と結合した場合に発生する潜在構造ミスマッチを同定する。 信号空間に対する目的の再調整が特異重み付けを排除していることを示す。
  論文  参考訳（メタデータ） (2026-02-11T02:02:30Z)
• Equivariant Evidential Deep Learning for Interatomic Potentials [55.6997213490859]
  不確かさの定量化は、分子動力学シミュレーションにおける機械学習の原子間ポテンシャルの信頼性を評価するために重要である。 既存のMLIPのUQアプローチは、高い計算コストや準最適性能によって制限されることが多い。 我々は,原子間ポテンシャルの定量的深層学習(texte2$IP)を提案する。
  論文  参考訳（メタデータ） (2026-02-11T02:00:25Z)
• On the Joint Minimization of Regularization Loss Functions in Deep Variational Bayesian Methods for Attribute-Controlled Symbolic Music Generation [47.38557855930304]
  明示的な潜在変数モデルは、データ合成のための柔軟だが強力なフレームワークを提供する。 既存のアプローチは、両方の正規化目標を共同で最小化するのに苦労していることを示す。 適切な属性変換は、目標潜在次元の可制御性と正則化の両方を達成するのに有効であることを示す。
  論文  参考訳（メタデータ） (2025-11-10T14:09:25Z)
• Exact Dynamics of Multi-class Stochastic Gradient Descent [4.1538344141902135]
  ワンパス勾配勾配法(SGD)を用いて学習した多種多様な高次元最適化問題の学習・学習速度ダイナミクスを解析するためのフレームワークを開発する。 我々は、ODEのシステムに対する決定論的解という観点から、リスクや真の信号との重なり合いを含む、制限力学の関数の大規模なクラスに対して、正確な表現を与える。
  論文  参考訳（メタデータ） (2025-10-15T20:31:49Z)
• The High Line: Exact Risk and Learning Rate Curves of Stochastic Adaptive Learning Rate Algorithms [8.681909776958184]
  本研究では,高次元最適化問題の大規模なクラスにおいて,学習速度と学習速度のダイナミクスを解析するためのフレームワークを開発する。 我々は、ODEのシステムに対する決定論的解という観点から、リスクと学習率曲線の正確な表現を与える。 最小二乗問題に対する最適正則線探索とAdaGrad-Normの2つの適応学習率について詳細に検討する。
  論文  参考訳（メタデータ） (2024-05-30T00:27:52Z)
• Provable Guarantees for Generative Behavior Cloning: Bridging Low-Level Stability and High-Level Behavior [51.60683890503293]
  生成モデルを用いた複雑な専門家による実演の行動クローニングに関する理論的枠組みを提案する。 任意の専門的軌跡の時間ごとのステップ分布に一致するトラジェクトリを生成することができることを示す。
  論文  参考訳（メタデータ） (2023-07-27T04:27:26Z)
• Identifiability and Asymptotics in Learning Homogeneous Linear ODE Systems from Discrete Observations [114.17826109037048]
  通常の微分方程式(ODE)は、機械学習において最近多くの注目を集めている。 理論的な側面、例えば、統計的推定の識別可能性と特性は、いまだに不明である。 本稿では,1つの軌道からサンプリングされた等間隔の誤差のない観測結果から,同次線形ODE系の同定可能性について十分な条件を導出する。
  論文  参考訳（メタデータ） (2022-10-12T06:46:38Z)
• Training Generative Adversarial Networks by Solving Ordinary Differential Equations [54.23691425062034]
  GANトレーニングによって引き起こされる連続時間ダイナミクスについて検討する。 この観点から、GANのトレーニングにおける不安定性は積分誤差から生じると仮定する。 本研究では,有名なODEソルバ(Runge-Kutta など)がトレーニングを安定化できるかどうかを実験的に検証する。
  論文  参考訳（メタデータ） (2020-10-28T15:23:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。