論文の概要: $β$-VAEs as Effective Theories: Tolerance-Dependent Dimension
- arxiv url: http://arxiv.org/abs/2608.10599v1
- Date: Tue, 11 Aug 2026 07:34:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-12 19:14:45.95
- Title: $β$-VAEs as Effective Theories: Tolerance-Dependent Dimension
- Title(参考訳): 効果的な理論としての$β$-VAEs:寛容依存次元
- Abstract要約: $-VAEでは、正規化強度の増大は、低実用性潜在座標を崩壊させることでスペクトル遮断として機能する。
非線形相互作用はシフトし、崩壊の開始を拡大するので、閾値はユーティリティと正確には一致しない。
深度の増加は、最初の数個の座標に実用性に集中するが、尾の忠実度は悪化する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: In a $β$-VAE, increasing the regularization strength acts as a spectral cutoff by collapsing low-utility latent coordinates. In the linear Gaussian VAE, the collapse order matches the ranking of reconstruction utilities exactly, because both are set by the PCA spectrum. We ask which parts of this picture survive in fully connected nonlinear VAEs trained on WorldClim. We find that nonlinear interactions shift and broaden collapse onsets, so thresholds no longer coincide exactly with utilities. However, the common ordering is preserved over the resolved ranks, so the spectral cutoff still acts as a utility cutoff and the effective-description logic carries through. The resulting effective-dimension curves reveal a head--tail tradeoff: increasing depth concentrates utility into the first few coordinates but worsens tail fidelity.
- Abstract(参考訳): β$-VAEでは、正規化強度の増大は低実用性潜在座標を崩壊させることでスペクトル遮断として機能する。
線形ガウスVAEでは、崩壊順序はPCAスペクトルによって設定されるため、再建ユーティリティのランクと正確に一致している。
我々は、この画像のどの部分が、WorldClimでトレーニングされた完全に接続された非線形VAEで生き残るか尋ねる。
非線形相互作用はシフトし、崩壊の開始を拡大するので、閾値はユーティリティと正確には一致しない。
しかし、一般的な順序付けは解決されたランクで保存されるため、スペクトルカットオフは依然として実用的カットオフとして機能し、効果的な記述論理が通る。
深度の増加は、最初の数個の座標に実用性に集中するが、尾の忠実度は悪化する。
関連論文リスト
- Convex-Hull-Neighborhood Smooth Dual Generalization: Controlling Local Correction Propagation in Offline RL [7.803284875836737]
ブートストラップは オフライン強化学習における 推定誤差を増幅する
本稿では,ベルマンのバックアップをサンプル値のターゲットとして表現し,CHN局所補正を行うConvex Hull Neborhood Smooth Dual Generalizationを提案する。
Gym-MuJoCoとAntMazeの実験は、強力な集約性能と安定した値推定を示す。
論文 参考訳(メタデータ) (2026-08-04T04:30:02Z) - Optimization Geometrodynamics: Variational Reduction and Interaction Curvature [0.0]
我々は、この隠れ行列式プッシュフォワードの変分理論として、測地力学を発展させる。
アフィン事前還元の場合、誘導的相互作用曲率(英語版)は負半有限作用素 $-G*H-1G$ である。
閉全測地線ファイバーを持つ大域的解析バンドルと、特異な解析的近接制御器部とを証明した。
論文 参考訳(メタデータ) (2026-07-07T18:42:00Z) - Posterior Collapse as Automatic Spectral Pruning [0.0]
後部崩壊を$-VAEsで行うと, 自動スペクトルプルーニングが実現される。
遅延モードは、その再構築への貢献が$$で設定されたカットオフより下にある場合、崩壊する。
ランダウ安定解析による損失の結果、これを導出する。
論文 参考訳(メタデータ) (2026-05-21T16:36:10Z) - A Theory of Saddle Escape in Deep Nonlinear Networks [0.0]
層重行列のフロベニウスノルムの不均衡について、スムーズな活性化と微分可能な損失を保った正確な恒等式を導出する。
置換対称部分多様体では、恒等式は近似バランス則と結合し、スカラーODEへの全行列フローを減少させる。
我々の理論と数値シミュレーションの間にはよく一致している。
論文 参考訳(メタデータ) (2026-05-02T06:55:15Z) - Linear-Core Surrogates: Smooth Loss Functions with Linear Rates for Classification and Structured Prediction [42.67092904252001]
線形コアを滑らかな尾に縫合することで,この緊張を解消する新しい凸損失関数群を提案する。
これらのサロゲートは、厳密な線型$H$一貫性境界を維持しながら、どこでも微分可能であることを証明している。
論文 参考訳(メタデータ) (2026-04-30T11:32:25Z) - Regularized Online RLHF with Generalized Bilinear Preferences [68.44113000390544]
一般的な嗜好を伴う文脈的オンラインRLHFの問題を考える。
一般化された双線形選好モデルを用いて、低ランクなスキュー対称行列による選好を捉える。
グリーディポリシーの双対ギャップは推定誤差の正方形によって有界であることを示す。
論文 参考訳(メタデータ) (2026-02-26T15:27:53Z) - Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。
我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。
重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
論文 参考訳(メタデータ) (2026-02-24T05:32:03Z) - MirrorLA: Reflecting Feature Map for Vision Linear Attention [49.41670925034762]
リニアアテンションはトランスフォーマーの2次から線形への計算複雑性を著しく低下させるが、パフォーマンスにおけるソフトマックスに基づくアテンションの遅れは一貫して遅れる。
我々は、受動トランケーションをアクティブなリオリエンテーションに置き換える幾何学的枠組みであるMirrorLAを提案する。
MirrorLAは標準的なベンチマークで最先端のパフォーマンスを実現し、表現の忠実さを損なうことなく厳密な線形効率を実現できることを示した。
論文 参考訳(メタデータ) (2026-02-04T09:14:09Z) - Error Feedback for Muon and Friends [80.90330715662961]
我々は、厳密な収束保証を備えた最初の通信効率非ユークリッドLMOであるEF21-Muonを紹介する。
我々の理論は、非ユークリッドの滑らかさとより一般的な$(L0, L1)$-smooth設定をカバーし、最もよく知られたユークリッドの速度と一致し、適切なノルム選択の下でより高速な収束を可能にする。
論文 参考訳(メタデータ) (2025-10-01T08:20:08Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Provably Efficient Offline Reinforcement Learning with Trajectory-Wise
Reward [66.81579829897392]
我々はPessimistic vAlue iteRaTionとrEward Decomposition (PARTED)という新しいオフライン強化学習アルゴリズムを提案する。
PartEDは、最小2乗ベースの報酬再分配を通じて、ステップごとのプロキシ報酬に軌道を分解し、学習したプロキシ報酬に基づいて悲観的な値を実行する。
私たちの知る限りでは、PartEDは、トラジェクティブな報酬を持つ一般のMDPにおいて、証明可能な効率のよい最初のオフラインRLアルゴリズムである。
論文 参考訳(メタデータ) (2022-06-13T19:11:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。