論文の概要: A Simplex Witness Certificate for Constant Collapse in Variational Autoencoders

• arxiv url: http://arxiv.org/abs/2605.18224v3
• Date: Sat, 23 May 2026 10:58:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-26 16:32:37.662759
• Title: A Simplex Witness Certificate for Constant Collapse in Variational Autoencoders
• Title（参考訳）: 変分オートエンコーダにおける一定崩壊の簡易性証明
• Authors: Zegu Zhang, Jianhua Peng, Jian Zhang,
• Abstract要約: 変分オートエンコーダの正確な定数崩壊について検討する。 フルサポートされた教師の後方では、同じ幾何学が教師の知性アライメントエラーがゼロの閉形式ラテント符号を与える。 本手法は, MNIST, CIFAR-10, CIFAR-100上でのインスタンス化を行う。
• 参考スコア（独自算出の注目度）: 3.812090634738739
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study exact constant collapse in variational autoencoders: the deterministic encoder mean becomes independent of the input. The prior remains the standard Gaussian. Before VAE training, we select a fixed teacher posterior from a GMM-based view of the data and attach a fixed latent-only simplex witness to the encoder mean. This construction yields two linked objects. The first is a certificate: if the witness prediction improves on the best constant predictor of the teacher, the encoder mean cannot be input-independent constant. The second is a local escape direction: on the collapsed manifold, the teacher residual gives a sample-dependent descent direction for the alignment loss. For any full-support teacher posterior, the same geometry also gives a closed-form latent code with zero teacher-witness alignment error. Its scaled versions trace a margin-energy path from the constant predictor to the exact teacher code, which quantifies non-collapse inside the protected witness subspace. We instantiate the method on MNIST, CIFAR-10, and CIFAR-100. With searched unsupervised PCA-GMM teachers, vanilla VAEs fail the teacher-witness certificate in all five seeds on CIFAR-10 and CIFAR-100, while RST variants pass in all five seeds. Under collapse-stress settings with \(β_{\mathrm{KL}}\in\{2,4,8\}\), vanilla VAE again fails in all seeds, whereas RST-alpha-prefit remains certificate-positive. Escape trajectories on both natural-image datasets increase the witness margin from a low-margin initialization and exhibit nonzero teacher-induced gradient norms. The analysis is confined to exact constant collapse of the encoder mean; generation quality, decoder use, and other collapse modes remain separate questions.
• Abstract（参考訳）: 我々は変分オートエンコーダの正確な定数崩壊について検討し、決定論的エンコーダ平均は入力から独立する。 前者は標準ガウス語である。 VAEトレーニングの前に、GMMに基づくデータビューから固定された教師を選定し、エンコーダ平均に固定された潜在のみの単純な目撃者をアタッチする。 この構成は2つの連結オブジェクトを生成する。 1つ目は証明書であり、もし証人予測が教師の最高の定数予測器を改善したならば、エンコーダ平均は入力非依存の定数にはならない。 2つ目は局所逃避方向であり、崩壊した多様体では教師残差がアライメント損失に対してサンプル依存の降下方向を与える。 フルサポートされた教師の後方では、同じ幾何学が教師の知性アライメントエラーをゼロにするクローズドフォームの潜在コードを与える。 スケールされたバージョンは、一定の予測器から、保護された証人空間内の非崩壊を定量化する正確な教師コードまで、余剰エネルギーの経路を辿っている。 本手法は, MNIST, CIFAR-10, CIFAR-100上でのインスタンス化を行う。 教師なしのPCA-GMM教師を検索すると、バニラVAEはCIFAR-10とCIFAR-100の5種すべてで教師の身元証明に失敗し、RTTの変種は5種すべてに合格する。 (β_{\mathrm{KL}}\in\{2,4,8\}\)による崩壊ストレス設定では、バニラVAEは再びすべての種子で失敗するが、RTT-α-プレフィットは証明陽性のままである。 両方の自然画像データセット上のエスケープ軌跡は、低マージン初期化から目撃者のマージンを増大させ、非ゼロ教師による勾配規範を示す。 解析はエンコーダ平均の正確な一定の崩壊に限られており、生成品質、デコーダの使用、その他の崩壊モードは別個の問題のままである。

関連論文リスト

• A Testable Certificate for Constant Collapse in Teacher-Guided VAEs [3.812090634738739]
  変異型オートエンコーダの後方崩壊は、しばしばその症状によって診断される。 本研究では, 具体的故障モード, 入力非依存定数崩壊について検討し, 正確なしきい値が認められたことを示す。
  論文  参考訳（メタデータ） (2026-05-07T07:48:41Z)
• Beyond Logit Adjustment: A Residual Decomposition Framework for Long-Tailed Reranking [3.165340675929986]
  縮小安定化されたクラスワイド項と、ショートリスト上の競合機能によって駆動される線形ペアワイド項を結合した軽量なポストホックリランカを開発する。 画像分類、種別認識、シーン認識、希少な疾患の診断を含む5つのベンチマークの実験では、分解によってペアワイズ補正がどこに役立ち、クラスワイズ補正だけで十分かを説明できる。
  論文  参考訳（メタデータ） (2026-04-02T00:34:12Z)
• Beyond the Loss Curve: Scaling Laws, Active Learning, and the Limits of Learning from Exact Posteriors [8.410613979416203]
  実写画像で正確な後部を抽出可能なオラクルとして,クラス条件正規化フローを用いる。 我々のフレームワークは、標準メトリクスが進行中の学習を隠蔽し、アーキテクチャの違いを隠蔽し、分散シフトの性質を診断できないことを明らかにしている。
  論文  参考訳（メタデータ） (2026-01-30T21:08:55Z)
• Geometric-Disentangelment Unlearning [106.99160454669902]
  忘れたサンプルへの勾配は しばしば 保持された知識を傷つける 本稿では,GU(Geometric-disment Unlearning)を提案する。 本手法はプラグ・アンド・プレイであり,既存の勾配に基づくアンラーニング手法と併用することで副作用を軽減できる。
  論文  参考訳（メタデータ） (2025-11-21T09:58:25Z)
• REPA Works Until It Doesn't: Early-Stopped, Holistic Alignment Supercharges Diffusion Training [58.33728862521732]
  Diffusion Transformer (DiTs)は最先端の画像品質を提供するが、訓練は依然として遅い。 最近の治療 -- DiT の隠された特徴と非生成的教師(例えば DINO)の特徴とを一致させる表現アライメント(REPA) -- は、初期のエポックを劇的に加速させるが、その後パフォーマンスを低下させる。 生成学習者が共同データ分布をモデル化し始めると、教師の低次元埋め込みと注意パターンがガイドではなくストラトジャケットになる。 HASTEを紹介する
  論文  参考訳（メタデータ） (2025-05-22T15:34:33Z)
• Semantic Latent Space Regression of Diffusion Autoencoders for Vertebral Fracture Grading [72.45699658852304]
  本稿では,教師なし特徴抽出器として生成拡散オートエンコーダモデルを訓練するための新しい手法を提案する。 フラクチャーグレーディングを連続回帰としてモデル化し, フラクチャーのスムーズな進行を反映した。 重要なことに,本手法の創成特性は,与えられた脊椎の様々な段階を可視化し,自動グルーピングに寄与する特徴を解釈し,洞察することを可能にする。
  論文  参考訳（メタデータ） (2023-03-21T17:16:01Z)
• Calibrated Teacher for Sparsely Annotated Object Detection [35.74904852812749]
  完全な教師付きオブジェクト検出には、すべてのインスタンスに注釈を付けるトレーニングイメージが必要である。 これは、高い労力と時間コストと避けられないアノテーションのため、実際には現実的ではありません。 近年,アノテーションの欠落に対して擬似ラベルを生成することで,オブジェクト検出の容易化が図られている。 本稿では,予測の信頼度を実際の精度に合わせるために,校正教師を提案する。
  論文  参考訳（メタデータ） (2023-03-14T02:02:39Z)
• Adversarial robustness of VAEs through the lens of local geometry [1.2228014485474623]
  可変オートエンコーダ (VAEs) に対する教師なし攻撃では、敵は入力サンプルに小さな摂動を発見し、潜時空間の符号化を著しく変化させる。 本稿では, VAEを攻撃するための最適手法として, プルバック計量テンソルの方向バイアスを利用する方法を示す。
  論文  参考訳（メタデータ） (2022-08-08T05:53:57Z)
• Relieving Long-tailed Instance Segmentation via Pairwise Class Balance [85.53585498649252]
  長い尾のインスタンスセグメンテーションは、クラス間のトレーニングサンプルの極端な不均衡のために難しいタスクである。 尾のついたものに対して、(大多数のサンプルを含む)ヘッドクラスの深刻なバイアスを引き起こす。 そこで本研究では,学習中の予測嗜好を蓄積するために,学習中に更新される混乱行列上に構築された新しいPairwise Class Balance(PCB)手法を提案する。
  論文  参考訳（メタデータ） (2022-01-08T07:48:36Z)
• Tail-to-Tail Non-Autoregressive Sequence Prediction for Chinese Grammatical Error Correction [49.25830718574892]
  本稿では,Tail-to-Tail (textbfTtT) という新しいフレームワークを提案する。 ほとんどのトークンが正しいので、ソースからターゲットに直接転送でき、エラー位置を推定して修正することができる。 標準データセット、特に可変長データセットに関する実験結果は、文レベルの精度、精度、リコール、F1-Measureの観点からTtTの有効性を示す。
  論文  参考訳（メタデータ） (2021-06-03T05:56:57Z)
• Autoencoding Variational Autoencoder [56.05008520271406]
  我々は,この行動が学習表現に与える影響と,自己整合性の概念を導入することでそれを修正する結果について検討する。 自己整合性アプローチで訓練されたエンコーダは、敵攻撃による入力の摂動に対して頑健な(無神経な)表現につながることを示す。
  論文  参考訳（メタデータ） (2020-12-07T14:16:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。