論文の概要: A Testable Certificate for Constant Collapse in Teacher-Guided VAEs
- arxiv url: http://arxiv.org/abs/2605.05813v1
- Date: Thu, 07 May 2026 07:48:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-08 22:27:11.607034
- Title: A Testable Certificate for Constant Collapse in Teacher-Guided VAEs
- Title(参考訳): 教師誘導型VAEにおける一定崩壊のためのテスト可能な証明書
- Authors: Zegu Zhang, Jianhua Peng, Jian Zhang,
- Abstract要約: 変異型オートエンコーダの後方崩壊は、しばしばその症状によって診断される。
本研究では, 具体的故障モード, 入力非依存定数崩壊について検討し, 正確なしきい値が認められたことを示す。
- 参考スコア(独自算出の注目度): 3.812090634738739
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Posterior collapse in variational autoencoders is often diagnosed by its symptoms: a small KL term, a strong decoder, or weak use of the latent code. These signals are useful, but they do not define a collapse boundary. We study a concrete failure mode, input-independent constant collapse, and show that this case admits an exact threshold. For any fixed nonconstant teacher distribution \(T(\cdot\mid x)\), the best constant student is the dataset-average teacher distribution, and its alignment cost is the teacher mutual information \(I_T(X;T)\). Therefore, if a strictly latent-only raw witness achieves alignment loss below this value, with a safety margin, the witness cannot be constant in the input. This identity turns a qualitative failure mode into a measurable one. In CIFAR-100 experiments with per-seed teacher search, full training stays on the certified side of the boundary, removing alignment drives the raw witness into the constant-student regime, and restarting from a collapsed checkpoint with alignment enabled restores the certificate. Tiny-ImageNet-200 fixed-target runs show the same prevention--collapse--rescue pattern across three independently searched teachers. Standard VAE-style baselines, including methods that preserve reconstruction quality or post-hoc predictability, remain negative under the raw certificate. The guarantee is intentionally narrow: it certifies that the matched nonconstant teacher-relative variation passes through the latent pathway, rather than claiming that all forms of posterior collapse have been ruled out.
- Abstract(参考訳): 変分オートエンコーダの後方崩壊は、小さなKL項、強いデコーダ、潜伏符号の弱い使用といった症状によってしばしば診断される。
これらの信号は有用であるが、崩壊境界を定義するものではない。
本研究では, 具体的故障モード, 入力非依存定数崩壊について検討し, 正確なしきい値が認められたことを示す。
固定された非定常教師分布 \(T(\cdot\mid x)\ に対して、最高の定数学生はデータセット平均教師分布であり、アライメントコストは教師相互情報 \(I_T(X;T)\)である。
したがって、厳密な潜伏のみの生証人がこの値以下でアライメント損失を達成した場合、その証人は入力において一定ではない。
このアイデンティティは、定性的な障害モードを測定可能なモードに変換する。
CIFAR-100では、教師1人あたりの検索による実験で、完全なトレーニングは境界の認定側にとどまり、アライメントを除去することで、生の目撃者を定員体制に誘導し、アライメントを有効にしたチェックポイントから再開する。
Tiny-ImageNet-200 fixed-target runは、3人の教師が独自に検索したのと同じ予防-崩壊-救助パターンを示している。
復元品質やポストホックの予測可能性を維持する方法を含む標準的なVAEスタイルのベースラインは、原証明書の下では否定的のままである。
この保証は意図的に狭く、一致しない教師相対的な変化が、すべての形態の後方崩壊が除外されたと主張するのではなく、潜伏経路を通過することを証明している。
関連論文リスト
- Distill-Belief: Closed-Loop Inverse Source Localization and Characterization in Physical Fields [19.32007397161956]
正しさを効率から分離する教師学生向けフレームワークである textbfDistill-Belief を提案する。
実験の結果,Distill-Beliefはセンサコストを一貫して低減し,成功率,後部収縮率,ベースライン上の推定精度を向上することがわかった。
論文 参考訳(メタデータ) (2026-04-28T20:18:29Z) - Continual Calibration: Coverage Can Collapse Before Accuracy in Lifelong LLM Fine-Tuning [6.908972852063454]
不確実性信頼性は、トップ1のパフォーマンスよりも早く、より急激に低下する可能性がある。
逐次微調整モデル上での共形被覆と校正誤差を計測し,これを実証的に検討する。
タスク固有のバッファを保持し,タスク固有の整合しきい値に適合する軽量なポストホックプロシージャであるキャリブレーション・リプレイを提案する。
論文 参考訳(メタデータ) (2026-04-27T03:03:38Z) - The Illusion of Certainty: Decoupling Capability and Calibration in On-Policy Distillation [67.26315138466312]
モデルロールアウトから経験的信頼性を推定するキャリブレーション対応のOPDフレームワークであるCaOPDを提案する。
本研究は, 能力蒸留が信頼性を示唆するものではないこと, 信頼性をポストトレーニングの本質的な目的として扱うべきであることを明らかにする。
論文 参考訳(メタデータ) (2026-04-18T04:43:40Z) - LATA: Laplacian-Assisted Transductive Adaptation for Conformal Uncertainty in Medical VLMs [61.06744611795341]
医用視覚言語モデル(VLM)は医用画像の強力なゼロショット認識器である。
本研究では,ラプラシアン支援トランスダクティブ・アダプティブ・アダプティブ・アダプティブ・アダプティブ・アダプティブ・アダプティブ・アダプティブ(texttttextbfLATA,ラプラシアン支援トランスダクティブ・アダプティブ・アダプティブ・アダプティブ)を提案する。
texttttextbfLATAは交換性を損なうことなくゼロショット予測をシャープにする。
論文 参考訳(メタデータ) (2026-02-19T16:45:38Z) - MathLedger: A Verifiable Learning Substrate with Ledger-Attested Feedback [0.0]
現代のAIシステムは異常なパフォーマンスを達成するが、不透明で検証不可能なままである。
我々は,形式的検証,暗号証明,学習ダイナミクスを統合した,検証可能なマシン認知のための基板であるMathLedgerを紹介する。
この貢献は非構造的であり、大規模な監査性を実現する台帳による学習の実践的なプロトタイプである。
論文 参考訳(メタデータ) (2025-12-22T19:27:55Z) - Adaptive Hierarchical Certification for Segmentation using Randomized Smoothing [87.48628403354351]
機械学習の認証は、特定の条件下では、敵対的なサンプルが特定の範囲内でモデルを回避できないことを証明している。
セグメンテーションの一般的な認証方法は、平らな粒度のクラスを使い、モデルの不確実性による高い断続率をもたらす。
本稿では,複数レベルの階層内で画素を認証し,不安定なコンポーネントに対して粗いレベルに適応的に認証を緩和する,新しい,より実用的な設定を提案する。
論文 参考訳(メタデータ) (2024-02-13T11:59:43Z) - Shrinking Class Space for Enhanced Certainty in Semi-Supervised Learning [59.44422468242455]
そこで我々はShrinkMatchと呼ばれる新しい手法を提案し、不確実なサンプルを学習する。
それぞれの不確実なサンプルに対して、元の Top-1 クラスを単に含むスランク類空間を適応的に求める。
次に、スランク空間における強と弱に強化された2つのサンプル間の整合正則化を課し、識別的表現を試みます。
論文 参考訳(メタデータ) (2023-08-13T14:05:24Z) - Semantic Latent Space Regression of Diffusion Autoencoders for Vertebral
Fracture Grading [72.45699658852304]
本稿では,教師なし特徴抽出器として生成拡散オートエンコーダモデルを訓練するための新しい手法を提案する。
フラクチャーグレーディングを連続回帰としてモデル化し, フラクチャーのスムーズな進行を反映した。
重要なことに,本手法の創成特性は,与えられた脊椎の様々な段階を可視化し,自動グルーピングに寄与する特徴を解釈し,洞察することを可能にする。
論文 参考訳(メタデータ) (2023-03-21T17:16:01Z) - Robust Mean Teacher for Continual and Gradual Test-Time Adaptation [5.744133015573047]
経時的テスト時間適応(TTA)は、単一のドメインシフトだけでなく、一連のシフトも考慮している。
我々は,TTAの設定において,平均教師の整合性損失として対称的クロスエントロピーが適していることを示す。
提案手法は, 連続的, 段階的評価ベンチマークにおいて, RMT (Robust mean teacher) の有効性を実証する。
論文 参考訳(メタデータ) (2022-11-23T16:14:45Z) - Exploiting Sample Uncertainty for Domain Adaptive Person
Re-Identification [137.9939571408506]
各サンプルに割り当てられた擬似ラベルの信頼性を推定・活用し,ノイズラベルの影響を緩和する。
不確実性に基づく最適化は大幅な改善をもたらし、ベンチマークデータセットにおける最先端のパフォーマンスを達成します。
論文 参考訳(メタデータ) (2020-12-16T04:09:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。