論文の概要: Perfect Reconstruction Cannot Show Whether Two Codebooks on a VAE's Latent Space Agree
- arxiv url: http://arxiv.org/abs/2610.14012v1
- Date: Tue, 29 Sep 2026 05:58:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 23:46:05.263459
- Title: Perfect Reconstruction Cannot Show Whether Two Codebooks on a VAE's Latent Space Agree
- Title(参考訳): VAEの遅延スペースアグリアに2つのコードブックがあるかどうか、完璧に再現できない
- Abstract要約: 我々は、標準的なトレーニングレポートの項目が、コード化されたデータに対して、書き込まれたコードと読み込まれたコードとが一致するかどうかを明らかにすることができないことを証明した。
我々は2つのVAEを構築し、すべての入力を完璧に再構成し、正確に推測し、すべてのサンプルELBOとすべてのコードヒストグラムにマッチする。
その結果、VAEをコードとして読み込むパイプラインに対して、単純なプロトコルであるCertify-or-Measureが生成される。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Many systems read the latent space of a variational autoencoder (VAE) as discrete codes, and rely on each latent being read back as the code it was written as. Shannon (1948) took such a shared codebook as given; inside a VAE nothing enforces it. We prove that no item of a standard training report can reveal whether the written and read codes agree on encoded data. We construct two VAEs that reconstruct every input perfectly, infer exactly, and match on every per-example ELBO and every code histogram, yet agreement is one in the first and zero in the second. We then show that the ELBO's own terms bound how far a measured agreement can move: the variational gap bounds the shift to exact inference, and the rate bounds the shift to generation from the prior. For Gaussian posteriors, a mean-field encoder pays an exact price in the gap that depends on its choice of axes. On probabilistic PCA the gap certifies a trained encoder in all 75 settings we test, at agreement between 0.76 and 0.97. On 240 trained VAEs, a floor set by the rate and the dataset size rules out rate-side certification in advance for 66 models, and none of them certifies. The results yield a simple protocol, Certify-or-Measure, for any pipeline that reads a VAE as codes.
- Abstract(参考訳): 多くのシステムは、変分オートエンコーダ(VAE)の潜時空間を離散コードとして読み出し、各潜時空間をそのコードとして読み返す。
シャノン(1948年)はそのような共有コードブックを渡した。
我々は、標準的なトレーニングレポートの項目が、コード化されたデータに対して、書き込まれたコードと読み込まれたコードとが一致するかどうかを明らかにすることができないことを証明した。
我々は、すべての入力を完全に再構築し、正確に推測し、すべてのサンプルELBOとすべてのコードヒストグラムにマッチする2つのVAEを構築します。
次に、ELBO 自身の条件は、測定された合意がどこまで動けるかに縛られ、変動的ギャップは正確な推論へのシフトに拘束され、レートは前から生成へのシフトに拘束されることを示す。
ガウス後部について、平均場エンコーダは、その軸の選択に依存するギャップの正確な価格を支払う。
確率的PCAでは、ギャップはテスト対象の75設定すべてにおいて、0.76と0.97の一致で訓練されたエンコーダを認定する。
240のトレーニングされたVAEでは、レートとデータセットサイズによって設定されたフロアが66モデルのレートサイド認証を事前にルールしており、いずれも認証されていない。
その結果、VAEをコードとして読み込むパイプラインに対して、単純なプロトコルであるCertify-or-Measureが生成される。
関連論文リスト
- Purify Before You Align: Improving Representation Alignment for Diffusion Models [51.67434264043717]
局所的な外観浄化(LAP)は、5つの事前訓練された表現における生成品質を改善する。
LAPはアライメントターゲットのみを変更し、拡散トレーニングや推論を変更する必要はない。
論文 参考訳(メタデータ) (2026-10-14T18:11:28Z) - Certified decoding of quantum LDPC codes [31.93810256110857]
量子低密度パリティチェック(qLDPC)符号は、フォールトトレラント量子計算の量子ビットオーバーヘッドを桁違いに減少させる。
多くの物理誤差は安定化器と同値であるため、縮退した最大形(ML)デコーダは、単一エラーではなく分割関数であるエラーの同値クラス全体の確率を比較する必要がある。
非方向性のグラフィカルモデルにおいて、退化復号化を確率的推論として扱う。
論文 参考訳(メタデータ) (2026-08-26T08:57:01Z) - GenOS: Compositional Certificates for Semantic Robustness in AI Code Generation [0.0]
GenOSはプロンプト、コントラクト、ジェネレータ、プログラムを置き換える確率論的操作意味論である。
等価性に適合するカーネルは商類に従属し、商化の可換性は分布拡大や逐次合成と一致することを証明する。
また,音の検証,全変量非拡張性,付加的境界の下でのワークフロー・バイコミットの安全性を確立した。
論文 参考訳(メタデータ) (2026-08-04T12:42:11Z) - A Simplex Witness Certificate for Constant Collapse in Variational Autoencoders [3.812090634738739]
変分オートエンコーダの正確な定数崩壊について検討する。
フルサポートされた教師の後方では、同じ幾何学が教師の知性アライメントエラーがゼロの閉形式ラテント符号を与える。
本手法は, MNIST, CIFAR-10, CIFAR-100上でのインスタンス化を行う。
論文 参考訳(メタデータ) (2026-05-18T11:09:22Z) - End-to-End Formalization of Quantum Error Correction [6.320988144551776]
量子エラー訂正符号(QECC)はノイズの多い量子ハードウェアと信頼性の高い計算の間にあり、実際に使用されるコードパラメータは信頼に値するものである必要がある。
Lean-QECは、産業コードサイズでマシンチェックされた距離証明書を提供する、Stabler-code理論の最初のLean 4の形式化です。
論文 参考訳(メタデータ) (2026-05-15T18:17:55Z) - Lost and Found in Translation: Variational Diagnostics for Neural Codebook Channels [0.0]
変分オートエンコーダ(VAE)は、エンコーダ$q_$とデコーダ$p_$を共同でトレーニングし、実践者は結果として生じる遅延空間を離散コードとして扱う。
標準的なVAE診断は、このコードが使用されているかどうか、デコーダがエンコーダのコードの下で各潜伏者を読み取るかどうかのみを認証する。
我々は,アーキテクチャフリーなBernoulli-KL証明書によって,対角線外質量を束縛したエンコーダデコーダ診断法を開発した。
論文 参考訳(メタデータ) (2026-05-13T06:52:21Z) - Let the Code LLM Edit Itself When You Edit the Code [50.46536185784169]
underlinetextbfPositional textbfIntegrity textbfEncoding (PIE)
PIEは、標準的な完全再計算手法に比べて計算オーバーヘッドを85%以上削減する。
その結果、PIEは計算オーバーヘッドを標準の完全再計算手法に比べて85%以上削減することを示した。
論文 参考訳(メタデータ) (2024-07-03T14:34:03Z) - Estimating the Decoding Failure Rate of Binary Regular Codes Using Iterative Decoding [84.0257274213152]
並列ビットフリップデコーダのDFRを高精度に推定する手法を提案する。
本研究は,本症候群のモデル化およびシミュレーションによる重み比較,第1イテレーション終了時の誤りビット分布の誤検出,復号化復号化率(DFR)について検証した。
論文 参考訳(メタデータ) (2024-01-30T11:40:24Z) - Autoencoding Variational Autoencoder [56.05008520271406]
我々は,この行動が学習表現に与える影響と,自己整合性の概念を導入することでそれを修正する結果について検討する。
自己整合性アプローチで訓練されたエンコーダは、敵攻撃による入力の摂動に対して頑健な(無神経な)表現につながることを示す。
論文 参考訳(メタデータ) (2020-12-07T14:16:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。