論文の概要: Lost and Found in Translation: Variational Diagnostics for Neural Codebook Channels

• arxiv url: http://arxiv.org/abs/2605.18846v1
• Date: Wed, 13 May 2026 06:52:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-20 15:03:08.664136
• Title: Lost and Found in Translation: Variational Diagnostics for Neural Codebook Channels
• Title（参考訳）: 翻訳における損失と発見:ニューラルコードブックチャネルの変分診断
• Authors: Yusuke Hayashi,
• Abstract要約: 変分オートエンコーダ(VAE)は、エンコーダ$q_$とデコーダ$p_$を共同でトレーニングし、実践者は結果として生じる遅延空間を離散コードとして扱う。 標準的なVAE診断は、このコードが使用されているかどうか、デコーダがエンコーダのコードの下で各潜伏者を読み取るかどうかのみを認証する。 我々は,アーキテクチャフリーなBernoulli-KL証明書によって,対角線外質量を束縛したエンコーダデコーダ診断法を開発した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Classical communication systems fail not only through random noise but also when transmitter and receiver use incompatible operational codebooks. Variational autoencoders (VAEs) train an encoder $q_φ$ and decoder $p_θ$ jointly, and practitioners treat the resulting latent space as a discrete code -- for clustering, conditional generation, and mechanistic interpretability. Yet standard VAE diagnostics -- ELBO, active units, mutual information, and code histograms -- certify only whether this code is used, never whether the decoder reads each latent under the encoder's code. We close this gap with the neural codebook channel $K_{e\to d}(j\mid i)$, a coupled encoder-decoder diagnostic whose off-diagonal mass is bounded by an architecture-free Bernoulli-KL certificate $d_{\mathrm{bin}}(1-\mathcal{A} \,\|\, \barη_p) \le \barΔ$ controlled by the variational gap. The certificate is the operational specialization of the classical KL chain rule under disintegration to the encoder-decoder disagreement event, complemented by a constructive marginal-impossibility result: no combination of marginal histograms, entropies, active-code counts, or mutual information determines $K_{e\to d}$. We audit the certificate on four sklearn datasets (finite-grid exact, 5/5 seeds, 20/20 pairs satisfy the bound), a 2D model where the bound is non-vacuous at $2.71\times$ the observed disagreement and the four-term identity closes within $10^{-4}$, MNIST under importance-sampling control, and a VQ-VAE attaining the predicted limit $\hat{\mathcal{A}}=1.000$. The package $(K_{e\to d}, \mathcal{A}, R_{\mathrm{eff}}, R, \mathrm{AU})$ is an audit-ready reporting unit. More broadly, the framework makes mismatched decoding -- a failure mode classical communication theory named decades ago -- visible inside a single deep generative model.
• Abstract（参考訳）: 古典的な通信システムは、ランダムノイズだけでなく、送信機と受信機が互換性のない運用コードブックを使用する場合にも失敗する。 変分オートエンコーダ(VAEs)は、エンコーダ$q_φ$とデコーダ$p_θ$を共同でトレーニングし、実践者は、結果として生じるラテント空間を、クラスタリング、条件生成、機械的解釈可能性のための離散コードとして扱う。しかしながら、標準のVAE診断 -- ELBO、アクティブユニット、相互情報、コードヒストグラム -- は、このコードの使用の有無、デコーダがエンコーダのコードの下で各ラテントを読み取るかどうかのみを認証する。 我々は、このギャップをニューラルネットワークのチャネルである$K_{e\to d}(j\mid i)$で閉じる。この結合エンコーダ-デコーダ診断は、非対角質量がアーキテクチャのないBernoulli-KL証明書$d_{\mathrm{bin}}(1-\mathcal{A} \,\|\, \barη_p) \le \barΔ$によって制御される。 この証明書は、エンコーダ・デコーダの不一致イベントに分解された古典的なKL連鎖規則の運用上の特殊化であり、構成的な辺縁-可逆性の結果によって補完される: 辺縁ヒストグラム、エントロピー、アクティブコードカウント、あるいは相互情報の組み合わせは、$K_{e\to d}$を決定する。 4つのスケルンデータセット(有限桁精度、5/5シード、20/20ペアが境界を満たす)、境界が非空である2Dモデルに対して、観測された不一致と4項アイデンティティが10^{-4}$以内で閉じ、MNISTが重要サンプリング制御下で、予測限界が$\hat{\mathcal{A}}=1.000$に達するVQ-VAEを監査する。 パッケージ $(K_{e\to d}, \mathcal{A}, R_{\mathrm{eff}}, R, \mathrm{AU})$ は監査対応のレポートユニットである。 より広範に言えば、このフレームワークは、数十年前に名付けられた失敗モードの古典的な通信理論である、ミスマッチしたデコーディングを、単一の深層生成モデルの中で可視化する。

関連論文リスト

• High-threshold decoding of non-Pauli codes for 2D universality [0.15999407512883507]
  トポロジカルコードには、比較的低いオーバーヘッドでフォールトトレラントな量子計算を可能にする多くの望ましい性質がある。 これらの符号のコアとなる課題は、接続性に制限のある低オーバヘッドのユニバーサルゲートセットを実現することである。 トポロジカルトーリックおよび曲面符号上の普遍ゲートセットを厳密に2次元で完備化するために使用できる非パウリ安定化符号を探索する。
  論文  参考訳（メタデータ） (2026-04-02T13:39:46Z)
• Exploiting Discriminative Codebook Prior for Autoregressive Image Generation [54.14166700058777]
  トークンベースの自己回帰画像生成システムは、まずトークンインデックスのシーケンスをコードブックでトークン化し、次にこれらのシーケンスを自己回帰パラダイムでモデル化する。 自己回帰生成モデルはインデックス値のみに基づいて訓練されるが、豊富なトークン類似性情報を含むコードブックにエンコードされた前者は利用されない。 近年の研究では、トークン上に単純なk平均クラスタリングを行い、コードブックを減らした生成モデルのトレーニングを容易にすることで、これを先に組み込もうとしている。 k-meansの代替として、差別的コードブック先駆者(DCPE)を提案する。
  論文  参考訳（メタデータ） (2025-08-14T15:00:00Z)
• CODA: Repurposing Continuous VAEs for Discrete Tokenization [31.932323809073477]
  textbfCODA(textbfCOntinuous-to-textbfDiscrete textbfAdaptation)は、圧縮と離散化を分離するフレームワークである。 提案手法は,ImageNet 256$times$256ベンチマークにおいて,$mathbf0.43$と$mathbf1.34$を8倍,$16倍の圧縮で,100%のコードブック利用と注目すべき再構成FID(rFID)を実現している。
  論文  参考訳（メタデータ） (2025-03-22T12:59:00Z)
• Far from Perfect: Quantum Error Correction with (Hyperinvariant) Evenbly Codes [38.729065908701585]
  Evenbly コードと呼ばれる新しいクビット符号のクラスを導入します。 我々の研究は、イブリー符号が実用的な量子コンピューティングアプリケーションにとって有望であることを示している。
  論文  参考訳（メタデータ） (2024-07-16T17:18:13Z)
• Estimating the Decoding Failure Rate of Binary Regular Codes Using Iterative Decoding [84.0257274213152]
  並列ビットフリップデコーダのDFRを高精度に推定する手法を提案する。 本研究は,本症候群のモデル化およびシミュレーションによる重み比較,第1イテレーション終了時の誤りビット分布の誤検出,復号化復号化率(DFR)について検証した。
  論文  参考訳（メタデータ） (2024-01-30T11:40:24Z)
• Fault-tolerant hyperbolic Floquet quantum error correcting codes [0.4527817188861902]
  ハイパボリックフロケット符号」と呼ばれる動的に生成された量子誤り訂正符号の族を導入する。 私たちの双曲的フロッケ符号の1つは、コード距離8の52の論理キュービットをエンコードするために400の物理キュービットを使用します。 小さなエラー率では、この符号に匹敵する論理的誤り抑制は、同じノイズモデルとデコーダを持つハニカム・フロケ符号を使用する場合、多くの物理量子ビット (1924) の5倍を必要とする。
  論文  参考訳（メタデータ） (2023-09-18T18:00:02Z)
• Neural Distributed Source Coding [59.630059301226474]
  相関構造に依存せず,高次元までスケール可能な損失DSCのためのフレームワークを提案する。 提案手法は,複数のデータセット上で評価し,複雑な相関関係と最先端PSNRを扱えることを示す。
  論文  参考訳（メタデータ） (2021-06-05T04:50:43Z)
• Learning Autoencoders with Relational Regularization [89.53065887608088]
  データ分散のオートエンコーダを学習するための新しいフレームワークを提案する。 エンフレレーショナル正規化によるモデルと対象分布の差を最小限にする 我々はこのフレームワークを2つのスケーラブルアルゴリズムで実装し、確率的および決定論的オートエンコーダの両方に適用する。
  論文  参考訳（メタデータ） (2020-02-07T17:27:30Z)
• Deep Q-learning decoder for depolarizing noise on the toric code [0.0]
  トーリック符号上の非分極雑音の量子誤差補正のためのAIベースの復号化エージェントを提案する。 エージェントは、深層強化学習(DRL)を使用してトレーニングされ、人工知能ニューラルネットワークは、エラー修正のための$X$、$Y$、および$Z$ Pauli操作の状態をQ値にエンコードする。 DRL型デコーダは,将来的なトポロジカル符号の誤り訂正のためのフレームワークとして期待できる。
  論文  参考訳（メタデータ） (2019-12-30T13:27:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。