論文の概要: Cross-Domain Lossy Compression via Constrained Minimum Entropy Coupling
- arxiv url: http://arxiv.org/abs/2605.09833v1
- Date: Mon, 11 May 2026 00:19:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-12 23:28:50.442322
- Title: Cross-Domain Lossy Compression via Constrained Minimum Entropy Coupling
- Title(参考訳): 制約最小エントロピー結合によるクロスドメイン損失圧縮
- Authors: Nam Nguyen, Hassan Tavakoli, An Vuong, Thinh Nguyen, Bella Bose,
- Abstract要約: 最小エントロピーカップリング (MEC) レンズによる領域間損失圧縮について, 速度および分類制約による検討を行った。
対数的ロス歪みを動機として,情報源と復元の結合強度を最大化する情報に基づく目的を取り入れた。
MNIST超解像およびSVHN復調実験により、使用率の増加は分類精度を向上し、より情報的な再構成をもたらすことが示された。
- 参考スコア(独自算出の注目度): 5.404926467615337
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper studies cross-domain lossy compression through the lens of minimum entropy coupling (MEC) with rate and classification constraints. In this setting, an encoder observes samples from a degraded source domain, while the decoder is required to generate outputs following a prescribed target distribution and to preserve information relevant to a downstream classification task. Motivated by logarithmic-loss distortion, we adopt an information-based objective that maximizes the coupling strength between the source and reconstruction, rather than minimizing a sample-wise distortion. Under common randomness, we formulate a rate-constrained MEC problem (MEC-B) and show that the intermediate representation can be removed without loss of optimality, yielding an equivalent deterministic coupling formulation. For Bernoulli sources, closed-form expressions are derived with and without classification constraints. In addition, we implement a neural restoration framework using quantization, entropy modeling, distribution matching, and classification regularization. Experiments on MNIST super-resolution and SVHN denoising show that increasing the available rate improves classification accuracy and yields more informative reconstructions.
- Abstract(参考訳): 本稿では,最小エントロピーカップリング (MEC) レンズによる領域間損失圧縮と速度および分類制約について検討する。
この設定では、エンコーダは、劣化したソースドメインからのサンプルを観察し、デコーダは、所定の目標分布に従って出力を生成し、下流分類タスクに関連する情報を保持する必要がある。
対数的ロス歪みによって動機付けられた情報に基づく目的は、サンプルの歪みを最小限に抑えるのではなく、ソースと再構築の間の結合強度を最大化する。
共通ランダム性の下で、速度制約付きMEC問題(MEC-B)を定式化し、中間表現が最適性を失うことなく除去できることを示し、等価な決定論的結合の定式化をもたらす。
ベルヌーイ情報源では、閉形式表現は分類制約を伴わずに導出される。
さらに、量子化、エントロピーモデリング、分布マッチング、分類正規化を用いたニューラルネットワーク復元フレームワークを実装した。
MNIST超解像およびSVHN復調実験により、使用率の増加は分類精度を向上し、より情報的な再構成をもたらすことが示された。
関連論文リスト
- Minimum Entropy Coupling with Bottleneck [22.409716686394525]
本稿では,対数損失下で動作する新しい損失圧縮フレームワークについて検討する。
特に、共同圧縮と検索を必要とするアプリケーションや、処理による分散シフトを伴うシナリオに関係している。
提案した定式化は、ボトルネックを統合することにより、古典的な最小エントロピー結合フレームワークを拡張していることを示す。
論文 参考訳(メタデータ) (2024-10-29T02:19:07Z) - Enabling Tensor Decomposition for Time-Series Classification via A Simple Pseudo-Laplacian Contrast [26.28414569796961]
本稿では, Pseudo Laplacian Contrast (PLC) テンソル分解フレームワークを提案する。
データ拡張とラプラシアンのクロスビューを統合し、クラス認識表現の抽出を可能にする。
様々なデータセットの実験は、我々のアプローチの有効性を実証している。
論文 参考訳(メタデータ) (2024-09-23T16:48:13Z) - Alternating Minimization Schemes for Computing Rate-Distortion-Perception Functions with $f$-Divergence Perception Constraints [9.788112471288057]
離散メモリレスソースに対するRDPF(Ralse-Distortion-Perception Function)の計算について検討した。
凸プログラミング問題に対する最適パラメトリック解を特徴付ける。
必要かつ十分な条件を導出することにより、両スキームがグローバルな最適解を保証できることが示される。
論文 参考訳(メタデータ) (2024-08-27T12:50:12Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Variational Classification [51.2541371924591]
我々は,変分オートエンコーダの訓練に用いるエビデンスローバウンド(ELBO)に類似した,モデルの訓練を目的とした変分目的を導出する。
軟質マックス層への入力を潜伏変数のサンプルとして扱うことで, 抽象化された視点から, 潜在的な矛盾が明らかとなった。
我々は、標準ソフトマックス層に見られる暗黙の仮定の代わりに、選択された潜在分布を誘導する。
論文 参考訳(メタデータ) (2023-05-17T17:47:19Z) - Communication-Efficient Federated Learning via Quantized Compressed
Sensing [82.10695943017907]
提案フレームワークは,無線機器の勾配圧縮とパラメータサーバの勾配再構成からなる。
勾配スペーシフィケーションと量子化により、我々の戦略は1ビット勾配圧縮よりも高い圧縮比を達成することができる。
圧縮を行わない場合とほぼ同じ性能を実現できることを示す。
論文 参考訳(メタデータ) (2021-11-30T02:13:54Z) - Probabilistic partition of unity networks: clustering based deep
approximation [0.0]
ユニタリネットワーク(POU-Nets)の分割は、回帰とPDEの解に対する代数収束率を実現することができる。
ガウス雑音モデルを用いてPOU-Netを拡張し、最大可算損失の勾配に基づく一般化を導出できる確率的一般化を得る。
本研究では,高次元・低次元での性能を定量化するためのベンチマークを行い,高次元空間内のデータの潜在次元にのみ依存することを示す。
論文 参考訳(メタデータ) (2021-07-07T08:02:00Z) - Autoregressive Score Matching [113.4502004812927]
自動回帰条件スコアモデル(AR-CSM)を提案する。
AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。
本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
論文 参考訳(メタデータ) (2020-10-24T07:01:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。