論文の概要: Towards Empirical Sandwich Bounds on the Rate-Distortion Function
- arxiv url: http://arxiv.org/abs/2111.12166v1
- Date: Tue, 23 Nov 2021 21:50:27 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-25 15:01:41.901163
- Title: Towards Empirical Sandwich Bounds on the Rate-Distortion Function
- Title(参考訳): 速度歪み関数に基づく経験的サンドイッチ境界に向けて
- Authors: Yibo Yang, Stephan Mandt
- Abstract要約: 情報理論の重要な量であるレート歪み(R-D)関数は、データソースをどれだけ圧縮できるかの基本的な限界を特徴付ける。
本稿では、一般(必ずしも離散ではない)ソースのR-D関数をサンドイッチするアルゴリズムを初めて試みる。
- 参考スコア(独自算出の注目度): 33.21088274828794
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Rate-distortion (R-D) function, a key quantity in information theory,
characterizes the fundamental limit of how much a data source can be compressed
subject to a fidelity criterion, by any compression algorithm. As researchers
push for ever-improving compression performance, establishing the R-D function
of a given data source is not only of scientific interest, but also sheds light
on the possible room for improving compression algorithms. Previous work on
this problem relied on distributional assumptions on the data source (Gibson,
2017) or only applied to discrete data. By contrast, this paper makes the first
attempt at an algorithm for sandwiching the R-D function of a general (not
necessarily discrete) source requiring only i.i.d. data samples. We estimate
R-D sandwich bounds on Gaussian and high-dimension banana-shaped sources, as
well as GAN-generated images. Our R-D upper bound on natural images indicates
room for improving the performance of state-of-the-art image compression
methods by 1 dB in PSNR at various bitrates.
- Abstract(参考訳): 情報理論における鍵量であるr-d(rate-distortion)関数は、いかなる圧縮アルゴリズムによっても、データソースが忠実度基準に従って圧縮できる量の基本的な限界を特徴付ける。
研究者が圧縮性能を常に改善しようとする中で、与えられたデータソースのR-D関数を確立することは、科学的な関心だけでなく、圧縮アルゴリズムを改善する余地にも光を当てている。
この問題に関する以前の研究は、データソース(gibson, 2017)上の分散仮定に依存していたり、あるいは離散データにのみ適用されていた。
対照的に,本論文では,データサンプルのみを必要とする一般(必ずしも離散的ではない)ソースのr-d関数を挟むアルゴリズムを初めて試みる。
ガウスおよび高次元バナナ形状のソースとGAN生成画像のR-Dサンドイッチ境界を推定する。
自然画像上のR-D上界は、様々なビットレートにおけるPSNRの1dBによる最先端画像圧縮法の性能を向上させる余地を示す。
関連論文リスト
- ODDN: Addressing Unpaired Data Challenges in Open-World Deepfake Detection on Online Social Networks [51.03118447290247]
オープンワールドデータアグリゲーション(ODA)と圧縮・ディスカード勾配補正(CGC)を組み合わせたオープンワールドディープフェイク検出ネットワーク(ODDN)を提案する。
細粒度分析と粗粒度分析の両方により,ODAは圧縮試料と原試料の相関関係を効果的に集約する。
CGCは、オンラインソーシャルネットワーク(OSN)における多種多様な圧縮方法のパフォーマンス向上のために、圧縮・ディスカード勾配補正を組み込んだ。
論文 参考訳(メタデータ) (2024-10-24T12:32:22Z) - Compression of Structured Data with Autoencoders: Provable Benefit of
Nonlinearities and Depth [83.15263499262824]
勾配勾配勾配は入力のスパース構造を完全に無視する解に収束することを示す。
浅層構造にデノナイジング関数を付加することにより,スパースデータの圧縮におけるガウス性能の改善方法を示す。
CIFAR-10 や MNIST などの画像データセットに対して,本研究の成果を検証した。
論文 参考訳(メタデータ) (2024-02-07T16:32:29Z) - Estimating the Rate-Distortion Function by Wasserstein Gradient Descent [36.24186820465207]
損失圧縮の理論では、レート歪み関数$R(D)$は、データソースが(ビットレートで)どんなレベルの忠実度(歪み)でも圧縮できるかを記述する。
最適輸送の観点から,$R(D)$を推定する新しい手法を提案する。
論文 参考訳(メタデータ) (2023-10-29T05:29:59Z) - Image Compression and Decompression Framework Based on Latent Diffusion
Model for Breast Mammography [0.0]
本研究では,潜在拡散モデル(LDM)を用いた医用画像の圧縮・圧縮のための新しい枠組みを提案する。
LDMは, 拡散確率モデル (DDPM) の進歩を表現し, 優れた画質が得られる可能性が示唆された。
医用画像データを用いた画像アップスケーリングにおけるLCMとTorchvisionの応用の可能性について検討した。
論文 参考訳(メタデータ) (2023-10-08T22:08:59Z) - Modality-Agnostic Variational Compression of Implicit Neural
Representations [96.35492043867104]
Inlicit Neural Representation (INR) としてパラメータ化されたデータの関数的ビューに基づくモーダリティ非依存型ニューラル圧縮アルゴリズムを提案する。
潜時符号化と疎性の間のギャップを埋めて、ソフトゲーティング機構に非直線的にマッピングされたコンパクト潜時表現を得る。
このような潜在表現のデータセットを得た後、ニューラル圧縮を用いてモーダリティ非依存空間におけるレート/歪みトレードオフを直接最適化する。
論文 参考訳(メタデータ) (2023-01-23T15:22:42Z) - Neural Estimation of the Rate-Distortion Function With Applications to
Operational Source Coding [25.59334941818991]
損失のあるデータ圧縮スキームを設計する際の根本的な問題は、速度歪み関数と比較してどれだけうまくできるかである。
本研究では,大規模な実世界のデータに対して,速度歪み関数を推定する手法について検討する。
本稿では, NERDと呼ばれる速度歪み推定器を画像データセットに適用する。
論文 参考訳(メタデータ) (2022-04-04T16:06:40Z) - Implicit Neural Representations for Image Compression [103.78615661013623]
Inlicit Neural Representations (INRs) は、様々なデータ型の新規かつ効果的な表現として注目されている。
量子化、量子化を考慮した再学習、エントロピー符号化を含むINRに基づく最初の包括的圧縮パイプラインを提案する。
我々は、INRによるソース圧縮に対する我々のアプローチが、同様の以前の作業よりも大幅に優れていることに気付きました。
論文 参考訳(メタデータ) (2021-12-08T13:02:53Z) - Linear Convergent Decentralized Optimization with Compression [50.44269451541387]
圧縮を伴う既存の分散アルゴリズムは主にDGD型アルゴリズムの圧縮に焦点を当てている。
原始双対アルゴリズムによって動機付けられた本論文は、最初のアンダーラインLinunderlineEAr収束を提案する。
underline Decentralized with compression, LEAD。
論文 参考訳(メタデータ) (2020-07-01T04:35:00Z) - The Power of Triply Complementary Priors for Image Compressive Sensing [89.14144796591685]
本稿では,一対の相補的な旅先を含むLRD画像モデルを提案する。
次に、画像CSのためのRDモデルに基づく新しいハイブリッド・プラグイン・アンド・プレイ・フレームワークを提案する。
そこで,提案したH-based image CS問題の解法として,単純で効果的なアルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-05-16T08:17:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。