Fugu-MT 論文翻訳(概要): Lossless Compression via Chained Lightweight Neural Predictors with Information Inheritance

論文の概要: Lossless Compression via Chained Lightweight Neural Predictors with Information Inheritance

arxiv url: http://arxiv.org/abs/2604.15472v1
Date: Thu, 16 Apr 2026 18:45:49 GMT
ステータス: 翻訳完了
システム内更新日: 2026-04-20 22:00:19.626277
Title: Lossless Compression via Chained Lightweight Neural Predictors with Information Inheritance
Title（参考訳）: 情報継承を考慮した連鎖型軽量ニューラル予測器による無損失圧縮
Authors: Yuriy Kim, Evgeny Belyaev,
Abstract要約: 本稿では,ニューラル予測器の連鎖に基づく確率推定アーキテクチャを提案する。このアーキテクチャにより、確率推定プロセスに参加する重量の総数を最小化できることを示す。本稿では,次の高次単位において,低次単位によって得られた確率推定値を用いる情報継承機構を提案する。
参考スコア（独自算出の注目度）: 1.6242924916178285
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: This paper is dedicated to lossless data compression with probability estimation using neural networks. First, we propose a probability estimation architecture based on a chain of neural predictors, so that each unit of the chain is defined as a neural network with the minimum possible number of weights, which is sufficient for efficient compression of data generated by Markov sources of a given order. We show that this architecture allows us to minimize the overall number of weights participating in the probability estimation process depending on the statistical properties of the input data. Second, in order to improve compression efficiency, we introduce an information inheritance mechanism, where the probability estimate obtained by a low-order unit is used at the next higher-order unit. Experimental results show that the proposed lossless data compressor equipped with the chained probability estimation architecture provides compression ratios close to the state-of-the-art PAC compressor. At the same time, it outperforms PAC by a factor of 1.2 to 6.3 in encoding throughput and by a factor of 2.8 to 12.3 in decoding throughput on a consumer GPU.
Abstract（参考訳）: 本稿では,ニューラルネットワークを用いた確率推定によるロスレスデータ圧縮について述べる。まず,ニューラルネットワークの各ユニットが最小限の重みを持つニューラルネットワークとして定義され,与えられた順序のマルコフ情報源によって生成されたデータの効率的な圧縮に十分な確率推定アーキテクチャを提案する。このアーキテクチャにより、入力データの統計的特性に応じて、確率推定プロセスに参加する重量の総数を最小化できることを示す。第2に、圧縮効率を向上させるために、次の高次単位において、低次単位によって得られた確率推定を使用する情報継承機構を導入する。実験結果から, チェーン型確率推定アーキテクチャを備えた無損失データ圧縮機は, 最先端のPAC圧縮機に近い圧縮比を提供することがわかった。同時に、PACはスループットを1.2から6.3で、GPUのデコードスループットを2.8から12.3で上回る。

関連論文リスト

A Benchmark Study of Neural Network Compression Methods for Hyperspectral Image Classification [0.0]
予測性能を維持しながらモデルサイズと計算コストを削減する圧縮技術が提案されている。畳み込みニューラルネットワークにおける3つの広く利用されている圧縮戦略について検討する。その結果, 圧縮モデルでは, 競争的分類性能を維持しながら, モデルサイズと計算コストを大幅に削減できることがわかった。
論文参考訳（メタデータ） (2026-03-05T01:48:30Z)
Knowledge-Informed Neural Network for Complex-Valued SAR Image Recognition [51.03674130115878]
本稿では,新しい「圧縮集約圧縮」アーキテクチャ上に構築された軽量なフレームワークであるKnowledge-Informed Neural Network(KINN)を紹介する。 KINNはパラメータ効率の認識における最先端を確立し、データスカースとアウト・オブ・ディストリビューションのシナリオにおいて例外的な一般化を提供する。
論文参考訳（メタデータ） (2025-10-23T07:12:26Z)
Reducing Storage of Pretrained Neural Networks by Rate-Constrained Quantization and Entropy Coding [56.066799081747845]
成長を続けるニューラルネットワークのサイズは、リソースに制約のあるデバイスに深刻な課題をもたらす。本稿では,レートアウェア量子化とエントロピー符号化を組み合わせた学習後圧縮フレームワークを提案する。この方法では非常に高速な復号化が可能であり、任意の量子化グリッドと互換性がある。
論文参考訳（メタデータ） (2025-05-24T15:52:49Z)
Order of Compression: A Systematic and Optimal Sequence to Combinationally Compress CNN [5.25545980258284]
本稿では,複数の圧縮手法を最も効率的な順序で適用するための,体系的かつ最適なシーケンスを提案する。提案手法では,ResNet34の計算コストを最大859倍に削減する。我々は, モデル圧縮の行程をシンプルかつ効果的に探索することで, モデル圧縮の実践に光を当てることができると考えている。
論文参考訳（メタデータ） (2024-03-26T07:26:00Z)
Compression of Structured Data with Autoencoders: Provable Benefit of Nonlinearities and Depth [83.15263499262824]
勾配勾配勾配は入力のスパース構造を完全に無視する解に収束することを示す。浅層構造にデノナイジング関数を付加することにより,スパースデータの圧縮におけるガウス性能の改善方法を示す。 CIFAR-10 や MNIST などの画像データセットに対して,本研究の成果を検証した。
論文参考訳（メタデータ） (2024-02-07T16:32:29Z)
C$^2$SP-Net: Joint Compression and Classification Network for Epilepsy Seizure Prediction [10.21441881111824]
我々は,1つのニューラルネットワークによる圧縮,予測,再構成を共同で解くために,C$2$SP-Netを提案する。プラグ・アンド・プレイ・イン・センサ圧縮行列を構築し、伝送帯域幅の要求を低減させる。提案手法は, 1/2から1/16までの圧縮比で予測精度0.35 %の平均損失を生成する。
論文参考訳（メタデータ） (2021-10-26T13:09:16Z)
Compact representations of convolutional neural networks via weight pruning and quantization [63.417651529192014]
本稿では、音源符号化に基づく畳み込みニューラルネットワーク(CNN)の新しいストレージフォーマットを提案し、重み付けと量子化の両方を活用する。我々は、全接続層で0.6%、ネットワーク全体で5.44%のスペース占有率を削減し、最低でもベースラインと同じくらいの競争力を発揮する。
論文参考訳（メタデータ） (2021-08-28T20:39:54Z)
Towards Compact CNNs via Collaborative Compression [166.86915086497433]
チャネルプルーニングとテンソル分解を結合してCNNモデルを圧縮する協調圧縮方式を提案する。 52.9%のFLOPを削減し、ResNet-50で48.4%のパラメータを削除しました。
論文参考訳（メタデータ） (2021-05-24T12:07:38Z)
An Efficient Statistical-based Gradient Compression Technique for Distributed Training Systems [77.88178159830905]
Sparsity-Inducing Distribution-based Compression (SIDCo) は閾値に基づくスペーシフィケーションスキームであり、DGCと同等のしきい値推定品質を享受する。 SIDCoは,非圧縮ベースライン,Topk,DGC圧縮機と比較して,最大で41:7%,7:6%,1:9%の速度でトレーニングを高速化する。
論文参考訳（メタデータ） (2021-01-26T13:06:00Z)
Data-Independent Structured Pruning of Neural Networks via Coresets [21.436706159840018]
本稿では, 圧縮率と将来の試験試料の近似誤差とのトレードオフが証明可能な最初の効率的な構造化プルーニングアルゴリズムを提案する。これまでの作業とは異なり、コアセットはデータ独立であり、逆数を含む任意の入力$xin mathbbRd$に対して関数の精度を確実に保証します。
論文参考訳（メタデータ） (2020-08-19T08:03:09Z)
On Compression Principle and Bayesian Optimization for Neural Networks [0.0]
本稿では,全てのデータとモデル定義の合計圧縮メッセージ長を最小化しつつ,デオードビリティを保証しながら,最適な予測モデルを提案する圧縮原理を提案する。圧縮原理によって要求される最適ネットワーク次元を求めることができる連続的な次元削減にドロップアウトが利用できることを示す。
論文参考訳（メタデータ） (2020-06-23T03:23:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。