論文の概要: Training-Adaptive Convolutional Sparse Coding via Information Bottleneck for Robust Visual Representation
- arxiv url: http://arxiv.org/abs/2609.19122v2
- Date: Thu, 17 Sep 2026 16:02:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:53.925277
- Title: Training-Adaptive Convolutional Sparse Coding via Information Bottleneck for Robust Visual Representation
- Title(参考訳): 頑健な視覚表現のためのインフォメーション・ボトルネックによる学習適応畳み込み符号化
- Abstract要約: 本稿では,ロバストな視覚信号表現のための学習適応型畳み込みスパース符号化フレームワークを提案する。
CIFARとImageNetの実験では、競合するクリーンデータ認識と、異なる入力摂動下でのロバスト性を大幅に向上した。
- 参考スコア(独自算出の注目度): 0.6999740786886536
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Visual signals require compact yet sufficient representations for robust downstream prediction. Convolutional sparse coding (CSC) provides an explicit mechanism for suppressing redundant components while preserving signal content, but its sparsity coefficient is typically fixed and manually selected. We propose a training-adaptive convolutional sparse coding framework for robust visual signal representation. Specifically, we unfold the CSC optimization with the Fast Iterative Shrinkage-Thresholding Algorithm (FISTA) and treat the sparsity coefficient as a differentiable variable jointly learned with the network parameters. From the information bottleneck perspective, this coefficient controls the trade-off between information retention and compression: the sparsity term promotes compact representations, while the reconstruction term together with task loss preserves task-relevant signal content. We further introduce a label-free post-training strategy that adjusts the compression strength for corrupted inputs with the main network parameters fixed. Experiments on CIFAR and ImageNet demonstrate competitive clean-data recognition and greatly improved robustness under different input perturbations.
- Abstract(参考訳): ビジュアル信号は、堅牢な下流予測のためにコンパクトで十分な表現を必要とする。
畳み込みスパース符号化(CSC)は、信号内容の保存中に冗長成分を抑圧する明示的なメカニズムを提供するが、その空間係数は通常固定され、手動で選択される。
本稿では,ロバストな視覚信号表現のための学習適応型畳み込みスパース符号化フレームワークを提案する。
具体的には,CSC最適化をFISTA(Fast Iterative Shrinkage-Thresholding Algorithm)で展開し,ネットワークパラメータとともに学習した微分変数として空間係数を扱う。
情報ボトルネックの観点から、この係数は情報保持と圧縮のトレードオフを制御し、疎度項はコンパクト表現を促進し、再構成項とタスク損失はタスク関連信号の内容を保存する。
さらに,ネットワークパラメータを固定した入力の圧縮強度を調整するラベルフリーのポストトレーニング戦略を導入する。
CIFARとImageNetの実験では、競合するクリーンデータ認識と、異なる入力摂動下でのロバスト性を大幅に向上した。
関連論文リスト
- Bridging the Perceptual Gap: Residual-Enhanced Downscaling and Manifold-Aware Perception Alignment Adaptation for NR-IQA [19.22449941750196]
主観的意味論から知覚的歪みを遠ざけるように設計された多様体認識フレームワークを提案する。
我々の手法は最先端の手法を大きく上回っている。
論文 参考訳(メタデータ) (2026-09-15T05:38:56Z) - Entropy-Punctured Bloom Filters for Memory-Efficient Machine Learning [0.0]
ブルームフィルタ符号化は、エンジニアリングされた特徴のコンパクトな確率的表現を提供する。
低可変ビット位置を除去するメモリ対応符号化方式であるエントロピー可変ブルームフィルタを提案する。
多様な回帰データセットに対するアプローチを評価する。
論文 参考訳(メタデータ) (2026-09-12T23:37:46Z) - Towards Practical Lossless Neural Compression for LiDAR Point Clouds [84.36825469211375]
高精度な幾何学的詳細の極端に広い範囲は、効率的な文脈モデリングを妨げる。
私たちのフレームワークは2つの軽量モジュールで構成されています。
実験では、リアルタイムに競争力のある圧縮性能を示す。
論文 参考訳(メタデータ) (2026-03-26T10:02:07Z) - Rethinking Multi-Condition DiTs: Eliminating Redundant Attention via Position-Alignment and Keyword-Scoping [61.459927600301654]
マルチコンディション制御は従来のコンカデント・アンド・アットエンドの戦略によってボトルネックとなる。
分析の結果,これらの相互作用の多くは空間的にも意味的にも冗長であることがわかった。
本稿では,これらの冗長性を解消するための高効率なフレームワークであるPKAを提案する。
論文 参考訳(メタデータ) (2026-02-06T16:39:10Z) - Contextual Compression Encoding for Large Language Models: A Novel Framework for Multi-Layered Parameter Space Pruning [0.0]
文脈圧縮。
(CCE)はパラメータ分布を動的に再構成する多段符号化機構を導入した。
CCEは言語表現力とコヒーレンスを維持し、テキスト生成や分類タスクの精度を維持した。
論文 参考訳(メタデータ) (2025-02-12T11:44:19Z) - An Enhanced Encoder-Decoder Network Architecture for Reducing Information Loss in Image Semantic Segmentation [6.596361762662328]
残差接続により拡張された革新的なエンコーダ・デコーダネットワーク構造を導入する。
提案手法では,様々な画像スケールにまたがる複雑な情報保存を効果的に行うために,マルチレジデント接続戦略を採用している。
ネットワークトレーニングの収束率を高め,サンプルの不均衡問題を緩和するために,改良されたクロスエントロピー損失関数を考案した。
論文 参考訳(メタデータ) (2024-05-26T05:15:53Z) - Reducing Predictive Feature Suppression in Resource-Constrained
Contrastive Image-Caption Retrieval [65.33981533521207]
我々は、リソース制約のあるICR手法における予測的特徴抑圧を減らすアプローチを提案する:潜在目標デコーディング(LTD)
LTDは、汎用文エンコーダの潜時空間で入力キャプションを再構成し、画像及びキャプションエンコーダが予測的特徴を抑制するのを防止する。
実験の結果,入力空間における入力キャプションの再構成とは異なり,LTDはリコール@k,r精度,nDCGスコアを高くすることで,予測的特徴抑制を低減できることがわかった。
論文 参考訳(メタデータ) (2022-04-28T09:55:28Z) - Reducing Redundancy in the Bottleneck Representation of the Autoencoders [98.78384185493624]
オートエンコーダは教師なしニューラルネットワークの一種であり、様々なタスクを解くのに使用できる。
本稿では,ボトルネック表現における特徴冗長性を明示的に罰する手法を提案する。
我々は,3つの異なるデータセットを用いた次元削減,MNISTデータセットを用いた画像圧縮,ファッションMNISTを用いた画像デノナイズという,さまざまなタスクにまたがってアプローチを検証した。
論文 参考訳(メタデータ) (2022-02-09T18:48:02Z) - Learning Task-Oriented Communication for Edge Inference: An Information
Bottleneck Approach [3.983055670167878]
ローエンドエッジ装置は、ローカルデータサンプルの抽出された特徴ベクトルを強力なエッジサーバに送信して処理する。
帯域幅が限られているため、データを低遅延推論のための情報的かつコンパクトな表現に符号化することが重要である。
特徴抽出,ソース符号化,チャネル符号化を協調的に最適化する学習型通信方式を提案する。
論文 参考訳(メタデータ) (2021-02-08T12:53:32Z) - Resolution Adaptive Networks for Efficient Inference [53.04907454606711]
本稿では,低分解能表現が「容易」な入力を分類するのに十分である,という直感に触発された新しいレゾリューション適応ネットワーク(RANet)を提案する。
RANetでは、入力画像はまず、低解像度表現を効率的に抽出する軽量サブネットワークにルーティングされる。
ネットワーク内の高解像度パスは、"ハード"サンプルを認識する能力を維持している。
論文 参考訳(メタデータ) (2020-03-16T16:54:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。