論文の概要: Online Meta Adaptation for Variable-Rate Learned Image Compression

• arxiv url: http://arxiv.org/abs/2111.08256v1
• Date: Tue, 16 Nov 2021 06:46:23 GMT
• ステータス: 処理完了
• システム内更新日: 2021-11-17 15:24:02.460786
• Title: Online Meta Adaptation for Variable-Rate Learned Image Compression
• Title（参考訳）: 可変レート学習画像圧縮のためのオンラインメタ適応
• Authors: Wei Jiang and Wei Wang and Songnan Li and Shan Liu
• Abstract要約: この研究は、ディープニューラルネットワークに基づくエンドツーエンドの学習画像圧縮(lic)の2つの大きな問題に対処する。 我々は,条件付き変分自動エンコーダフレームワークにおけるメタラーニングとオンラインラーニングのアイデアを組み合わせた,licのオンラインメタラーニング(OML)設定を導入する。
• 参考スコア（独自算出の注目度）: 40.8361915315201
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: This work addresses two major issues of end-to-end learned image compression (LIC) based on deep neural networks: variable-rate learning where separate networks are required to generate compressed images with varying qualities, and the train-test mismatch between differentiable approximate quantization and true hard quantization. We introduce an online meta-learning (OML) setting for LIC, which combines ideas from meta learning and online learning in the conditional variational auto-encoder (CVAE) framework. By treating the conditional variables as meta parameters and treating the generated conditional features as meta priors, the desired reconstruction can be controlled by the meta parameters to accommodate compression with variable qualities. The online learning framework is used to update the meta parameters so that the conditional reconstruction is adaptively tuned for the current image. Through the OML mechanism, the meta parameters can be effectively updated through SGD. The conditional reconstruction is directly based on the quantized latent representation in the decoder network, and therefore helps to bridge the gap between the training estimation and true quantized latent distribution. Experiments demonstrate that our OML approach can be flexibly applied to different state-of-the-art LIC methods to achieve additional performance improvements with little computation and transmission overhead.
• Abstract（参考訳）: この研究は、深層ニューラルネットワークに基づくエンドツーエンドの学習画像圧縮(lic)の2つの主要な課題に対処する: 異なるネットワークで様々な品質の圧縮画像を生成する必要がある可変レート学習と、微分可能な近似量子化と真のハード量子化の間の列車-テストミスマッチである。 条件付き変分オートエンコーダ(CVAE)フレームワークにおいて,メタラーニングとオンラインラーニングのアイデアを組み合わせたオンラインメタラーニング(OML)設定を導入する。 条件変数をメタパラメータとして処理し、生成された条件特徴をメタプリミティブとして処理することで、所望の再構成をメタパラメータによって制御し、可変品質の圧縮に対応することができる。 オンライン学習フレームワークは、メタパラメータを更新するために使用され、条件付き再構成が現在の画像に適応的に調整される。 OMLメカニズムにより、メタパラメータはSGDを通じて効果的に更新できる。 条件付き再構成はデコーダネットワークにおける量子化潜在分布に基づいており、したがってトレーニング推定と真の量子化潜在分布とのギャップを埋めるのに役立つ。 実験により、OMLのアプローチは様々な最先端のlicメソッドに柔軟に適用でき、計算量や送信オーバーヘッドが少なく、さらなる性能向上が達成できることが示された。

関連論文リスト

• Modality-Agnostic Self-Supervised Learning with Meta-Learned Masked Auto-Encoder [61.7834263332332]
  我々はMasked Auto-Encoder (MAE) を統一されたモダリティに依存しないSSLフレームワークとして開発する。 メタラーニングは,MAEをモダリティに依存しない学習者として解釈する鍵として論じる。 本実験は,Modality-Agnostic SSLベンチマークにおけるMetaMAEの優位性を示す。
  論文  参考訳（メタデータ） (2023-10-25T03:03:34Z)
• Generalizing Supervised Deep Learning MRI Reconstruction to Multiple and Unseen Contrasts using Meta-Learning Hypernetworks [1.376408511310322]
  本研究の目的は、画像再構成のためのマルチモーダルなメタラーニングモデルを開発することである。 提案モデルは,モード固有の重みを生成するために進化するハイパーネットである。 MRI再建実験の結果, 関節リコンストラクションの精度は, 関節リコンストラクションよりも優れていた。
  論文  参考訳（メタデータ） (2023-07-13T14:22:59Z)
• MetaModulation: Learning Variational Feature Hierarchies for Few-Shot Learning with Fewer Tasks [63.016244188951696]
  本稿では,タスクを減らした少数ショット学習手法を提案する。 メタトレーニングタスクを増やすために、さまざまなバッチレベルでパラメータを変更します。 また,変分法を取り入れた学習的変分特徴階層も導入する。
  論文  参考訳（メタデータ） (2023-05-17T15:47:47Z)
• Learning Visual Representation from Modality-Shared Contrastive Language-Image Pre-training [88.80694147730883]
  本稿では,多種多様なモダリティ共有コントラスト言語-画像事前学習(MS-CLIP)フレームワークについて検討する。 学習条件下では、視覚と言語信号のためのほとんど統一されたエンコーダが、より多くのパラメータを分離する他のすべてのバリエーションより優れていることが観察された。 我々のアプローチは、24の下流視覚タスクのコレクションに基づいて、線形探索においてバニラCLIPを1.6ポイント上回ります。
  論文  参考訳（メタデータ） (2022-07-26T05:19:16Z)
• Bitwidth-Adaptive Quantization-Aware Neural Network Training: A Meta-Learning Approach [6.122150357599037]
  本稿では,適応ビット幅を用いた深層ニューラルネットワーク量子化を実現するメタラーニング手法を提案する。 MeBQATは、(メタ)訓練されたモデルを任意の候補ビット幅に量子化し、量子化からあまり精度を落とさずに推論を行うのに役立つ。 我々は、複数のQATスキームでそれらの妥当性を実験的に実証した。
  論文  参考訳（メタデータ） (2022-07-20T20:39:39Z)
• Continual Variational Autoencoder Learning via Online Cooperative Memorization [11.540150938141034]
  変分オートエンコーダ(VAE)は連続的な学習分類タスクでうまく使われている。 しかし、連続学習で学んだクラスやデータベースに対応する仕様で画像を生成する能力はよく理解されていない。 我々は、CLを動的最適輸送問題として定式化する新しい理論フレームワークを開発する。 次に,新しいメモリバッファリング手法,すなわちオンライン協調記憶(OCM)フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-07-20T18:19:27Z)
• CSformer: Bridging Convolution and Transformer for Compressive Sensing [65.22377493627687]
  本稿では,CNNからの詳細な空間情報を活用するためのハイブリッドフレームワークと,表現学習の強化を目的としたトランスフォーマーが提供するグローバルコンテキストを統合することを提案する。 提案手法は、適応的なサンプリングとリカバリからなるエンドツーエンドの圧縮画像センシング手法である。 実験により, 圧縮センシングにおける専用トランスアーキテクチャの有効性が示された。
  論文  参考訳（メタデータ） (2021-12-31T04:37:11Z)
• Learning to Learn Kernels with Variational Random Features [118.09565227041844]
  メタラーニングフレームワークにランダムなフーリエ機能を持つカーネルを導入し、その強力な数ショット学習能力を活用する。 変分推論問題としてメタVRFの最適化を定式化する。 MetaVRFは、既存のメタ学習方法に比べて、はるかに優れた、少なくとも競争力のあるパフォーマンスを提供します。
  論文  参考訳（メタデータ） (2020-06-11T18:05:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。