論文の概要: TAP: Parameter-efficient Task-Aware Prompting for Adverse Weather Removal
- arxiv url: http://arxiv.org/abs/2508.07878v1
- Date: Mon, 11 Aug 2025 11:51:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-08-12 21:23:29.073747
- Title: TAP: Parameter-efficient Task-Aware Prompting for Adverse Weather Removal
- Title(参考訳): TAP: 逆気象除去のためのパラメータ効率の高いタスク認識プロンプト
- Authors: Hanting Wang, Shengpeng Ji, Shulei Wang, Hai Huang, Xiao Jin, Qifei Zhang, Tao Jin,
- Abstract要約: 種々の悪天候に対処するためのパラメータ効率のよいオールインワン画像復元フレームワークを提案する。
我々は、教師付き学習を用いて、一般的な復元知識を取得し、そのモデルを特定の劣化に適応させる。
これらのプロンプトに低ランク分解を適用し、タスク一般特性とタスク特化特性の両方をキャプチャする。
- 参考スコア(独自算出の注目度): 6.631049266661457
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Image restoration under adverse weather conditions has been extensively explored, leading to numerous high-performance methods. In particular, recent advances in All-in-One approaches have shown impressive results by training on multi-task image restoration datasets. However, most of these methods rely on dedicated network modules or parameters for each specific degradation type, resulting in a significant parameter overhead. Moreover, the relatedness across different restoration tasks is often overlooked. In light of these issues, we propose a parameter-efficient All-in-One image restoration framework that leverages task-aware enhanced prompts to tackle various adverse weather degradations.Specifically, we adopt a two-stage training paradigm consisting of a pretraining phase and a prompt-tuning phase to mitigate parameter conflicts across tasks. We first employ supervised learning to acquire general restoration knowledge, and then adapt the model to handle specific degradation via trainable soft prompts. Crucially, we enhance these task-specific prompts in a task-aware manner. We apply low-rank decomposition to these prompts to capture both task-general and task-specific characteristics, and impose contrastive constraints to better align them with the actual inter-task relatedness. These enhanced prompts not only improve the parameter efficiency of the restoration model but also enable more accurate task modeling, as evidenced by t-SNE analysis. Experimental results on different restoration tasks demonstrate that the proposed method achieves superior performance with only 2.75M parameters.
- Abstract(参考訳): 悪天候下での画像復元は広範囲に研究され、多くの高性能な手法が提案されている。
特に、All-in-Oneアプローチの最近の進歩は、マルチタスク画像復元データセットのトレーニングによる印象的な結果を示している。
しかし、これらの手法の多くは、特定の劣化タイプごとに専用のネットワークモジュールやパラメータに依存しており、結果としてかなりのパラメータのオーバーヘッドが生じる。
さらに、異なる復元作業間の関連性はしばしば見過ごされる。
これらの課題を踏まえて,タスク認識の強化されたプロンプトを活用したパラメータ効率の高いオールインワン画像復元フレームワークを提案し,特に,タスク間のパラメータ衝突を軽減するために,事前学習フェーズと即時学習フェーズからなる2段階トレーニングパラダイムを採用する。
まず、教師付き学習を用いて、一般的な復元知識を取得し、次に訓練可能なソフトプロンプトを用いて、特定の劣化に対処するモデルを適応させる。
重要なことは、これらのタスク固有のプロンプトをタスク認識方式で強化する。
我々はこれらのプロンプトに低ランク分解を適用し、タスク一般特性とタスク特化特性の両方をキャプチャし、実際のタスク間関連性との整合性を改善するためにコントラスト制約を課す。
これらの強化されたプロンプトは、復元モデルのパラメータ効率を向上するだけでなく、t-SNE分析によって証明されているように、より正確なタスクモデリングを可能にする。
異なる復元作業に関する実験結果から,提案手法は275万のパラメータしか持たず,優れた性能を発揮することが示された。
関連論文リスト
- Beyond Degradation Redundancy: Contrastive Prompt Learning for All-in-One Image Restoration [109.38288333994407]
コントラスト・プロンプト・ラーニング(Contrastive Prompt Learning, CPL)は、プロンプト・タスクのアライメントを根本的に強化する新しいフレームワークである。
本フレームワークは,パラメータ効率を保ちながら,新たな最先端性能を確立し,統一画像復元のための原理的ソリューションを提供する。
論文 参考訳(メタデータ) (2025-04-14T08:24:57Z) - Task-Adapter: Task-specific Adaptation of Image Models for Few-shot Action Recognition [34.88916568947695]
簡単なタスク固有適応法(Task-Adapter)を提案する。
提案したTask-Adapterをバックボーンの最後のいくつかのレイヤに導入することで、フル微調整によるオーバーフィッティング問題を軽減します。
実験結果から,提案したタスクアダプタが標準の4つのアクション認識データセットに対して有効であることを示す。
論文 参考訳(メタデータ) (2024-08-01T03:06:56Z) - PECTP: Parameter-Efficient Cross-Task Prompts for Incremental Vision Transformer [76.39111896665585]
インクリメンタルラーニング(IL)は、シーケンシャルタスクの深いモデルを継続的に学習することを目的としている。
近年の大規模事前訓練モデル (PTM) は, 従来の試料を含まない実用ILにおいて, 即時的手法により優れた性能を発揮している。
論文 参考訳(メタデータ) (2024-07-04T10:37:58Z) - Instruct-IPT: All-in-One Image Processing Transformer via Weight Modulation [31.526982642627335]
我々は、オールインワン画像処理変換器(IPT)であるインストラクト-IPTを提案する。
Instruct-IPTは、大きなタスク間ギャップを持つ多様体画像復元タスクに効果的に対処できる。
優れた圧縮戦略のランク解析を行い、バイアスに対して低ランク分解を行う。
論文 参考訳(メタデータ) (2024-06-30T12:13:34Z) - Parameter Efficient Adaptation for Image Restoration with Heterogeneous Mixture-of-Experts [52.39959535724677]
画像復元モデルの一般化を改善するための代替手法を提案する。
ローカル,グローバル,チャネル表現ベースをキャプチャするマルチブランチ設計のMixture-of-Experts (MoE) であるAdaptIRを提案する。
我々のAdaptIRは、単一劣化タスクにおける安定した性能を実現し、8時間間、微調整はわずか0.6%のパラメータしか持たず、ハイブリッド劣化タスクにおいて優れる。
論文 参考訳(メタデータ) (2023-12-12T14:27:59Z) - On the Effectiveness of LayerNorm Tuning for Continual Learning in
Vision Transformers [47.77328392236625]
最新のリハーサルなし連続学習手法は、視覚変換器の特異性を利用してタスク固有のプロンプトを学習する。
そこで、まずタスク固有のパラメータを最適化し、次に推論時間の同じ選択手順で分類器を訓練する。
提案手法は, 計算コストを抑えながら, より優れた結果が得られるか, あるいは, 技術水準に匹敵する結果が得られる。
論文 参考訳(メタデータ) (2023-08-18T15:11:16Z) - Task Difficulty Aware Parameter Allocation & Regularization for Lifelong
Learning [20.177260510548535]
本稿では,その学習困難度に基づいてパラメータ割り当てと正規化から各タスクに適した戦略を適応的に選択するAllocation & Regularization (PAR)を提案する。
提案手法はスケーラビリティが高く,モデルの冗長性を著しく低減し,モデルの性能を向上する。
論文 参考訳(メタデータ) (2023-04-11T15:38:21Z) - Systematic Analysis for Pretrained Language Model Priming for Parameter-Efficient Fine-tuning [45.99877631719761]
本稿では,PE手法の少数ショット適応と一般化能力を高めるための汎用PEプライミングフレームワークを提案する。
我々は160種類のNLPタスクを含む数ショットのクロスドメインベンチマークで実験を行った。
論文 参考訳(メタデータ) (2022-12-02T08:56:53Z) - Reparameterizing Convolutions for Incremental Multi-Task Learning
without Task Interference [75.95287293847697]
マルチタスクモデルを開発する際の2つの一般的な課題は、しばしば文献で見過ごされる。
まず、モデルを本質的に漸進的に可能にし、以前に学んだことを忘れずに新しいタスクから情報を継続的に取り入れる(インクリメンタルラーニング)。
第二に、タスク間の有害な相互作用を排除し、マルチタスク設定(タスク干渉)においてシングルタスクのパフォーマンスを著しく低下させることが示されている。
論文 参考訳(メタデータ) (2020-07-24T14:44:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。