論文の概要: A Task-guided, Implicitly-searched and Meta-initialized Deep Model for
Image Fusion
- arxiv url: http://arxiv.org/abs/2305.15862v1
- Date: Thu, 25 May 2023 08:54:08 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-26 16:16:18.704202
- Title: A Task-guided, Implicitly-searched and Meta-initialized Deep Model for
Image Fusion
- Title(参考訳): 画像融合のためのタスク誘導・暗黙探索・メタ初期化ディープモデル
- Authors: Risheng Liu, Zhu Liu, Jinyuan Liu, Xin Fan, Zhongxuan Luo
- Abstract要約: 本稿では,課題の多い現実シナリオにおいて,画像融合問題に対処するためのタスク誘導,インプリシト検索,メタ一般化(TIM)深層モデルを提案する。
具体的には、画像融合の教師なし学習プロセスを導くために、下流タスクからの情報を組み込む制約付き戦略を提案する。
このフレームワーク内に暗黙の探索スキームを設計し、高速な融合モデルのためのコンパクトなアーキテクチャを自動で発見する。
- 参考スコア(独自算出の注目度): 69.10255211811007
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Image fusion plays a key role in a variety of multi-sensor-based vision
systems, especially for enhancing visual quality and/or extracting aggregated
features for perception. However, most existing methods just consider image
fusion as an individual task, thus ignoring its underlying relationship with
these downstream vision problems. Furthermore, designing proper fusion
architectures often requires huge engineering labor. It also lacks mechanisms
to improve the flexibility and generalization ability of current fusion
approaches. To mitigate these issues, we establish a Task-guided,
Implicit-searched and Meta-initialized (TIM) deep model to address the image
fusion problem in a challenging real-world scenario. Specifically, we first
propose a constrained strategy to incorporate information from downstream tasks
to guide the unsupervised learning process of image fusion. Within this
framework, we then design an implicit search scheme to automatically discover
compact architectures for our fusion model with high efficiency. In addition, a
pretext meta initialization technique is introduced to leverage divergence
fusion data to support fast adaptation for different kinds of image fusion
tasks. Qualitative and quantitative experimental results on different
categories of image fusion problems and related downstream tasks (e.g., visual
enhancement and semantic understanding) substantiate the flexibility and
effectiveness of our TIM. The source code will be available at
https://github.com/LiuZhu-CV/TIMFusion.
- Abstract(参考訳): 画像融合は、様々なマルチセンサーベースの視覚システムにおいて、特に視覚品質の向上や知覚のための集約された特徴の抽出において重要な役割を果たす。
しかし、既存のほとんどの手法は画像融合を個別のタスクとみなすだけであり、これらの下流の視覚問題と根底にある関係を無視している。
さらに、適切な融合アーキテクチャを設計するには、しばしば大きなエンジニアリングの労力が必要となる。
また、現在の融合アプローチの柔軟性と一般化能力を改善するメカニズムも欠如している。
これらの問題を緩和するために,タスク誘導・インプリシト検索・メタ初期化(TIM)ディープモデルを構築し,課題のある現実シナリオにおける画像融合問題に対処する。
具体的には,画像融合の教師なし学習プロセスを指導するために,下流タスクからの情報を取り込む制約付き戦略を提案する。
このフレームワーク内に暗黙の探索スキームを設計し、高速な融合モデルのためのコンパクトなアーキテクチャを自動的に発見する。
さらに,様々な画像融合タスクの高速適応を支援するために,拡散融合データを活用するプリテキストメタ初期化手法が導入された。
画像融合問題と関連する下流タスク(視覚強調や意味理解など)の異なるカテゴリに関する質的かつ定量的な実験結果は、timの柔軟性と有効性を実証する。
ソースコードはhttps://github.com/LiuZhu-CV/TIMFusionで入手できる。
関連論文リスト
- Rethinking Normalization Strategies and Convolutional Kernels for Multimodal Image Fusion [25.140475569677758]
マルチモーダル画像融合は、様々なモーダルからの情報を総合的な画像を得るために統合することを目的としている。
既存の手法では、自然画像の融合を優先し、情報補完とネットワークトレーニング戦略に重点を置く傾向にある。
本稿では,融合目標,統計特性,およびデータ分布に関する2つの課題の有意な差異を論じる。
論文 参考訳(メタデータ) (2024-11-15T08:36:24Z) - Fusion from Decomposition: A Self-Supervised Approach for Image Fusion and Beyond [74.96466744512992]
画像融合の本質は、ソース画像からの相補的な情報を統合することである。
DeFusion++は、画像融合の品質を高め、下流の高レベル視覚タスクの有効性を高める、汎用的な融合表現を生成する。
論文 参考訳(メタデータ) (2024-10-16T06:28:49Z) - From Text to Pixels: A Context-Aware Semantic Synergy Solution for
Infrared and Visible Image Fusion [66.33467192279514]
我々は、テキスト記述から高レベルなセマンティクスを活用し、赤外線と可視画像のセマンティクスを統合するテキスト誘導多モード画像融合法を提案する。
本手法は,視覚的に優れた融合結果を生成するだけでなく,既存の手法よりも高い検出mAPを達成し,最先端の結果を得る。
論文 参考訳(メタデータ) (2023-12-31T08:13:47Z) - Equivariant Multi-Modality Image Fusion [124.11300001864579]
エンドツーエンドの自己教師型学習のための同変多モードImAge融合パラダイムを提案する。
我々のアプローチは、自然画像応答が特定の変換に等しくなるという以前の知識に根ざしている。
実験により、EMMAは赤外線可視画像と医用画像に高品質な融合結果をもたらすことが確認された。
論文 参考訳(メタデータ) (2023-05-19T05:50:24Z) - Bi-level Dynamic Learning for Jointly Multi-modality Image Fusion and
Beyond [50.556961575275345]
補完特性とカスケード二重タスク関連モジュールを融合する画像融合モジュールを構築した。
本研究では, 高速な1次近似により対応する勾配を計算し, 融合学習のための勾配のバランスをとるための動的重み付けアグリゲーションを提案する。
論文 参考訳(メタデータ) (2023-05-11T10:55:34Z) - LRRNet: A Novel Representation Learning Guided Fusion Network for
Infrared and Visible Images [98.36300655482196]
我々は,融合タスクを数学的に定式化し,その最適解とそれを実装可能なネットワークアーキテクチャとの接続を確立する。
特に、融合タスクに学習可能な表現アプローチを採用し、融合ネットワークアーキテクチャの構築は学習可能なモデルを生成する最適化アルゴリズムによって導かれる。
この新しいネットワークアーキテクチャに基づいて、赤外線および可視光画像を融合するために、エンドツーエンドの軽量核融合ネットワークを構築する。
論文 参考訳(メタデータ) (2023-04-11T12:11:23Z) - Unsupervised Image Fusion Method based on Feature Mutual Mapping [16.64607158983448]
上記の問題に対処するために,教師なし適応画像融合法を提案する。
入力元画像間の画素の接続を計測するグローバルマップを構築した。
本手法は視覚的知覚と客観的評価の両方において優れた性能を実現する。
論文 参考訳(メタデータ) (2022-01-25T07:50:14Z) - TransFuse: A Unified Transformer-based Image Fusion Framework using
Self-supervised Learning [5.849513679510834]
画像融合(英: Image fusion)とは、複数のソース画像からの情報を補完情報と統合し、単一の画像の豊かさを改善する技術である。
2段階の手法では、大規模な自然言語データセット上でエンコーダ・デコーダネットワークをトレーニングすることで、タスク固有の大量のトレーニングデータの必要性を回避する。
本稿では, ネットワークがタスク固有の特徴を学習することを奨励する, 破壊再構成に基づく自己指導型学習手法を提案する。
論文 参考訳(メタデータ) (2022-01-19T07:30:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。