論文の概要: Equivariant Multi-Modality Image Fusion
- arxiv url: http://arxiv.org/abs/2305.11443v1
- Date: Fri, 19 May 2023 05:50:24 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-22 16:14:17.498844
- Title: Equivariant Multi-Modality Image Fusion
- Title(参考訳): 等変多モード画像融合
- Authors: Zixiang Zhao, Haowen Bai, Jiangshe Zhang, Yulun Zhang, Kai Zhang,
Shuang Xu, Dongdong Chen, Radu Timofte, Luc Van Gool
- Abstract要約: エンドツーエンドの自己教師型学習のための同変多モードImAge融合パラダイムを提案する。
我々のアプローチは、自然像が特定の変換に等しくなるという以前の知識に基づいている。
実験により,赤外可視画像と医用画像の両方に対して高品質な融合結果が得られた。
- 参考スコア(独自算出の注目度): 142.84362457655516
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Multi-modality image fusion is a technique used to combine information from
different sensors or modalities, allowing the fused image to retain
complementary features from each modality, such as functional highlights and
texture details. However, effectively training such fusion models is difficult
due to the lack of ground truth fusion data. To address this issue, we propose
the Equivariant Multi-Modality imAge fusion (EMMA) paradigm for end-to-end
self-supervised learning. Our approach is based on the prior knowledge that
natural images are equivariant to specific transformations. Thus, we introduce
a novel training framework that includes a fusion module and a learnable
pseudo-sensing module, which allow the network training to follow the
principles of physical sensing and imaging process, and meanwhile satisfy the
equivariant prior for natural images. Our extensive experiments demonstrate
that our method produces high-quality fusion results for both infrared-visible
and medical images, while facilitating downstream multi-modal segmentation and
detection tasks. The code will be released.
- Abstract(参考訳): マルチモダリティ画像融合(multi-modality image fusion)は、異なるセンサーやモダリティの情報を組み合わせて、機能的なハイライトやテクスチャの詳細といった各モダリティから補完的な特徴を保持する技術である。
しかし,地上真理融合データの欠如により,効果的に核融合モデルを訓練することは困難である。
この問題に対処するため,エンド・ツー・エンドの自己教師型学習のためのEMMA(Equivariant Multi-Modality imAge fusion)パラダイムを提案する。
我々のアプローチは、自然画像が特定の変換に同値であるという事前の知識に基づいている。
そこで本研究では,統合モジュールと学習可能な擬似センシングモジュールを含む新たなトレーニングフレームワークを導入する。これにより,ネットワークトレーニングは物理センシングおよび撮像プロセスの原則に従うことができ,一方,自然画像の同変を満たすことができる。
提案手法は, 赤外線画像と医用画像の両方に対して高品質な融合結果を生成するとともに, 下流のマルチモーダルセグメンテーションおよび検出作業を容易にする。
コードはリリースされます。
関連論文リスト
- From Text to Pixels: A Context-Aware Semantic Synergy Solution for
Infrared and Visible Image Fusion [66.33467192279514]
我々は、テキスト記述から高レベルなセマンティクスを活用し、赤外線と可視画像のセマンティクスを統合するテキスト誘導多モード画像融合法を提案する。
本手法は,視覚的に優れた融合結果を生成するだけでなく,既存の手法よりも高い検出mAPを達成し,最先端の結果を得る。
論文 参考訳(メタデータ) (2023-12-31T08:13:47Z) - A Task-guided, Implicitly-searched and Meta-initialized Deep Model for
Image Fusion [69.10255211811007]
本稿では,課題の多い現実シナリオにおいて,画像融合問題に対処するためのタスク誘導,インプリシト検索,メタ一般化(TIM)深層モデルを提案する。
具体的には、画像融合の教師なし学習プロセスを導くために、下流タスクからの情報を組み込む制約付き戦略を提案する。
このフレームワーク内に暗黙の探索スキームを設計し、高速な融合モデルのためのコンパクトなアーキテクチャを自動で発見する。
論文 参考訳(メタデータ) (2023-05-25T08:54:08Z) - DDFM: Denoising Diffusion Model for Multi-Modality Image Fusion [144.9653045465908]
拡散確率モデル(DDPM)に基づく新しい融合アルゴリズムを提案する。
近赤外可視画像融合と医用画像融合で有望な融合が得られた。
論文 参考訳(メタデータ) (2023-03-13T04:06:42Z) - Multi-modal Gated Mixture of Local-to-Global Experts for Dynamic Image
Fusion [59.19469551774703]
赤外線と可視画像の融合は,複数の情報源からの包括的情報を統合して,様々な作業において優れた性能を実現することを目的としている。
局所-言語の専門家によるマルチモーダルゲート混合を用いた動的画像融合フレームワークを提案する。
本モデルは,Mixture of Local Experts (MoLE) とMixture of Global Experts (MoGE) から構成される。
論文 参考訳(メタデータ) (2023-02-02T20:06:58Z) - CoCoNet: Coupled Contrastive Learning Network with Multi-level Feature
Ensemble for Multi-modality Image Fusion [72.8898811120795]
我々は、赤外線と可視画像の融合を実現するために、CoCoNetと呼ばれるコントラスト学習ネットワークを提案する。
本手法は,主観的評価と客観的評価の両面において,最先端(SOTA)性能を実現する。
論文 参考訳(メタデータ) (2022-11-20T12:02:07Z) - Unsupervised Image Fusion Method based on Feature Mutual Mapping [16.64607158983448]
上記の問題に対処するために,教師なし適応画像融合法を提案する。
入力元画像間の画素の接続を計測するグローバルマップを構築した。
本手法は視覚的知覚と客観的評価の両方において優れた性能を実現する。
論文 参考訳(メタデータ) (2022-01-25T07:50:14Z) - TransFuse: A Unified Transformer-based Image Fusion Framework using
Self-supervised Learning [5.849513679510834]
画像融合(英: Image fusion)とは、複数のソース画像からの情報を補完情報と統合し、単一の画像の豊かさを改善する技術である。
2段階の手法では、大規模な自然言語データセット上でエンコーダ・デコーダネットワークをトレーニングすることで、タスク固有の大量のトレーニングデータの必要性を回避する。
本稿では, ネットワークがタスク固有の特徴を学習することを奨励する, 破壊再構成に基づく自己指導型学習手法を提案する。
論文 参考訳(メタデータ) (2022-01-19T07:30:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。