論文の概要: Extending Decoupled Attention to Dense Prediction and Masked Training for Multi-Channel Images
- arxiv url: http://arxiv.org/abs/2609.21629v1
- Date: Fri, 18 Sep 2026 11:11:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-21 18:40:17.032477
- Title: Extending Decoupled Attention to Dense Prediction and Masked Training for Multi-Channel Images
- Title(参考訳): マルチチャネル画像におけるデカップリング注意の深化とマズードトレーニング
- Abstract要約: マルチチャネルビジョン変換器(MC-ViT)は、各チャネルを独立して1つのシーケンスにトークン化する。
DC-ViTは、チャネル間で計算された更新からチャネル内で計算された計算を分離し、チャネルが結合される前にチャネルごとの表現を形成することで、これを規制する。
しかし、その定式化は、トークンを空間的位置でペアリングするので、全てのチャネルで同じ可視トークンを必要とする。
蛍光顕微鏡、イメージング質量、衛星画像にまたがる3つの分類と3つのセグメンテーションのベンチマークには、高チャネル数での密度予測が含まれており、その結果の定式化はMC-ViTベースラインよりも優れている。
- 参考スコア(独自算出の注目度): 7.8625815615983825
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Multi-Channel imaging (MCI) data differs fundamentally from natural images, as each channel records a semantically distinct signal rather than a colour band. To adapt vision encoders to MCI data, Multi-Channel Vision Transformers (MC-ViTs) tokenize each channel independently and concatenate the resulting tokens into one sequence, and the channel count is no longer fixed by the architecture. Self-attention is then computed across all channel-patch tokens with no restriction on which channels attend to which, which dilutes the features of individual channels. The Decoupled Vision Transformer (DC-ViT) regulates this by separating updates computed within a channel from updates computed across channels, and by forming a representation per channel before the channels are combined. Its formulation, however, pairs tokens by spatial position, and thus requires the same visible tokens in every channel. Correspondence under independent per-channel masking is recovered by solving a linear assignment between the retained patches of each channel, which allows decoupled attention to be combined with current masked multi-channel training in its standard configuration rather than a restricted one. Across three classification and three segmentation benchmarks spanning fluorescence microscopy, imaging mass cytometry and satellite imaging, including dense prediction at high channel counts, the resulting formulation outperforms the strongest MC-ViT baseline.
- Abstract(参考訳): マルチチャネルイメージング(MCI)データは、各チャネルが色帯域ではなく意味的に異なる信号を記録するため、自然画像と根本的に異なる。
MCIデータに視覚エンコーダを適用するために、MC-ViT(Multi-Channel Vision Transformer)は各チャネルを独立してトークン化し、その結果のトークンを1つのシーケンスにまとめる。
セルフアテンションは、各チャネルの特徴を希釈するどのチャネルにどのチャネルが出席するかを制限せずに、すべてのチャネルパッチトークンで計算される。
Decoupled Vision Transformer (DC-ViT)は、チャネル内で計算された更新を、チャネル間で計算された更新から切り離し、チャネルが結合される前にチャネルごとの表現を形成することで、これを規制する。
しかし、その定式化は、トークンを空間的位置でペアリングするので、全てのチャネルで同じ可視トークンを必要とする。
各チャネルの保持パッチ間の線形割り当てを解くことで、独立したチャネルごとのマスキングの対応を回復する。これにより、制限されたパッチではなく、現在のマスク付きマルチチャネルトレーニングと組み合わせることができる。
3つの分類と3つのセグメンテーションのベンチマークでは、蛍光顕微鏡、画像の質量サイトメトリー、高チャネル数での密度予測を含む衛星画像が、MC-ViTベースラインよりも優れていた。
関連論文リスト
- CI-ICM: Channel Importance-driven Learned Image Coding for Machines [56.1188469769241]
本稿では,Channel Importance-driven learned Image Coding for Machines (CI-ICM)を提案する。
提案したCI-ICMは、BD-mAP@50:95で16.25%のオブジェクト検出と13.72%のインスタンスセグメンテーションを実現している。
論文 参考訳(メタデータ) (2026-04-07T02:36:47Z) - DC-ViT: Modulating Spatial and Channel Interactions for Multi-Channel Images [9.507520646516719]
マルチチャネルイメージング(MCI)のトレーニングと評価は、異種チャネル構成のため、依然として困難である。
最近のMulti-Channel Vision Transformers (MC-ViTs)は、フレキシブルなチャネル入力を可能にすることでこの問題に対処している。
Decoupled Self-Attention (DSA)を用いて情報共有を明示的に制御するDecoupled Vision Transformer (DC-ViT)を提案する。
論文 参考訳(メタデータ) (2026-03-15T08:31:34Z) - CP Loss: Channel-wise Perceptual Loss for Time Series Forecasting [67.3477355449697]
時系列データに対するチャネルワイド知覚損失(CP損失)を提案する。
我々は,その特性に適応した各チャネルに対して,独自の知覚空間を学習する。
これらの知覚空間内で損失を計算し、モデルを最適化する。
論文 参考訳(メタデータ) (2026-01-25T15:31:37Z) - ChA-MAEViT: Unifying Channel-Aware Masked Autoencoders and Multi-Channel Vision Transformers for Improved Cross-Channel Learning [27.124745103676734]
ChA-MAEViTは、マルチチャネルイメージングチャネル間の特徴学習を強化するMAEベースの手法である。
我々はChA-MAEViTが最先端のMCI-ViTを3.0-21.5%上回っていることを示す。
論文 参考訳(メタデータ) (2025-03-25T03:45:59Z) - Isolated Channel Vision Transformers: From Single-Channel Pretraining to Multi-Channel Finetuning [4.376574371216863]
大規模MCIデータセットのための簡易かつ効果的な事前学習フレームワークを提案する。
分離チャネル ViT (IC-ViT) と呼ばれるこの手法は,画像チャネルを個別にパッチし,マルチモーダルなマルチチャネルタスクの事前学習を可能にする。
JUMP-CPとCHAMMI、衛星画像用So2Sat-LCZ42など、様々なタスクとベンチマークの実験により、提案されたIC-ViTはパフォーマンス改善の4-14ポイントを提供することが示された。
論文 参考訳(メタデータ) (2025-03-12T20:45:02Z) - DaViT: Dual Attention Vision Transformers [94.62855697081079]
デュアルアテンションビジョン変換器(DaViT)について紹介する。
DaViTは、計算効率を維持しながらグローバルなコンテキストをキャプチャできるビジョントランスフォーマーアーキテクチャである。
我々は,DaViTが4つのタスクにおける最先端の性能を効率よく計算できることを示す。
論文 参考訳(メタデータ) (2022-04-07T17:59:32Z) - Semi-Supervised Learning for Channel Charting-Aided IoT Localization in
Millimeter Wave Networks [97.66522637417636]
ミリ波ネットワークにおけるチャネルチャート(CC)支援の新たな枠組みを提案する。
特に,無線機器の3次元位置を推定するために,畳み込み型オートエンコーダモデルを提案する。
フレームワークは半教師付きフレームワークに拡張され、オートエンコーダは2つのコンポーネントに分割される。
論文 参考訳(メタデータ) (2021-08-03T14:41:38Z) - Learning from Heterogeneous EEG Signals with Differentiable Channel
Reordering [51.633889765162685]
CHARMは、一貫性のない入力チャネルをまたいだ単一のニューラルネットワークのトレーニング方法である。
我々は4つの脳波分類データセットの実験を行い、CHARMの有効性を実証した。
論文 参考訳(メタデータ) (2020-10-21T12:32:34Z) - Volumetric Transformer Networks [88.85542905676712]
学習可能なモジュールである容積変換器ネットワーク(VTN)を導入する。
VTNは、中間CNNの空間的およびチャネル的特徴を再設定するために、チャネル回りの歪み場を予測する。
実験の結果,VTNは特徴量の表現力を一貫して向上し,細粒度画像認識とインスタンスレベルの画像検索におけるネットワークの精度が向上することがわかった。
論文 参考訳(メタデータ) (2020-07-18T14:00:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。