論文の概要: ChanSFormer: A Channel Agnostic Vision Transformer for Multi-Channel Cell Painting Images
- arxiv url: http://arxiv.org/abs/2611.06015v1
- Date: Wed, 04 Nov 2026 06:05:13 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 03:25:57.995292
- Title: ChanSFormer: A Channel Agnostic Vision Transformer for Multi-Channel Cell Painting Images
- Title(参考訳): ChanSFormer:マルチチャネルセル画像のためのチャネル非依存型視覚変換器
- Abstract要約: 高濃度マルチチャネルイメージングは現代の科学パイプラインの中心である。
現在のビジョントランスフォーマーは、学習可能なチャネル埋め込みによるグローバルな自己意識に依存している。
ChanSFormerは、厳密な埋め込みを、不整合空間チャネルアテンションと個別チャネルCLSトークンに置き換える。
- 参考スコア(独自算出の注目度): 34.301368954724786
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: High-content multi-channel imaging, from Cell Painting assays to remote sensing, is central to modern scientific pipelines. Because these channels are highly heterogeneous and experimental configurations frequently evolve, a practical vision backbone must be fundamentally channel-agnostic. Current channel-adaptive vision transformers rely on global self-attention with learnable channel embeddings, which can be computed only for previously known channels. Attempts to overcome this limitation of new channels either discard the embeddings, losing channel identity, or process each channel independently, thereby eliminating critical cross-channel interactions. To address this, we introduce ChanSFormer, an efficient Vision Transformer that replaces rigid embeddings with disentangled spatial-channel attention and individual channel CLS tokens. This architecture natively preserves both distinct channel identities and cross-channel information flow. Furthermore, the individual channel class token design unlocks more informative feature representations for self-supervised learning and enables representation-based channel sampling while remaining channel-agnostic. We evaluate ChanSFormer on two biology multi-channel datasets, CHAMMI, JUMP-CP and a satellite dataset, So2Sat. Experimental results show that ChanSFormer outperforms state-of-the-art methods by 3.93%-4.27% on JUMP-CP in classification accuracy. It also demonstrates exceptional cross-dataset transferability under a self-supervised setting, outperforming previous methods by up to 2.72% in accuracy in the same classification tasks. Furthermore, the disentangled attention reduces the quadratic complexity of channel-by-spatial sequence length of the global attention baseline, thus improving throughput by 55%-313%. Code is available at https://github.com/cvlab-stonybrook/ChanSFormer.
- Abstract(参考訳): セルペイントアッセイからリモートセンシングまで、高濃度のマルチチャネルイメージングは現代の科学パイプラインの中心である。
これらのチャネルは高度に異質であり、実験的な構成が頻繁に進化するため、実用的な視覚バックボーンは基本的にチャネルに依存しない必要がある。
現在のチャネル適応型視覚変換器は、学習可能なチャネル埋め込みによるグローバルな自己アテンションに頼っている。
新たなチャネルの制限を克服しようとする試みは、埋め込みを捨てたり、チャネルのアイデンティティをなくしたり、それぞれのチャネルを個別に処理したりすることで、重要なチャネル間の相互作用をなくす。
この問題を解決するために,剛体埋め込みを不整合な空間チャネルアテンションと個別チャネルCLSトークンに置き換える効率的なビジョン変換器であるChanSFormerを紹介する。
このアーキテクチャは、異なるチャネルアイデンティティとチャネル間の情報フローの両方をネイティブに保存する。
さらに、個別チャネルクラストークン設計により、自己教師付き学習のためのより情報的な特徴表現が解放され、チャネルに依存しないまま、表現に基づくチャネルサンプリングが可能となる。
ChanSFormerは,CHAMMI,JUMP-CP,So2Satの2つの生物学的マルチチャネルデータセットで評価する。
ChanSFormer は JUMP-CP の分類精度において3.93%-4.27% で最先端の手法より優れていた。
また、自己監督された設定の下では例外的なデータセット間の転送可能性を示し、同じ分類タスクにおいて最大2.72%の精度で以前の手法より優れている。
さらに、アンタングルされたアテンションは、グローバルアテンションベースラインのチャネル間シーケンス長の2次複雑さを低減し、スループットを55%-313%向上させる。
コードはhttps://github.com/cvlab-stonybrook/ChanSFormer.comで入手できる。
関連論文リスト
- Extending Decoupled Attention to Dense Prediction and Masked Training for Multi-Channel Images [7.8625815615983825]
マルチチャネルビジョン変換器(MC-ViT)は、各チャネルを独立して1つのシーケンスにトークン化する。
DC-ViTは、チャネル間で計算された更新からチャネル内で計算された計算を分離し、チャネルが結合される前にチャネルごとの表現を形成することで、これを規制する。
しかし、その定式化は、トークンを空間的位置でペアリングするので、全てのチャネルで同じ可視トークンを必要とする。
蛍光顕微鏡、イメージング質量、衛星画像にまたがる3つの分類と3つのセグメンテーションのベンチマークには、高チャネル数での密度予測が含まれており、その結果の定式化はMC-ViTベースラインよりも優れている。
論文 参考訳(メタデータ) (2026-09-18T11:11:57Z) - DC-ViT: Modulating Spatial and Channel Interactions for Multi-Channel Images [9.507520646516719]
マルチチャネルイメージング(MCI)のトレーニングと評価は、異種チャネル構成のため、依然として困難である。
最近のMulti-Channel Vision Transformers (MC-ViTs)は、フレキシブルなチャネル入力を可能にすることでこの問題に対処している。
Decoupled Self-Attention (DSA)を用いて情報共有を明示的に制御するDecoupled Vision Transformer (DC-ViT)を提案する。
論文 参考訳(メタデータ) (2026-03-15T08:31:34Z) - CP Loss: Channel-wise Perceptual Loss for Time Series Forecasting [67.3477355449697]
時系列データに対するチャネルワイド知覚損失(CP損失)を提案する。
我々は,その特性に適応した各チャネルに対して,独自の知覚空間を学習する。
これらの知覚空間内で損失を計算し、モデルを最適化する。
論文 参考訳(メタデータ) (2026-01-25T15:31:37Z) - ChA-MAEViT: Unifying Channel-Aware Masked Autoencoders and Multi-Channel Vision Transformers for Improved Cross-Channel Learning [27.124745103676734]
ChA-MAEViTは、マルチチャネルイメージングチャネル間の特徴学習を強化するMAEベースの手法である。
我々はChA-MAEViTが最先端のMCI-ViTを3.0-21.5%上回っていることを示す。
論文 参考訳(メタデータ) (2025-03-25T03:45:59Z) - From Similarity to Superiority: Channel Clustering for Time Series Forecasting [61.96777031937871]
CCM(Channel Clustering Module)を開発した。
CCMは、固有の類似性を特徴とするチャネルを動的にグループ化し、個々のチャネルのアイデンティティの代わりにクラスタ情報を活用する。
CCMは、CIモデルとCDモデルのパフォーマンスを、それぞれ長期および短期の予測において平均利率2.4%と7.2%で向上させることができる。
論文 参考訳(メタデータ) (2024-03-31T02:46:27Z) - SCTransNet: Spatial-channel Cross Transformer Network for Infrared Small Target Detection [46.049401912285134]
赤外線小ターゲット検出(IRSTD)は近年,U字型ニューラルモデルから大きな恩恵を受けている。
既存のテクニックは、ターゲットが背景と高い類似性を持つ場合に苦労する。
本稿では,空間チャネルクロストランスネットワーク(SCTransNet)を提案する。
論文 参考訳(メタデータ) (2024-01-28T06:41:15Z) - Joint Channel Estimation and Feedback with Masked Token Transformers in
Massive MIMO Systems [74.52117784544758]
本稿では,CSI行列内の固有周波数領域相関を明らかにするエンコーダデコーダに基づくネットワークを提案する。
エンコーダ・デコーダネットワーク全体がチャネル圧縮に使用される。
提案手法は,共同作業における現状のチャネル推定およびフィードバック技術より優れる。
論文 参考訳(メタデータ) (2023-06-08T06:15:17Z) - Bridging the Gap Between Vision Transformers and Convolutional Neural
Networks on Small Datasets [91.25055890980084]
小さなデータセットでスクラッチからトレーニングする場合、ビジョントランスフォーマー(ViT)と畳み込みニューラルネットワーク(CNN)の間には、依然として極端なパフォーマンスギャップがある。
本稿では2つの帰納バイアスを緩和する解として動的ハイブリッドビジョン変換器(DHVT)を提案する。
我々のDHVTは、CIFAR-100が85.68%、22.8Mパラメータが82.3%、ImageNet-1Kが24.0Mパラメータが82.3%の軽量モデルで、最先端のパフォーマンスを実現している。
論文 参考訳(メタデータ) (2022-10-12T06:54:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。